Ask GN: 이런 LLM 서비스 써보신분 계신가요?

7 hours ago 4

최근에 클루드 프로 구독요금제로 헤르메스 에이전트에 연동해서 써봤습니다.

총 5개의 프로젝트 기획을 시켰는데 2시간만 써도 사용량 제한 걸리고 간단한 작업을 하는데도 한세월이고 제가 구독하는 요금만큼 평소에 자주쓰는게 아니고 가끔 많이 사용하는 패턴이라 구독이 아깝고 불편했습니다.

그래서 에이전트한테 "사용한 만큼 지불하고 요금이 싼 서비스나 토큰 입출력 속도가 빠른 서비스가 있습니까?"를 물어봤는데 다음을 추천하더라구요.

  1. Cerebras Inference
  2. SambaNova Cloud
  3. Groq Cloud
  4. DeepInfra

4개 다써보며 알아가보기엔 시간과 돈이 아깝다 보니 써보신분들의 이야기를 들어보자 합니다.
위 서비스들의 사용 경험이나 추천할만한 다른 서비스가 있다면 자유롭게 답변 남겨주세요!

Read Entire Article




피플앤툴즈 네트워크
🛍 샵