Together AI

개발자가 열린 AI 모델을 API로 쓰고, 미세조정하며 대여 GPU에서 돌리는 클라우드 플랫폼.

무료무료 요금제 미공개

유료 시작Serverless Inference (Pay-as-you-go)1M 토큰 당 예 (입력/출력): gpt-oss-20B USD 0.05 / 0.20; LFM2.5-8B-A1B USD 0.03 / 0.12; gpt-oss-120B USD 0.15 / 0.60; Llama 3.3 70B USD 1.04 / 1.04; …

분야: 개발과 코드 · 에이전트와 RAG 프레임워크

기능

Together AI는 오픈 모델용 클라우드입니다. API(애플리케이션 프로그래밍 인터페이스) 추론, Fine-Tuning, 임대 GPU(Graphics Processing Unit)를 지원합니다. 서버리스는 토큰 과금, Batch는 실시간의 절반입니다. 캐시 입력은 더 저렴합니다.

Dedicated Inference는 GPU를 격리합니다. 클러스터와 Provisioned Throughput(PTU)은 용량을 예약합니다. 가격은 미국 달러이며 가격 페이지에 EU 리전은 없습니다. 토큰·GPU 목록은 가격 개요에 있습니다.

임대 GPU에서 오픈 모델을 실행·미세조정·호스팅
서버리스 추론과 실시간 절반 요금의 Batch API
자체 모델용 전용 싱글 테넌트 GPU와 오토스케일
예약 GPU 클러스터(H100, H200 등)와 Provisioned Throughput
텍스트 외에 이미지, 영상, 오디오, 받아쓰기, 임베딩, 재순위, 모더레이션
Fine-Tuning(LoRA 또는 풀), 코드 샌드박스, 공유 파일시스템

가격과 요금제

단계	가격	기간	포함 내용
Serverless Inference (Pay-as-you-go)	$0.03	사용 후	1M 토큰 당 예 (입력/출력): gpt-oss-20B USD 0.05 / 0.20; LFM2.5-8B-A1B USD 0.03 / 0.12; gpt-oss-120B USD 0.15 / 0.60; Llama 3.3 70B USD 1.04 / 1.04; Qwen3.7-최대 USD 1.25 / 3.75; 김이 K3 USD 3.00 / 15.00 캐시 입력이 더 쌈, 예: Kimi K3 3.00 USD 대신 0.30 USD 0.00 USD로 오른 모델 하나: Ternary Bonsai 27B 실시간 추론의 절반가인 Batch API 기타 모달리티: 이미지, 영상, 오디오, 전사, Embeddings, Rerank, Moderation
Dedicated Inference	$5.49 / $8.99	GPU 및 시간당, 온디맨드	성능 보장 싱글 테넌트 GPU 인스턴스 자체 모델 지원, Autoscaling H200, B300, GB200 NVL72, GB300 NVL72는 문의만; 예약 용량도 문의만
GPU Clusters	$3.99 / $5.99 / $8.19	GPU 및 시간당, 온디맨드	예약 H100: 3.69 USD(7. 30일), 3.45 USD(31. 90일), 3.19 USD(91. 180일) 예약 H200: 4.99 / 4.15 / 3.99 USD 예약 B200: 7.99 / 7.79 / 6.79 USD 181일 이상과 GB200/GB300/B300은 문의
Provisioned Throughput (PTU)	$0.05	PTU 및 분당	Throughput Units로 예약 용량; 분당 토큰은 모델에 따름 MiniMax M3: PTU당 입력 TPM 166,667, 캐시 TPM 833,333, 출력 TPM 41,667 Kimi K3: PTU당 TPM 16,667 / 166,667 / 3,333 GLM-5.2: PTU당 TPM 35,714 / 192,308 / 11,364
Fine-Tuning, Sandbox und Storage	$0.48	사용 후	1M 토큰 당 미세 조정 : 16B USD 0.48 (LoRA) / 0.54 (전체); 17B-69B 1.50 / 1.65; 70-100B 2.90 / 3.20 1M 토큰 당 직접 선호도 최적화: 16B USD 1.20 / 1.35까지; 17B-69B 3.75 / 4.12; 70-100B 7.25 / 8.00 Fine-Tuning 작업 최소 4.00 USD Code Sandbox: vCPU시간당 0.0446 USD, GiB RAM시간당 0.0149 USD Code Interpreter: 세션당 0.03 USD(60분) Shared Filesystem: GiB·월 0.16 USD

한도

Together AI는 미국 공급업체이며 가격을 미국 달러로 공개합니다. 가격 페이지에는 EU 데이터 리전이 명시되어 있지 않습니다. 개인정보 처리방침에 따르면 명시적인 옵트인과 동의 없이는 고객 데이터를 자사 모델 학습에 사용하지 않습니다. 데이터는 사용자의 국가 밖에서 처리될 수 있습니다. Zero Data Retention 모드에서는 입력과 출력이 저장되지 않으며 모델 학습, 제품 개선 또는 기타 부수적 목적으로 사용되지 않는다고 공급업체가 명시합니다.