Together AI

Together AI 是什麼:開源模型的一站式雲

如果說 Cerebras 賣的是速度，Together AI 賣的是選擇與彈性。它是一個專門服務開源模型的雲平台，你可以用 serverless API 直接呼叫上百個模型，也可以租 GPU 自己訓練、微調、部署。它把自己定位成「開源版的 OpenAI 平台」，主打企業從閉源模型轉向開源時的落地夥伴。

實際表現與速度

我拿它跑 Llama、DeepSeek、Qwen 系列，體感穩定、模型齊全，新模型上架速度算快，DeepSeek V3.1、R1 這類熱門權重都找得到。速度不是它的賣點——比不上 Cerebras 或 Groq 那種硬體級狂飆——但對絕大多數 RAG、批次處理、後端 API 場景綽綽有餘。真正的價值在於「一個 API key 打天下」加上完整微調管線：LoRA、全參數微調、專屬部署都在同一個平台搞定，不用自己拼湊基礎設施。

價格方案

Serverless 按 token 計費，範圍大約每百萬 tokens $0.10–$9，依模型而定：Llama 3.3 70B 約 $0.88/$0.88、DeepSeek V3.1 約 $0.60/$1.70、R1 約 $3.00/$7.00。微調 LoRA 每百萬 tokens $0.48–$2.90、全參數 $0.54–$3.20。要專屬算力就租 GPU：H100 每小時約 $1.76–$2.39、H200 約 $3.15–$3.79、B200 約 $4.00–$5.50，依合約長度浮動。另提供 68 個免費模型可先試水溫。官方宣稱相較閉源對手最多可省 60 倍推論成本——這數字要打折看，取決於你拿什麼比。

優點

模型庫廣、微調與部署一條龍、OpenAI-相容 API 遷移成本低、按需租 GPU 對訓練工作負載很實用，價格對開源模型有競爭力。

缺點與限制

它不是最快的，追求極致延遲的即時應用會失望；免費模型的速率限制較緊，認真用要付費；GPU 租用價格會隨市場與供給波動，長期成本要自己算清楚；平台功能多，新手第一次面對 serverless、dedicated、fine-tuning 的分野會有點眼花。

適合誰用

要在開源模型上做微調、要把閉源成本壓下來的企業、需要靈活切換多模型的產品團隊、以及想租 GPU 訓練又不想維運機房的研究者。

替代方案

Fireworks AI（開源推論、速度快）、Replicate（模型即服務、部署簡單）、AWS Bedrock / Baseten（企業級整合與合規）。

台灣觀點

Together 值得台灣團隊認真看，有個在地彩蛋：2026 年 7 月它完成 8 億美元 C 輪、估值衝到 83 億美元，投資人名單裡有台灣的和碩（Pegatron），還有 Nvidia、Aramco Ventures，年化營收已近 10 億美元——體質比多數 AI 新創穩。中文支援一樣看模型，Qwen、DeepSeek 繁體表現不錯，建議 prompt 明確指定台灣用語。機房在美國，台灣連線往返延遲約 150–250ms，適合後端與批次任務，不建議拿來做對延遲極敏感的即時互動。沒有亞洲節點是它跟所有美系推論雲共同的短板。