APIか自前ホストかは「GPUをどれだけ埋められるか」で決まる：損益分岐の計算式と、見落としやすい費用

この記事は、実際に使って確かめた記録ではありません。この記事は公式の文書や料金ページ、公開されているベンチマークを読んでまとめたものです。価格は2026年10月22日に確認しました。ただし、AWSのp5.4xlarge（6.88ドル）だけは10月22日に読み直せず、10月8日の値です。価格は変わることがあります。

先に結論

見立てです。次の三つの順に考えると整理しやすいと思います。

1. APIの単価が安い小型モデルで足りるなら、自前ホストは割に合いにくい。 GPUをほぼ常時、満杯に近い状態で動かさないと、APIの単価に届かないためです。
2. 大型・高価格帯のAPI（100万トークンあたり数ドル以上）の代わりに、同じ品質を出せるオープンなモデルがあるなら、自前ホストの余地が出る。 ただし、品質が同じかどうかは、必ず自分のデータで確かめる必要があります。
3. 量が少ない、波がある、品質が最優先、担当者がいない場合は、APIが無難。 自前ホストには、GPUが遊んでいる時間の費用と、運用の手間が乗ります。

前提：何を比べるのか

• APIは、アプリからAIを呼び出す窓口で、使った量（トークン）に応じて払います。トークンは、AIが読み書きする文字の量を数える単位です。
• 自前ホストは、GPUを借りるか買うかして、モデルを自分で動かすことです。この記事では、クラウドでGPUを時間単位で借りる場合を考えます。払うのは、動かした時間分で、使った量ではありません。
• スループットは、GPUが1秒に処理できるトークンの数です。
• 稼働率は、借りている時間のうち、実際にその量を処理している割合です。夜間や休日は、ほぼ0になることがあります。

計算式

文字を使うので少し硬いですが、電卓で足りる式です。

• GPUの1日の費用 ＝ 1時間の料金 × 24
• 自前ホストの100万トークンあたりの費用 ＝ 1時間の料金 ÷（1秒のトークン数 × 3,600 × 稼働率）× 100万
• 損益分岐の1日のトークン量 ＝ GPUの1日の費用 ÷ APIの100万トークンあたりの単価 × 100万

「100万トークンあたりの単価」は、入力と出力の単価が違うので、入出力の比で平均します。ここでは、読んだベンチマークの条件に合わせて、入力8,000トークン・出力1,000トークンの1回の呼び出しを例にしました。混合の単価は（8×入力単価＋1×出力単価）÷9です（僕らの計算です）。

数字をそろえる

API側（100万トークンあたり、米ドル。2026年10月22日確認）

補足です。

• Anthropicの料金ページには、バッチ（急がない処理をまとめて頼む方式）で入力と出力が50%引き、とあります。キャッシュ（同じ前置きを繰り返し読ませる割引）の読み取りは、基本の入力単価の0.1倍（モデルによって0.025倍や0.05倍）です。
• OpenAIのページには「Flex/Batch」のタブらしき表示と、標準のちょうど半額に見える価格表があります。ただし表にラベルがなく、バッチの割引とは断定できませんでした。Mistralのページには、バッチ価格はありませんでした。
• DeepSeekの空いている時間は、ピークの半額です。ピークは、平日（中国の祝日を除く）の協定世界時1時から4時と、6時から10時です。
• OpenAIのページには、入力の長さ（短い・長い）の見出しがあります。10月8日には長い入力で単価が上がると読みましたが、10月22日は単価の差を読み切れず、確認できませんでした。

GPU側（1GPU時間、米ドル。RunPodとAzureは2026年10月22日、AWSは10月8日に公式ページで確認）

詳しくは「クラウドGPUの料金地図」の記事に書きました。この記事では、次の3つを例にします。

• RunPodのPod（H100 SXM）：3.99ドル（10月8日には3.49ドルと読んだ値が、今回は変わっています）
• AWSのp5.4xlarge（H100が1枚、US東部）：6.88ドル
• AzureのND96isr H100 v5（8GPUの値段を8で割った値、US東部）：12.29ドル（僕らの計算）

1枚のGPUが出せる量の例

公開されているベンチマークに、InferenceX（SemiAnalysisが運営し、実行の記録を公開している）があります。そのgpt-oss-120b（OpenAIが公開したオープンなモデルで、117bのパラメータ、1トークンあたり5.1bが動く）のH100の結果では、vLLMで動かし、8千入力・千出力の単発のチャットの条件で、ユーザー1人あたり毎秒50トークンの設定のとき、1GPUあたり毎秒8,973トークンでした。ユーザー1人あたり毎秒200トークンを求める設定では、毎秒2,558トークンに落ちています。実行日は2026年3月27日から5月17日です。

ベンチマークのページは、費用の換算を「1GPU時間1.17ドル（大手が所有する場合）で100万トークンあたり0.036ドル、2.00ドル（小売）で0.062ドル」と書いています。前提の細かい内訳は、読んだ範囲では説明がありませんでした。

見立てです。この毎秒8,973トークンは、設定を詰めた測定の最大値に近い値だと思います。自分の仕事で、同じ量を継続して出せるとは限りません。

損益分岐：1枚のGPUを24時間借りた場合

僕らの計算です。表の「1日のトークン量」は、APIで払う金額とGPU代が等しくなる量です。「毎秒」は、それを24時間均して割った値です。

見落としやすい費用

見立てです。表に出てこない費用が、分岐点を押し上げます。

• 遊んでいる時間：夜間や休日に使わなくても、借りている間は払います。
• GPUの台数：大きいモデルは1枚に載りません。gpt-oss-120bは、OpenAIの説明では80GBのGPU1枚で動きますが、もっと大きなモデルは8枚単位になり、費用が一気に8倍近くになります。
• 冗長化：止まったときの予備の機械が必要なら、費用は倍になります。
• GPU以外の費用：保存領域、ネットワーク、データの送出。Googleのページには、ディスクやイメージ、ネットワークなどの価格は別、と明記されています。Lambdaは税が別です。
• 人の手間：設定、監視、更新、障害対応、セキュリティ。金額の根拠は、読んだ資料にはありません。
• モデルの更新：新しいモデルへの入れ替えと、品質の再確認。
• 実際の設定の難しさ：vLLMのgpt-oss向けの手順書は、H100の1枚で標準の設定のままだとメモリ不足になる、と警告しています。回避策として--gpu-memory-utilization 0.95 --max-num-batched-tokens 1024が示されています。

API側にも、見落としやすい点があります。

• 上限：DeepSeekのページには、同時リクエスト数の上限（deepseek-flashは2,500、deepseek-v4-proは500）があります。
• 価格の変動：DeepSeekは、ピークと空いている時間で2倍違い、ページに「価格を調整することがある」と書いています。
• 長い入力の割増：AnthropicのHaiku 5.5は、料金ページで、10万トークンを超える入力だと単価が上がります（入力0.50ドル、出力2.50ドル）。OpenAIのGPT-6系は、10月8日の読みでは長い入力で単価が上がるとしましたが、10月22日は確認できませんでした。

判断の基準

見立てです。

1. 1日の処理量を、トークンで見積もる（呼び出し回数×1回の平均トークン数）。
2. 比べたいAPIの混合単価を出し、上の式で分岐点を出す。
3. 自分の量が、分岐点の半分より下なら、APIが有利になりやすい。
4. 分岐点を大きく超えるなら、同じ品質を出せる別のモデルを、自分のデータで試す価値がある。
5. 試すときは、品質とスループットを、本番に近い入力で測る。ベンチマークの最大値は使わない。

よくあるつまずき

• 安いAPIと、高いAPIを同じ品質と見なす：この記事の分岐点は、品質が同じという前提です。
• GPUの料金だけで比べる：運用の手間が入っていません。
• 平均のトークン量で、ピークを見落とす：昼に集中するなら、必要なGPUの台数はピークで決まります。
• キャッシュやバッチを無視してAPIを高く見積もる：Anthropicのバッチは50%引きです。同じ前置きを繰り返すなら、キャッシュの読み取りは入力単価の約0.1倍などです。
• 1枚のGPUの最大スループットを、そのまま平均と考える：最大値は、ユーザーの数や応答速度の設定で大きく変わります（InferenceXの表のとおり、毎秒50トークン/人で8,973、200トークン/人で2,558）。

気をつけること

• この記事は、実際に使って確かめた記録ではありません。分岐点は、公式の価格と公開ベンチマークから出した、僕らの計算です。
• InferenceXの数字は第三者（SemiAnalysis）のベンチマークで、公式の数字ではありません。ページは「合計トークンあたり」の費用に換算していると書いていますが、毎秒のトークン数に入力を含むかどうかは、読んだ範囲で確認できていません。
• ベンチマークの費用の換算（1.17ドル/時など）の前提の詳細は、ページで確認できませんでした。
• GPUの料金は事業者や契約で大きく違います。同じH100でも約3.1倍の差があります（別記事）。
• APIとGPUの価格は変わることがあります。使う前に、最新のページを見てください。
• gpt-oss-120bのAPI価格は、OpenAIの料金ページには載っていませんでした。この記事では、同じ品質の代わりになるかどうかを評価していません。
• 通貨は、読んだページで米ドルでした（Lambdaは通貨名の明記がなく、ドル記号のみ）。為替、日本円の価格、消費税は扱っていません。
• 品質が自社の用途に足りるかは、この記事では調べていません。

出典

• Pricing（Claude Platform Docs、Anthropic、2026年10月22日確認）
• Pricing（OpenAI API、OpenAI、2026年10月22日確認）
• Pricing（Mistral Docs、Mistral、2026年10月22日確認）
• Models & Pricing（DeepSeek API Docs、DeepSeek、2026年10月22日確認）
• Introducing gpt-oss（OpenAI、2026年10月22日確認）
• GPT-OSS recipe（vLLM Recipes、vLLMプロジェクト、2026年10月22日確認）
• Running gpt-oss-120b on H100（InferenceX、SemiAnalysis、2026年10月22日確認）
• InferenceX（SemiAnalysis、2026年10月22日確認）
• Instances pricing（Lambda、2026年10月22日確認）
• GPU Cloud Pricing（Runpod、2026年10月22日確認）
• AWS料金データ（EC2 オンデマンド、US東部 Linux、AWS、2026年10月8日確認。10月22日はp5.4xlargeを読み直せず）
• Azure Retail Prices API（Microsoft、2026年10月22日確認）
• GPU pricing（Compute Engine、Google Cloud、2026年10月22日確認）

更新履歴

• 2026年10月25日 書き方を直しました。
  • 前：運営者が使っていないと読める書き方 → いま：「この記事は、実際に使って確かめた記録ではありません」。公式の資料を読んでまとめた記事で、使い心地は書いていない、という意味に直した