ローカル LLM ベンチマーク Mac M5 32GBはどんな本？本文から学ぶ4つのポイント

API とローカル LLM の比較

この章では「API とローカル LLM の比較」を、実際に確認できる小さな手順へ分けます。最初から全部を変えず、対象と確認方法を一つずつ決めます。

ローカル LLM を使う 5 つの理由

ローカル LLM なら **CPU / GPU の限界まで** 連続実行できる。1 日 10,000 リクエストでも問題なし。

• 理由 1: コスト削減
• 理由 2: プライバシー
• 理由 3: 無制限実行

API を使うべきケース

ローカル LLM でコーディング補助は **品質が劣る**（私の体感では Claude Sonnet の 50 〜 70%）。

• ケース 1: 最高品質が必要
• ケース 2: コーディング
• ケース 3: 1 日数件の少量利用

「**完全ローカル化**」を目指すべきか

私は **API : ローカル = 30% : 70%** の比率で運用している。これがコストと品質のスイートスポット。

よくある質問

参考資料