ローカルLLMはクラウドのAIより得なのか、機械の値段と電気代で比べる

要点

対象：ローカルLLMを試すか迷っている人

1. 料金だけならAPIのほうが安く済みやすい
2. RTX 5060 Ti（16GB版）は約14万円から
3. 外に送らずに済むが、会話の履歴は残る

ローカルLLMは、文章を読み書きするAI（LLM）を、自分のパソコンで動かす方法です。料金だけで比べると、クラウドのAIのAPI（アプリからAIを使う窓口で、使った量で料金が決まる）より得になることはあまりありません。

この記事の目次（8節）

1. メリットとデメリット
2. 外のサーバーに送らずに済む
3. 料金で比べる
4. オフラインでも動く
5. 性能は最先端のモデルに及ばない
6. 向いている場面・向いていない場面
7. つまずきやすいところ
8. 次に読む回

毎日ある程度使っても、APIの料金は月に数百円です。グラフィックボードを動かす電気代のほうが高くなることもあります。ローカルLLMを選ぶいちばんの理由は、安さより、入力した文章を外のサーバーに送らずに済むことだと考えています。

メリットとデメリット

外のサーバーに送らずに済む

LM StudioとOllamaは、ローカルLLMを動かすためのアプリです。LM Studioでは、モデルとの会話で入力したものは、パソコンの外に出ません。¹

Ollamaは、パソコンの中で動かしたときの入力やデータを、提供元は見ないと説明しています。² ただし、パソコンの中で動かしても、モデルのダウンロード元・会話の履歴・インターネットにつなぐ機能には気をつけます。

モデルのダウンロード元

モデルのファイルは、Hugging Face（AIのモデルを公開する場所）などからダウンロードします。Hugging Faceは、信頼できる人や組織のモデルを読み込むよう勧めています。⁴

Pythonで読み込むと仕組まれたプログラムが動くことがあるpickle形式の危うさは、LM StudioやOllamaで使うだけなら当たりません。2つのアプリが読み込むのは、GGUFなどの別の形式です。⁴¹⁷¹⁸

会話の履歴

会話の履歴は、パソコンの中に残ります。LM Studioは、会話をJSON形式のファイルにして、.lmstudio の中の conversations フォルダに保存します。⁵

パソコンのユーザーアカウントを家族などと共用していれば、その人も履歴を開けると考えておくと安全です。社外に出せない文章や、人に見せたくない日記を読ませるなら、その前に、履歴をどこに置き、いつ消すかを決めておきます。

インターネットにつなぐ機能

Ollamaには、モデルをOllamaのサーバーで動かす「クラウドモデル」もあり、名前の最後に -cloud が付きます。選ぶと、入力はOllamaのサーバーで処理されます。³ パソコンの中だけで使う設定は、Ollamaの使い方の回でまとめます。

クラウドのAIに送ったとき

クラウドのAIでは、送った文章は提供元のサーバーで処理されます。OpenAIのAPIでは、自分から共有を選ばない限り学習に使われず、不正利用の監視のためのログが最長30日保存されます（法律で求められる場合などは例外）。⁶

ChatGPTの画面で使うときの扱いは、ChatGPTの設定で決まります。

社外に出せない文書のために自社のサーバーで動かす例は、ELYZAが公開した日本語LLMの記事で扱っています。

料金で比べる

グラフィックボードとパソコンの値段の目安

GPU（画像の処理に使う部品で、AIの計算にも使う）を載せた部品を、グラフィックボードと呼びます。値段は、GPUのメモリ（VRAM）の量で大きく変わり、動かせるモデルの大きさも、おもにこの量で決まります。

下の表は、2026年11月1日に価格.comの安い順の一覧とAppleの直販で調べた最安値です。⁸⁹¹⁰¹¹

グラフィックボードの値段に、パソコン本体の代金は入っていません。Mac miniのユニファイドメモリは、CPUとGPUが一緒に使うメモリです。OSやほかのアプリとも共用なので、モデルに使えるのはその一部です。

自分の使い方で何GBのVRAMが要るかは、講座の4回目で計算します。

1か月あたりで比べる

比べる相手は、APIの料金にしました。電気代と同じく、使った量で額が変わるからです。

計算の前提は、下の表のとおりです。トークンは、AIが文章を数える単位です。^7121314

電気代だけでAPIの料金を上回るので、この使い方ではグラフィックボードの代金の元は取れません。APIに、ならした額（約3,970円）と電気代の合計より多く毎月払う人でなければ、料金の面ではAPIのほうが安く済みます。

ChatGPTの有料プランと比べるなら、公式の料金のページで月額を確かめ、この合計と比べてください。最大の消費電力はNVIDIA自身が作る製品の値で、ほかのメーカーの製品では違うことがあります。

APIの使いすぎが心配なら、Gemini APIの料金の上限のように、上限を決めて止める方法もあります。

オフラインでも動く

ダウンロード済みのモデルは、インターネットにつながっていなくても動きます。LM Studioでは、モデルとの会話と、資料を読ませる会話がオフラインで使えます。¹

次の作業には、インターネットが要ります。¹

• モデルを探す・ダウンロードする
• モデルを動かす部品（llama.cpp など）をダウンロードする
• アプリの更新を確かめる

性能は最先端のモデルに及ばない

Epoch AI（AIの進み方を調べる研究機関）は2025年8月に、公開モデル（オープンモデル）を調べました。対象は、RTX 5090のようなゲーム向けの最上位機種1枚で動くモデルです。¹⁵

ベンチマーク（AIの性能を測る問題集）の成績では、平均すると最先端のモデルの6〜12か月前の水準でした。¹⁵

小さな公開モデルは特定のベンチマークで点を取れるように調整されやすく、実際の差はやや大きいかもしれない、ともEpoch AIは書いています。¹⁵

OpenAIが公開したgpt-oss-20bは、モデルを小さくする処理（量子化）をした状態で、16GBのメモリに収まります。¹⁶

同じモデルでも、パソコンによって答えが出るまでの時間は大きく違います。速さの目安は、llmspeedでローカルLLMの速度を見る記事にまとめています。

向いている場面・向いていない場面

つまずきやすいところ

使い始める前に、会話の履歴の置き場所と、インターネットにつなぐ機能の設定を確かめます。

高いグラフィックボードを先に買うのは避けたいところです。まず手持ちのパソコンで小さなモデルを動かし、何に使うかが決まってから選びます。動くかの調べ方と動かす手順は、講座の7回目と8回目で書きます。

次に読む回

前の回は「ローカルAIとは？クラウドのAIとの違いと、できること・できないこと」です。次の回は「ローカルLLMの『8B』『Q4_K』『VRAM』は何を表しているのか」です。

出典

1. LM Studio「Offline Operation」（参照 2026-11-01）
2. Ollama「FAQ」（参照 2026-11-01）
3. Ollama Blog「Cloud models」（2025年9月19日）（参照 2026-11-01）
4. Hugging Face Hub のドキュメント「Pickle Scanning」（参照 2026-11-01）
5. LM Studio「Manage chats」（参照 2026-11-01）
6. OpenAI API のドキュメント「Your data」（参照 2026-11-01）
7. OpenAI API のドキュメント「Pricing」（参照 2026-11-01）
8. 価格.com「GeForce RTX 3060 のグラフィックボード 価格の安い順」（参照 2026-11-01）
9. 価格.com「GeForce RTX 5060 Ti のグラフィックボード 価格の安い順」（参照 2026-11-01）
10. 価格.com「GeForce RTX 5090 のグラフィックボード 価格の安い順」（参照 2026-11-01）
11. Apple（日本）「Mac miniを購入」（参照 2026-11-01）
12. NVIDIA「GeForce RTX 5060 ファミリー」（参照 2026-11-01）
13. NVIDIA「GeForce RTX 5090」（参照 2026-11-01）
14. 全国家庭電気製品公正取引協議会「よくある質問 Q&A」（参照 2026-11-01）
15. Epoch AI「Frontier AI capabilities can be run at home within a year or less」（2025年8月15日）（参照 2026-11-01）
16. Hugging Face「openai/gpt-oss-20b」のモデルカード（参照 2026-11-01）
17. LM Studio「Import Models」（参照 2026-11-01）
18. Ollama のドキュメント「Importing a Model」（参照 2026-11-01）