TB-GARAGE ブログ相場チェック(アイ)

ローカルLLMはロマンである — 実益ほぼゼロの自宅サーバーを、中古パーツで組む

2026-11-01 / TB-GARAGE

〔本記事の執筆について: 構成・文章はAI(LLM)による下書きです。ネタ・実体験・数値の提供はすべてTB-GARAGE運営者本人によるもので、事実関係(機材・数字・体験談)は運営者の実体験に基づいています。未実測箇所は本文中に明記しています。〕

結論から書きます。

ローカルLLMに、大きな実益はありません。

電気代はかかる。クラウドのほうが安い。手間もかかる。それでも、やる価値はあります。理由はひとつで、技術に触れる面白さが醍醐味だからです。この記事は、その「ロマン」を実際の数字と失敗談で裏打ちする記録です。

1. まず実益を、容赦なく数字で見る

電気代

LLM推論機を立てると、電気を食います。手元の前提(平均100W・22円/kWh)で計算すると、次のようになります。

運用電気代
24時間通電1,584円/月
必要な時だけ起動(月60時間)132円/月
週末だけ(月30時間)66円/月

クラウドの実課金

手元のクラウド(GLM-5.3-Flash)の実績はこうでした。

ブログの下書き50本・150パス分を回しても、月100円未満です。無料のFlashモデル(z.ai の GLM-4.7-Flash 等)もあります。

そもそも、定額プランという第3の選択肢

「安くLLMを使いたい」なら、選択肢は自前か従量課金かの2択ではありません。2026-11-02時点の公式表記では、Command Code の GOAT プランが$10/月(使用上限は5時間$20・週$50・月$100、目安75,000リクエスト。月$100はGLM-5.3 Flashなど対象モデルの枠で、多くのモデルは$20前後、Claude系は$10)、OpenCode の Go プランも$10/月(Go Plus は$40)。本記事の前提($1=155円)で約1,550円/月です。

選択肢実費(月)主な制約
自前サーバー1,584円(電気代)+本体代速度は実測次第、平均100Wを常時消費
クラウドAPI(従量)100円未満(実績)レート制限、モデルの改廃
定額サブスク約1,550円($10)5時間$20/週$50/月$100の上限、モデルごとに枠が違う

24時間通電の電気代1,584円と、定額プランの約1,550円はほぼ同額です。数字だけを見れば、ここでも自前サーバーを組む理由は立ちません。それでも組む理由は「面白さ」で、結論は変わりません。

料金・上限は2026-11-02時点の各社公式表記(commandcode.ai/pricing、opencode.ai/pricing)。改定が速い領域なので、読む際は現行の料金表を確認してください。自前サーバーの電気代は本文冒頭の前提(平均100W・22円/kWh)による計算値です。

トークン単価の分岐点

ローカルが単価で勝てるかは、生成速度(tokens/s)次第です。

生成速度ローカル出力1Mトークンクラウド(78円/1M)
15 tok/s102円クラウドが安い
19.7 tok/s78円同等(分岐点)
25 tok/s61円ローカルが安い
40 tok/s38円ローカルが安い

※ 22円/kWh・システム250W。電気単価31円/kWhなら分岐点は27.8 tok/sに上がります。

機材代に割ける予算の逆算

差益で回収できる金額を逆算すると、次のとおりです。

使い方月差益3年で回収できる機材予算
ブログ下書きのみ37円約1,300円
検証・バッチ込み440円約15,800円
画像OCR・夜間バッチまで1,230円約44,000円

つまり下書き用途だけなら、機材に1,300円しか正当化できません。中古GPU1枚買った時点で、回収はもう不可能です。

2. それでもやる理由

ここまで読むと「やめたほうが早い」と感じるはずです。実際、コストだけを見ればやめたほうが早い。

では何が残るのか。技術に触れる面白さです。具体的には次のとおりです。

これらは「便利になるため」の作業ではなく、「触るため」の作業です。そして、触った人間しか書けない記事になります。ブログの題材としては、実益ゼロのほうがむしろ価値がある。

3. 実際に踏んだ失敗談: Resizable BAR 問題

ロマンの実例をひとつ。中古ワークステーション(ThinkStation P520, Xeon W-2123)に Intel Arc A770 16GB を挿したところ、POSTは通るのに Windows が起動ループに陥りました。

切り分けの結果、次のことが判明しました。

回避策も調べました。Linuxではカーネルが BAR を自動でリサイズして割り当てるため、BIOSに項目が無くても動く余地があります(WindowsではBIOS改造以外に手が無い、というのがコミュニティの共通認識)。ただし当方の運用は Windows が前提(この機体はデスクトップアプリの稼働機を兼ねる)なので、Linux化はあえて選ばないという判断にしました。

結論:A770は引退。推論は別機(Tailscale経由の別箱・Linux)へ移行。

この一件の教訓は、中古ワークステーションに Arc を入れるなら、買う前にBIOSのReBAR項目を確認せよ、というものです。ReBARはArc(A770)の必須要件ですが、NVIDIAやAMDのGPUはReBARが無くても普通に動きます。確認自体は3分でできます。F2でBIOSに入り、Above 4G Decoding と Re-Size BAR Support を探すだけ。確認もせずに挿してから確かめるのは、ロマンではなくただの散財です。

〔写真: P520のBIOS画面(Above 4G Decoding のみでReBAR項目が無い様子)/A770実装時の起動ループ画面 — 追記予定〕

4. 現在の構成

役割機体内容
推論別機(Linux)Qwen を待ち受け【要実測: GPU型番・VRAM・tokens/s】
デスクトップ稼働ThinkStation P520(Windows・旧GPU)デスクトップアプリの常用機。ここが「常時通電の正当な理由」になっています
執筆ノートPCクラウドモデルで下書き

面白いのはここからです。推論機が上がったら、同じプロンプトをローカルとクラウドの両方に投げ、品質・速度・電気代を並べるつもりです。結果はこの記事に追記していきます。

5. まとめ: ロマンとしてのローカルLLM

実益ゼロ。ロマンだけ。それでいいじゃないか、という話でした。


← ブログ一覧へ | 写真1枚で相場チェック(アイ) | TB-GARAGE 本体