ローカルLLM必要メモリ診断
「このモデルは自分のマシンで動くのか」を、パラメータ数・量子化・コンテキスト長から概算します。計算はすべてブラウザ内で行い、入力値をサーバーへ送信しません。
公開日:
結論
ローカルLLMの必要メモリは「モデル本体（パラメータ数×量子化の実効バイト数）＋KVキャッシュ（コンテキスト長に比例）＋ランタイム約1GB」でほぼ決まります。目安として、Q4_K_M量子化なら8GBで7〜9B、16GBで14B、24GBで27〜32B、64GB（Mac）で70Bクラスが現実的な上限です。正確な判定は下のツールで確認してください。
このツールでできること
- 対象: ローカルLLMの導入を検討している方（GPU PC・Macどちらも対応）
- 入力: モデルのパラメータ数、量子化方式、コンテキスト長、搭載メモリ
- 出力: 必要メモリの内訳、動作可能性の判定、条件内で使える最高品質の量子化
例: Qwen3-32Bなら「32」。MoEモデルは総パラメータ数（gpt-oss-120bなら120）を入れてください。
ハードウェア
使い方
- モデルのパラメータ数を入力します（例: Qwen3-32Bなら32。プリセットボタンでも選べます）
- 量子化方式を選びます（迷ったら定番のQ4_K_M）
- 実際に使うコンテキスト長を選びます（チャット用途なら8K〜16Kが目安）
- GPUかMacかを選び、VRAM／統合メモリの搭載量を入力します
- 「診断する」を押すと、内訳と判定が表示されます
判定・計算の根拠
次の式で概算しています。
必要メモリ ＝ モデル本体 ＋ KVキャッシュ ＋ ランタイム等(0.8GB)
- モデル本体 ＝ パラメータ数 × 量子化の実効バイト数。実効値はllama.cpp系GGUF量子化の代表値を使用しています（例: Q4_K_M ≈ 4.85bit/weight ≈ 0.61バイト/パラメータ、Q8_0 ≈ 1.06、FP16 ＝ 2.0）
- KVキャッシュ ＝ コンテキスト長 × 1トークンあたりのKVサイズ。KVヘッド8×ヘッド次元128のGQA構成・FP16を前提に、パラメータ規模別の代表的なレイヤ数（8Bクラス32層、32Bクラス64層、70Bクラス80層など）で近似しています
- 割当可能メモリ: GPUは搭載VRAM−0.5GB（画面描画・ドライバ分）、Macは統合メモリの約75%（macOSの既定のGPU割当上限の目安）としています
- 判定: 割当可能メモリに対して15%以上の余裕があれば「余裕あり」、収まるが余裕15%未満なら「余裕が少ない」としています
具体例
| 条件 | 必要メモリ概算 | 24GB GPUでの判定 |
|---|---|---|
| 8B・Q4_K_M・8Kトークン | 約6.3GB | 余裕あり |
| 32B・Q4_K_M・8Kトークン | 約21.0GB | 動くが余裕が少ない |
| 70B・Q4_K_M・8Kトークン | 約43GB | 動作しない（64GB Macなら動作圏） |
制限と注意点
- 結果は概算です。実際の使用量はモデルのアーキテクチャ（レイヤ数・KVヘッド数・MoE構成）、推論エンジン、Flash Attentionの有無、KVキャッシュ量子化の設定で前後します
- MoEモデル（gpt-oss-120bなど）は「総パラメータ数」で入力してください。メモリには総パラメータ分が必要です
- 視覚言語モデル（VLM）は画像処理分のメモリが追加で必要です
- 同時に複数リクエストを処理する本番サーバー用途では、同時数分のKVキャッシュが必要になります（本ツールは1ユーザー利用の想定です）
- 「動作する」は「快適な速度」を意味しません。生成速度はメモリ帯域でほぼ決まります（解説記事）
データの取り扱い
- 計算はすべてブラウザ内（JavaScript）で完結します
- 入力値・診断結果をサーバーへ送信・保存しません
- アクセス解析には「ツールが表示された・実行された」等のイベント名のみを記録し、入力値は含めません
出典
- llama.cpp（GGUF量子化の実効bit/weight）
- Apple Metal（統合メモリのGPU割当）
- 各モデルの公式諸元（レイヤ数・KVヘッド構成）
関連記事
- ローカルLLMの速度はメモリ帯域で決まる。スペック表の正しい読み方
- ローカルLLMはMacかRTXか。速度・容量・電気代の三軸で比較
- 予算別ローカルLLM PC 2026。10万・30万・60万・100万円で何が動くか
- 日本語で使えるローカルLLMおすすめ2026。VRAM別の現実解
更新履歴
- 2026年8月5日: 公開