ノートPCで動く軽量ローカルLLM 2026。メモリ8GB・16GBの現実解

「会社支給の普通のノートPCで、ローカルLLMはどこまで使えるのか」。GPUを積んだワークステーションの話ではなく、メモリ8GBや16GBの事務用マシンの話です。結論から言うと、2026年8月時点の現実解はメモリ8GBなら4Bクラス、16GBなら8〜9Bクラスの量子化モデルで、用途は要約・翻訳・分類・下書きまで。この1年で小型モデルの日本語性能は大きく伸び、「ノートPCでも仕事に使える」ラインに到達しました。本記事では、メモリ別のモデル選び、速度の目安、そして「できること・できないこと」の線引きを実測データで整理します。

この記事の要点

メモリ8GBのノートPCは4Bクラス（Q4量子化で約2.5〜3GB）、16GBなら8〜9Bクラス（約5〜6GB）が実行の現実ラインです。実行時はKVキャッシュ分が上乗せされるため、ファイルサイズぎりぎりでは動きません

日本語性能は小型モデルが急伸しています。日本語総合評価（Nejumiリーダーボード4系、2026年7月時点）では10B以下の首位がQwen3.5-4Bで、Gemma 4のエッジ版（E2B/E4B）も上位に入ります

生成速度はメモリ帯域で決まります。M4 Macで7Bクラス約24トークン/秒、一般的なIntelノート（CPU実行）で約8〜12トークン/秒が目安です

4Bクラスの業務範囲は「要約・短文翻訳・分類・下書き」です。複雑な条件付き指示や高度な推論は27Bクラスとの差が依然大きく、無理をさせない設計が成功の鍵です

メモリ別の現実解

ノートPCのローカルLLMは「搭載メモリ」でほぼ決まります。Q4クラスの量子化を前提にした2026年8月時点の整理です。

搭載メモリ	モデルクラス	具体的な候補
8GB	〜4B	Qwen3.5-4B（4bitで約3GB）、Gemma 4 E2B/E4B、Gemma 3n（実効2〜4B、動作メモリ約2〜3GB）、Phi-4-mini（3.8B）
16GB	8〜9B	Qwen3.5-9B（約6GB）、Qwen3-8B（Q4で約5GB）、LLM-jp-4 8B、Llama-3-ELYZA-JP-8B
32GB（Macなど）	〜30B級MoE	ノートPCの枠を超え始める領域。予算別ガイドを参照

数字の注意点がひとつ。表のサイズはモデルファイルの大きさであり、実行時には会話の文脈を保持するKVキャッシュとランタイム分が上乗せされます。Intelの公式ドキュメントも「7B超のモデルで長いプロンプトを扱う場合、16GB超のRAMが必要になることがある」と明記しています。8GB機に5GBのモデルを載せると、OSとブラウザを含めてぎりぎりです。手元の条件での必要量はローカルLLM必要メモリ診断で確認できます。

日本語性能: 小型モデルはこの1年で別物になった

「4Bなんておもちゃでは」という感覚は、2026年時点では古くなっています。日本語の総合評価（翻訳・要約・推論等を含むNejumiリーダーボード4系の集計、2026年7月時点）では、10B以下のクラスで次の序列が報告されています。

モデル	日本語総合スコア
Qwen3.5-4B	0.735
Qwen3-VL-8B-Thinking	0.702
Qwen3-8B	0.690
Gemma 4 E4B	0.669
Gemma 4 E2B	0.656

注目すべき点が3つあります。

4Bが8Bを上回る逆転が起きています。Qwen3.5世代の小型化の恩恵で、8GBノートPCの選択肢が実用水準になりました
国産勢も追い上げています。国立情報学研究所のLLM-jp-4（8B）は日本語MT-Benchで7.54を報告し、公開時の発表ではGPT-4oの7.29を上回るとされています（評価軸が異なるため上表とは直接比較できません）。SB IntuitionsのSarashina2.2系（0.5〜3B、MIT）も同サイズ帯の日本語で定評があります
ただし上位クラスとの差は残ります。同じ集計で27Bクラスは0.80台であり、小型モデルは「軽い業務タスク向け」という位置づけが正確です

モデル選びの考え方全体は『日本語で使えるローカルLLMおすすめ2026』で詳しく解説しています。

速度の目安: ここでもメモリ帯域

ノートPCでの生成速度は、チップの世代よりメモリ帯域で決まります（この原理は『ローカルLLMの速度はメモリ帯域で決まる』を参照）。公開ベンチマークと国内実測からの目安です。

マシン	7〜8Bクラス（Q4）の生成速度	4Bクラスの目安
MacBook（M4、帯域120GB/s）	約24トークン/秒	その1.5〜2倍
MacBook Pro（M4 Pro、273GB/s）	約50トークン/秒	同上
Intelノート（CPU実行、DDR5）	約8〜12トークン/秒	約15〜25トークン/秒
Snapdragon Xノート（CPU実行）	約5トークン/秒	NPU活用時で約10トークン/秒

読む速度に追いつく「ストレスのないライン」はおおむね15〜20トークン/秒です。つまり、Intel機で8Bはやや我慢、4Bなら快適。Macは統合メモリの帯域が広いぶん有利で、同じ「16GBノート」でも体感が数倍変わります。

NPU搭載「AI PC」の現実

「NPU搭載ノートならもっと速いのでは」という期待には注意が必要です。OllamaやLM Studio、llama.cppといった主流ツールは2026年半ば時点でNPUを使いません（CPUまたは内蔵GPUで実行されます）。NPUでLLMを動かす経路はIntel OpenVINO、AMD Lemonade Server、Qualcomm AI Hubなど専用変換モデルが前提の世界で、対応はおおむね4Bクラスまでです。このあたりの誤解は『「Copilot+ PCならローカルLLMが速い」は誤解』で詳しく整理しています。ノートPC選びでは、TOPSではなくメモリ容量と帯域を見てください。

できること・できないことの線引き

小型モデル導入の成否は、タスク設計で決まります。実測報告に基づく2026年時点の線引きです。

任せられる（4〜9Bクラス）

議事録・メールの要約、箇条書き化
短文の翻訳（4B）、ニュース記事レベルの翻訳（8B以上）
文書の分類・タグ付け・定型フォーマットへの整形
文面の下書き・トーン調整

任せてはいけない

複雑な条件付き指示（「日本語なら英語に、英語なら日本語に」のような制御は8Bでも失敗が報告されています）
事実確認が必要な調査・回答（幻覚は小型ほど強く出ます。人間の確認工程が前提です）
複雑な推論・多段のエージェント作業（27B級以上の領分です）

言い換えると、ノートPCのローカルLLMは「外に出せないテキストの下ごしらえ係」と定義するとうまくいきます。機密メールの要約、社外秘文書の翻訳下書き——クラウドAIに投げにくい細かい作業を、手元で完結させる道具です。

導入チェックリスト

搭載メモリを確認した（8GB→4Bクラス、16GB→8〜9Bクラスが上限目安）
モデルファイル+KVキャッシュ+OSの余裕を必要メモリ診断で確認した
任せるタスクを「要約・翻訳・分類・下書き」の範囲に絞った
出力を人間が確認するフローにした（小型モデルの幻覚は前提条件です)
NPUのTOPSではなく、メモリ容量・帯域でマシンを評価した
全社展開の前に、まず1部署・1タスクで2週間試した

まとめ

2026年の軽量ローカルLLMは、「動くけど使えない」から「範囲を絞れば仕事になる」へ明確に変わりました。メモリ8GBのノートPCでも4Bクラスの日本語性能が実用ラインに乗り、16GBあれば8〜9Bクラスで翻訳・要約が安定します。鍵はモデルの当てはめではなく、任せるタスクの線引きです。

なお、チーム全体で使う社内AIを考える場合は、ノートPC個別ではなく1台のMacやGPUサーバーに集約する構成の方が管理も性能も有利です。TodoONadaではその設計・構築を支援しています。