「Copilot+ PCならローカルLLMが速い」は誤解。NPUとLLMの本当の関係

NPU 40TOPS搭載の「AI PC」を買えばローカルLLMが快適に動く——そう考えて購入相談にいらっしゃる方が実際に多くいます。しかし結論から言うと、Copilot+ PCを買ってもOllamaのローカルLLMは速くなりません。LLMの生成速度を決めるのはTOPS（計算性能）ではなく、メモリ帯域だからです。本記事では、NPUとローカルLLMの関係を一度きちんと整理し、機材選びで本当に見るべきスペックを解説します。NPUは無駄ではありませんが、ローカルLLMチャットの高速化とはほぼ別物です。

この記事の要点

• Copilot+ PC（NPU 40TOPS以上）のメモリ帯域は135GB/s前後で、NPUの有無と関係なく普通の薄型ノートPCと同じ水準です。LLMの生成速度は速くなりません
• LLMの体感速度はデコード（1トークンずつの生成）で決まり、おおまかに「毎秒トークン数 ≈ メモリ帯域 ÷ モデルサイズ」で予測できます
• Ollama・LM StudioはNPU非対応で、Copilot+ PC上でもCPU実行になります。NPUで推論できるのはFoundry LocalなどONNX系の仕組みと対応モデルに限られます
• NPUの主戦場はWeb会議の背景ぼかしなど、低消費電力で常時動かす小さめのAI処理です。ローカルLLM目的のPC選びでは、TOPSではなくメモリ容量・メモリ帯域・GPUを見ます

なぜ「AI PC＝ローカルLLMが速い」という誤解が生まれたのか

誤解が生まれた経緯はシンプルです。

• MicrosoftがCopilot+ PCの要件として「NPU 40TOPS以上」を掲げ、「AI PC」の名前で大々的に売り出しました
• ちょうど同じ時期にローカルLLMブームが到来しました
• その結果、「AI用チップを積んだPC」と「PCでAIを動かす」が、店頭でもネット記事でも混ざってしまいました

TOPSは「1秒あたり何兆回の演算ができるか」という計算性能の指標です。数字が大きいほどAIが速そうに見えます。しかし、ローカルLLMの体感速度は、この数字とは別の場所で決まっています。

LLMの生成速度を決めるのはTOPSではなくメモリ帯域

LLMの推論には、性質の違う2つのフェーズがあります。

• プリフィル（入力の読み込み）: 長い文書を投げたときの「考えている時間」です。ここには計算力が効きます
• デコード（1トークンずつの生成）: 文章がぽつぽつ出てくる部分です。体感速度はここで決まります

そしてデコードは、1トークン生成するたびにモデル全体をメモリから読み出す構造になっています。つまり律速はメモリ帯域（メモリからデータを運ぶ速さ）です。おおまかには次の式で予測できます。

毎秒トークン数 ≈ メモリ帯域 ÷ モデルサイズ

この式にAI PCの実力を当てはめてみます。

マシン	メモリ帯域	7Bクラス（約5GB）の理論速度
Copilot+ ノートPC（Snapdragon X Elite）	135GB/s	約27トークン/秒
Copilot+ ノートPC（Core Ultra 200V）	137GB/s	約27トークン/秒
MacBook Pro（M5 Max 40コアGPU）	614GB/s	約120トークン/秒
デスクトップGPU（RTX 4090）	1,008GB/s	約200トークン/秒

Copilot+ ノートPCの帯域は135GB/s前後で、これはNPUの有無と関係なく、普通の薄型ノートPCと同じ水準です。GPU搭載機やMacの上位チップとは桁が違います。NPUが何TOPSであろうと、メモリ帯域が変わらない限りLLMのデコードは速くなりません。この原理は『ローカルLLMの速度はメモリ帯域で決まる。スペック表の正しい読み方』で詳しく解説しています。

Ollama・LM StudioはNPUを使っていない（主要ランタイムの対応状況）

さらに根本的な事情があります。ローカルLLMの定番ツールは、そもそもNPUで推論していません。2026年7月時点の実行デバイスを整理します。

ツール	実行デバイス	NPU対応
Ollama	CPU / NVIDIA・AMD GPU / Apple Metal	非対応。Snapdragon機ではCPU実行
LM Studio	CPU / GPU / Apple Metal（llama.cpp系）	非対応。NPU使用率0%の報告多数
llama.cpp	CPU / CUDA / Metal / OpenCL ほか	Hexagon NPUバックエンドが登場したが発展途上
Foundry Local（Microsoft）	CPU / GPU / NPU	対応。ONNX形式の対応モデルのみ

つまり、Copilot+ PCで ollama run を実行しても、動いているのはCPUです。NPUは使用率0%のまま眺めていることになります（なお、Ollamaで検証した先の本番環境をどう組むかは『試作はOllama、本番はvLLM。乗り換えのタイミングと20倍の性能差』で扱っています）。

例外は、MicrosoftのFoundry LocalやWindows MLといったONNX Runtime系の仕組みで、これらはNPUで推論できます。ただし使えるのはNPU用に変換された対応モデル（PhiやQwenの一部など）に限られ、OllamaやLM Studioの自由なモデル選択とは別世界です。llama.cppにもQualcomm Hexagon向けバックエンドが入り始めましたが、主流の使い方になるにはまだ時間がかかります。

NPUは何のためにあるのか（Copilot+ PCの本当の用途）

「NPUは無駄」という結論にはなりません。NPUの主戦場は、低消費電力で常時動かす小さめのAI処理です。

• Web会議の背景ぼかし・アイコンタクト補正（Windows Studio Effects）
• OS組み込みの小型言語モデル（Phi Silicaなど）や検索機能
• 音声認識、画像処理、翻訳のリアルタイム処理

これらをバッテリーを消耗せずにバックグラウンドで回し続けるのがNPUの仕事です。「数十GBのモデルを全力で回すチャットLLM」とは、役割がそもそも違います。AI PCは「OSのAI機能が快適なPC」であって、「ローカルLLMが速いPC」ではない——これが正確な理解です。

ローカルLLM目的のPC選びで見るべき3つのスペック

購入前に見るべきスペックは、優先度順に次の3つです。TOPSは見なくて構いません。

1. メモリ容量（VRAM/統合メモリ）: 動かせるモデルの上限を決めます。予算別にどのマシンで何が動くかは『予算別ローカルLLM PC 2026。10万・30万・60万・100万円で何が動くか』にまとめています
2. メモリ帯域: 生成速度を決めます。ノートPCなら135GB/s級か、Macの上位チップ（500GB/s級）かで体感が数倍変わります
3. GPU（VRAM）の有無: デスクトップならVRAM搭載GPUが最も費用対効果が高い構成です

ノートPCでローカルLLMを本気で使いたい場合、現実解はNPUのTOPS競争ではなく、統合メモリの容量と帯域が大きいマシン（MacのPro/Maxチップ、Ryzen AI Max+搭載機など）を選ぶことです。Mac 1台で社内利用まで持っていく構成はMacで始める社内専用AI導入支援でご案内しています。

購入前チェックリスト

AI PCの広告に迷わされずに機材を選ぶために、発注前に次の項目を確認してください。

• 候補PCのメモリ帯域を確認した（135GB/s級のノートPCなら、NPUが何TOPSでもLLMの生成速度は変わりません）
• 動かしたいモデルがメモリ（VRAM/統合メモリ）に載ることを確認した
• 使いたいツールのNPU対応を確認した（Ollama・LM StudioはNPU非対応でCPU/GPU実行です）
• NPUのTOPS値を選定基準から外した（NPUはOSのAI機能のための省電力チップです）
• ノートPCで本格利用するなら、統合メモリの容量と帯域が大きいマシン（MacのPro/Maxチップ、Ryzen AI Max+搭載機など)を候補にした

まとめ

• LLMの生成速度はTOPSではなくメモリ帯域で決まります。7Bクラス（約5GB）の理論速度は、Copilot+ ノートPC（135GB/s）で約27トークン/秒、MacBook Pro（M5 Max、614GB/s）で約120トークン/秒、RTX 4090（1,008GB/s）で約200トークン/秒です
• Copilot+ ノートPCのメモリ帯域は135GB/s前後で、NPUの有無と関係なく普通の薄型ノートPCと同じ水準です
• Ollama・LM StudioはNPU非対応で、Copilot+ PCではCPU実行になります。NPUで推論できるのはFoundry LocalなどONNX系の仕組みと対応モデル（PhiやQwenの一部）のみです
• NPUはWeb会議の背景ぼかしやPhi SilicaなどOSのAI機能のための省電力チップで、無駄ではありませんが、ローカルLLMチャットの高速化とは別物です
• PC選びはメモリ容量→メモリ帯域→GPUの順に確認します。TOPSは見なくて構いません

NPUはOSのAI機能のための省電力チップ、ローカルLLMの速度はメモリ帯域。この2つを分けて考えることが、機材選びで失敗しないための出発点です。

よくある質問

Q. Copilot+ PC（AI PC）でローカルLLMは速くなりますか？

速くなりません。Copilot+ ノートPCのメモリ帯域は135GB/s前後（Snapdragon X Eliteで135GB/s、Core Ultra 200Vで137GB/s）で、これはNPUの有無と関係なく普通の薄型ノートPCと同じ水準です。LLMの生成速度はメモリ帯域で決まるため、7Bクラス（約5GB）のモデルで理論値約27トークン/秒にとどまります。速度がメモリ帯域で決まる仕組みは『ローカルLLMの速度はメモリ帯域で決まる』で解説しています。

Q. NPUの40TOPSという数字はローカルLLMの速度に関係ありますか？

ほぼ関係ありません。TOPSは「1秒あたり何兆回の演算ができるか」という計算性能の指標で、長文入力を読み込むプリフィル段階には計算力が効きますが、体感速度を決めるデコード（1トークンずつの生成）は、1トークンごとにモデル全体をメモリから読み出す構造のため、メモリ帯域が律速になります。毎秒トークン数はおおまかに「メモリ帯域 ÷ モデルサイズ」で予測できます。

Q. OllamaやLM StudioはNPUを使いますか？

使いません。2026年7月時点で、OllamaはCPU / NVIDIA・AMD GPU / Apple Metalで動作し、Snapdragon搭載のCopilot+ PCではCPU実行になります。LM Studio（llama.cpp系）も同様にNPU非対応で、NPU使用率0%の報告が多数あります。llama.cppにQualcomm Hexagon向けNPUバックエンドが入り始めましたが、まだ発展途上です。

Q. NPUで推論できるローカルLLMツールはありますか？

あります。MicrosoftのFoundry LocalやWindows MLといったONNX Runtime系の仕組みはNPUで推論できます。ただし使えるのはNPU用に変換された対応モデル（PhiやQwenの一部など）に限られ、OllamaやLM Studioのように自由にモデルを選べるわけではありません。

Q. Copilot+ PCのNPUは何の役に立ちますか？

低消費電力で常時動かす小さめのAI処理に役立ちます。具体的には、Web会議の背景ぼかし・アイコンタクト補正（Windows Studio Effects）、OS組み込みの小型言語モデル（Phi Silicaなど）や検索機能、音声認識・画像処理・翻訳のリアルタイム処理です。バッテリーを消耗せずにこれらをバックグラウンドで回し続けるのがNPUの仕事で、数十GBのモデルを全力で回すチャットLLMとは役割が違います。

Q. ローカルLLM用のPCは何を見て選べばいいですか？

優先度順に、メモリ容量（VRAM/統合メモリ。動かせるモデルの上限を決めます）、メモリ帯域（生成速度を決めます。ノートPCの135GB/s級とMac上位チップの500GB/s級で体感が数倍変わります）、GPUの有無（デスクトップならVRAM搭載GPUが最も費用対効果が高い）の3つです。TOPSは見なくて構いません。予算別の具体的な機材は『予算別ローカルLLM PC 2026』を、Mac 1台で始める構成はMacで始める社内専用AI導入支援を参照してください。

主な参考資料: llama.cpp Snapdragonバックエンド、llama.cpp Copilot+ PC対応ディスカッション、Snapdragon X PlusのNPUをフル活用！Foundry Local × VSCode（Qiita）

機材選びから相談したい方へ

TodoONadaでは、ローカルLLM・生成AIの導入判断からPoC・構築までを支援しています。

• 用途に合わせた機材・モデル選定（過剰投資の防止）
• 手持ちのPCでどこまでできるかの見極め
• 社内導入時のセキュリティ・運用設計

まずは30万円・2週間規模のミニ検証から始められます（費用の全体像は『ローカルLLM導入費用の実額内訳』で開示しています）。「AI PCを買うべきか、GPUマシンを組むべきか」といった機材選定のご相談からでも歓迎します。

---

この記事に関連するサービス

TodoONada株式会社では、機密データを外部に出さないローカルLLMの導入支援を行っています。

• ローカルLLM導入支援 — GPUサーバーでの本格構成。モデル選定からRAG構築・運用まで
• Macで始める社内専用AI導入支援 — Mac 1台から始める社内専用AI。PoCから部門導入まで対応

導入・開発のご相談はお問い合わせからお気軽にどうぞ。検討段階のご相談も歓迎です。