ローカルLLM PoCの費用・期間・進め方。2週間30万円の実現性検証から業務PoCまでの段階設計

Q: ローカルLLMのPoCはいくらかかりますか？

段階によって異なります。貸出機材で置けるかを判定する社内設置の実現性検証が30万円〜（税別・2週間・機材貸出料込み）、自社データでモデルを選ぶミニ検証が約30万円・2週間、業務PoCが一般構成で30万円〜・1〜2ヶ月、Mac構成で50万円〜・2週間〜1ヶ月です。GPUサーバーとRAG基盤を含む費用例では300〜500万円になります。いずれも目安で、機材費の扱いは要件と見積もりで確認します。

Q: PoCの期間はどのくらいですか？

実現性検証とミニ検証は2週間、業務PoCは1〜2ヶ月（Mac構成は2週間〜1ヶ月）が目安です。GPUサーバーを新規調達する場合は納期が加算されます。貸出機材を使えば環境構築済みの状態から始められ、調達待ちの間に検証を進められます。

Q: PoCで終わらせないためには何を決めておくべきですか？

開始前に成果物と出口基準を文書にして合意しておくことです。精度・3年TCO・運用担当者の3つの基準と合格ラインを決め、1つでも割ったら止まるという判断ルールを先に決めます。

「ローカルLLMをまず試したい」という相談で最初に詰まるのは、技術ではなく稟議です。機材を買う前に何を確かめるべきか、いくらで何週間かかるのか、成果物は何かが決まらないと、上申する側も承認する側も動けません。本記事では、ローカルLLMのPoC（概念実証）を目的の異なる3つの段階に分け、それぞれの期間・費用・成果物と、段階をどう組み合わせるかを整理します。

この記事の要点

ローカルLLMのPoCは「置けるか（社内設置の実現性検証）」「どのモデルが使えるか（モデル選定ミニ検証）」「業務で効果が出るか（業務PoC）」の3つに分かれ、答える問いが違います

最も軽い段階は貸出機材で行う2週間の実現性検証（30万円〜・税別・機材貸出料込み）で、機材を買わずに「可・条件付き可・不可」の判定が得られます

生成AI開発全般のPoCは公開例で150〜500万円・1〜2ヶ月が中心です。ローカルLLMではGPU機材の扱いが費用を左右するため、購入と貸出の切り分けが要点になります

PoCの後に頓挫するプロジェクトは少なくとも30%とGartnerが予測しています。出口基準・実データ・運用担当者をPoC開始前に決めることが、PoC止まりを防ぐ最短の方法です

ローカルLLM PoCの3段階（目的・期間・費用・成果物）

ひとことで「PoC」と呼ばれる作業には、答える問いが異なる3種類が混ざっています。この3つを分けて発注しないと、「精度は良かったが置く場所がない」「機材は届いたがモデルが業務に合わない」という結果になりがちです。

段階	答える問い	期間	費用の目安	主な成果物
1. 社内設置の実現性検証	うちのオフィスにローカルLLMを置いて回せるか	2週間	30万円〜（税別・機材貸出料込み）	可・条件付き可・不可の判定、推奨構成と概算費用、設置・運用条件
2. モデル選定ミニ検証	自社データでどのモデル・構成が使えるか	2週間	約30万円	業務サンプルでの精度評価レポート、本番へ進むかの見立て
3. 業務PoC	この業務でAIは効果が出るか	1〜2ヶ月	30万円〜（一般構成）／50万円〜（Mac構成）。GPUサーバー・RAG基盤込みの費用例では300〜500万円	精度・実現性のレポート、本番構成案

3段階の順番は固定ではありません。用途が決まっていて機材の当てもあるなら業務PoCから入って構いませんし、「置きたいが何を買えばいいか分からない」状態なら実現性検証が先です。段階1と2を同時に行う設計も可能ですが、成果物と判定基準は別々に定義しておきます。

費用の読み分け（同じ「30万円」「PoC」でも条件が違います）

上の表にある金額は、それぞれ別のメニューの案内に基づいており、同一条件の価格比較ではありません。混同しやすいので分けて示します。

メニュー	参考価格・期間	機材費の扱い	案内元
社内設置の実現性検証	30万円〜・税別・2週間	貸出料込み（機材により価格が変わる）	社内設置の実現性検証
機材のみ貸出	1週 4.5万円〜・税別	貸出料のみ。検証は自社で行う	同上
ミニ検証	約30万円・2週間	費用内訳に検証機を含む	費用記事
ローカルLLM PoC（一般構成）	30万円〜・1〜2ヶ月	GPUサーバー等のハードウェア費・ライセンス費は別途	ローカルLLM導入支援
社内専用AI PoC（Mac構成）	50万円〜・2週間〜1ヶ月	Mac本体等のハードウェア費は別途	Macで始める社内専用AI
GPUサーバー・RAG基盤込みのPoC費用例	300〜500万円・3〜6ヶ月	GPUサーバーの購入または借用を含む	費用記事

金額・期間はいずれも目安であり、対象データ・検証範囲・成果物・期間の起算日・機材調達やデータ準備の日数は、要件と見積もりで確認します。比較の参考として、生成AI開発全般ではPoC・プロンプト設計が150〜500万円・1〜2ヶ月、本番実装が500万円〜という公開例があります。ローカルLLMでは、この金額の上にGPU機材をどう扱うかが乗ります。

段階1: 社内設置の実現性検証（置けるかを判定する）

答える問いは「うちのオフィスにローカルLLMを置いて回せるか」です。精度の検証ではなく、機材・設置環境・速度・運用体制・費用の5点を、貴社の条件で実測します。

機材適合: 想定モデルと同時利用人数で、DGX SparkとMacのどちらが合うかを実測で確かめます。1人利用ならMac、複数同時や長文の読み込みならDGX Sparkという判断を、自社の使い方で検証します
設置環境: 閉域ネットワークへの接続、電源、設置場所、情報システム部門の承認条件を確認します。持込機器の申請に必要な構成図や接続範囲の説明資料もこの段階で揃えます。確認項目の一覧は『ローカルLLMを社内サーバーとして置く前に確認する10項目』にまとめています
運用体制: モデル更新・障害対応を誰が担うかを、実機を触りながら決めます
費用: 推奨構成での初期費用と月額の概算、3年費用を整理します

成果物は「可・条件付き可・不可」の3段階の判定と、その根拠です。条件付き可なら、機種の変更や同時利用人数の制限など満たすべき条件が明示されます。不可なら、クラウドAIの利用、機密業務だけをローカルにする使い分け、時期を待つといった代替案がレポートに含まれます。

この段階の価値は、機材を買わずに判断できる点にあります。貸出料は、その後の業務PoC・導入費用、または機材購入時に充当されるため、「検証費用が無駄になる」という懸念も稟議で説明しやすくなります。実データでの精度検証は含まれないので、精度を問う場合は段階2または3を組み合わせます。

段階2: モデル選定ミニ検証（どのモデルが使えるかを数値化する）

答える問いは「自社データでどのモデル・どの構成が使えるか」です。無料でもOllamaなどを既存PCに入れればモデルは動きますが、ミニ検証がその0円と違うのは、自社の実データを使って定量的に精度を測る点です。

実際の社内文書10〜30件を使い、候補モデルの回答精度を数値化します
業務担当者が「使える／使えない」を判定できる形式でレポートします
どのモデル・どの構成なら本番に耐えるかの見立てを付けます

日本語の業務文書では、モデルのサイズクラスと日本語追加学習の有無で結果が大きく変わります。候補の絞り込み方は『日本語で使えるローカルLLMおすすめ2026』を、候補モデルが手元の機材に載るかはローカルLLM必要メモリ診断で事前に確認できます。

段階3: 業務PoC（この業務で効果が出るかを検証する）

答える問いは「この業務でAIは効果が出るか」です。対象業務を1つに絞り、ユースケース整理・モデル選定・検証環境での構築・実データ評価を行い、精度と実現性のレポートと本番構成案を成果物にします。

業務PoCで費用を左右するのは、GPU機材とRAG基盤の有無です。社内文書検索のように長文資料を読み込ませる用途では、検索・埋め込み・回答生成のRAG基盤が必要になり、構築工数が乗ります（構成は『社内文書RAGの作り方2026』を参照してください）。一方、定型文書の下書きや分類のように単発の推論で済む用途は、Mac 1台の構成で検証できることが多く、Macで始める社内専用AI PoCの範囲に収まります。

期間は一般構成で1〜2ヶ月、Mac構成で2週間〜1ヶ月が目安です。GPUサーバーを新規に調達する場合は納期が加算されるため、段階1で貸出機材を使って先に環境を固めておくと、業務PoCの着手が早まります。

「PoC止まり」を防ぐ出口基準の決め方

Gartnerは2024年7月に、生成AIプロジェクトの少なくとも30%が2025年末までにPoC後に頓挫すると予測し、原因としてデータ品質の低さ、リスク管理の不備、コストの増大、ビジネス価値の不明確さの4つを挙げています。日本企業でも、PwCの2026年春の調査で生成AIの活用・推進度は87%に達した一方、期待通り以上の効果を得ている企業は64%にとどまり、評価未実施が13%あります。「やってはいるが、効果を測れていない」状態が珍しくないということです。

PoC止まりを防ぐ最短の方法は、開始前に出口を数字で決めることです。精度・コスト・運用の3つの基準と合格ラインの作り方、1つでも割ったら止まるという判断ルールは『ローカルLLMのPoCで300万円溶かす前に。始める前に決める撤退基準』で詳しく扱っているので、本記事では段階ごとに何を出口にするかだけを示します。

段階	出口で判断すること	進む条件の例
実現性検証	置けるか、何を買うか	「可」または条件を満たせる「条件付き可」
ミニ検証	どのモデルが業務に耐えるか	業務サンプルで合意した合格率を超えるモデルが1つ以上ある
業務PoC	本番構築に投資するか	精度・3年TCO・運用担当者の3基準をすべて満たす

出口基準は成果物の定義とセットで、発注前に文書にします。「PoCが終わったら考える」は、PoC止まりの最も多い入り口です。

PoCの費用内訳（機材・人件費・データ準備）

ローカルLLMのPoC費用は、大きく3つの塊でできています。

費目	中身	費用を動かす要因
機材	GPUサーバー・DGX Spark・Macの購入または貸出	購入か貸出か、モデルサイズ、同時利用人数
人件費（外部）	ユースケース整理、環境構築、評価、レポート	RAG基盤の有無、対象業務の数、セキュリティ要件
データ準備（社内）	評価用の実データ選定、正解データの作成、業務担当者の評価時間	自社で用意できるか、外注するか

見積書の金額の大半は外部の人件費です。ソフトウェアはOllama・vLLM・Open WebUIなどのOSSが中心で、ライセンス費が乗る構成は限られます。人件費を下げる最も効くレバーは、評価データと正解データを自社の業務担当者が用意することです。外注工数が減るうえ、評価の質そのものが上がります。本番構築まで含めた費用の全体地図と見積書の読み方は『ローカルLLM導入費用の相場2026』を参照してください。

機材は買うか借りるか

PoC段階で機材を購入するかどうかは、費用と納期の両方に効きます。借りる場合の機材の選び方と返却時のデータ消去までは『ローカルLLM機材をレンタルして検証する2026』で詳しく扱っています。

選択肢	向いている状態	注意点
手元のPC・Macで0円検証	方向性の当たりをつけたい	本番と速度・精度が異なる。稟議の根拠にはしにくい
貸出機材（1週 4.5万円〜・税別）	何を買うか決まっていない、納期待ちの間に検証したい	在庫による。実データ検証は含まれないので別途組み合わせる
中古・ミドルGPUを購入	用途が決まっていて、検証後もそのまま使う	本番で必要な構成と違うと買い直しになる
本番想定機を購入	効果が確認済みで、PoCと本番を同じ機材で行う	80万〜160万円級の機材を効果不明のまま買うことになる

2026年9月時点で、貸出機材としてはDGX Spark（128GBユニファイドメモリ）、DGX Spark 2台のクラスタ、MacBook Pro 128GB、Mac Studioがあり、1週4.5万円〜・2週8万円〜（税別、機材により異なる）で利用できます。環境構築済みで到着し、Ollama・vLLM・Open WebUIと日本語モデルが読み込まれた状態から始められるため、環境構築に検証期間を食われません。貸出料は次の段階の費用や機材購入に充当されます。

どの機材が自社の使い方に合うかは、モデルサイズよりメモリ帯域と同時利用人数で決まります。判断の物差しは『ローカルLLMの速度はメモリ帯域で決まる』と『ローカルLLMはMacかRTXか』を、購入する場合の予算帯は『予算別ローカルLLM PC 2026』を参照してください。

社内で用意するもの（データ・担当者・評価者）

PoCの成否は、外部に発注する前に社内で用意できるもので半分決まります。

評価用の実データ: 対象業務の文書10〜30件。デモ用のきれいなデータではなく、現場の生データを選びます。持ち出し制限がある場合は、機材を社内に設置して外部に送信しない構成で扱います
正解データ: 「この質問にはこう答えてほしい」という期待出力。業務担当者が作るのが最も精度が高く、外注工数も減ります
推進担当者: 社内の窓口として、データの手配、情報システム部門との調整、評価者のスケジュール確保を担う人
評価者: 出力が業務で使えるかを判定する業務担当者。1人ではなく2〜3人いると判定のばらつきが見えます
情報システム部門の窓口: 閉域ネットワークへの接続、持込機器の申請、電源・設置場所の確認を早い段階で相談します
運用担当者の当て: PoCの段階で「導入後に誰が見るか」を決めておきます。決まらないままの本番構築は、運用が途絶える最大の要因です（『導入したローカルLLM、誰が維持するのか』）

よくある進め方の失敗

実際の相談で繰り返し見る失敗を、段階の設計ミスとして整理します。

買ってから試す: スペック表のメモリ容量だけで機種を選び、想定モデルの応答が遅くて利用者が離れる。メモリ帯域と同時利用人数を実測していない
届いたが置けない: 閉域ネットワークや電源・設置場所の条件が合わず、情報システム部門の承認が下りないまま機材が眠る。実現性検証を飛ばした結果です
精度と設置を同時に問う: 1つのPoCで「使えるか」と「置けるか」を同時に検証し、どちらも中途半端に終わる。答える問いは段階ごとに分けます
出口を決めずに始める: 検証は終わったが、進むか止めるかの基準がなく、報告書だけが残る。PoC止まりの典型です
デモ用データで検証する: 整ったサンプルでは高精度だが、現場の生データでは使えない。評価データは最初から実データにします
運用担当者が決まらないまま本番へ: 動くものはできたが、担当者の異動と同時に止まる。PoC中に決めるべき項目です

PoCを始める前のチェックリスト

発注前に、次の項目が埋まっているかを確認してください。

3段階のうち、今回答える問いを1つに決めた（置けるか／どのモデルか／効果が出るか）
成果物と出口基準を文書にし、関係者で合意した
評価用の実データ（10〜30件）と正解データを社内で用意できる
機材は買うか借りるかを決めた。買う場合は本番構成との整合を確認した
情報システム部門に接続・設置・持込機器の条件を確認した
推進担当者と評価者の時間を確保した
導入後の運用担当者の当てがある
PoC費用に社内の人件費（データ準備・評価時間）を含めて見積もった
次の段階（業務PoC・本番構築）の概算費用を先に把握している

まとめ

ローカルLLMのPoCは、置けるか（実現性検証）・どのモデルが使えるか（ミニ検証）・効果が出るか（業務PoC）の3段階に分け、段階ごとに出口を決めます
最も軽い入り口は貸出機材による2週間の実現性検証（30万円〜・税別・機材貸出料込み）で、機材を買わずに可・条件付き可・不可の判定が得られます。機材のみの貸出なら1週4.5万円〜です
業務PoCは一般構成30万円〜・1〜2ヶ月、Mac構成50万円〜・2週間〜1ヶ月が目安で、GPUサーバー・RAG基盤込みの費用例では300〜500万円になります。同じ「PoC」でも機材費の扱いが違うため、条件を揃えて比較します
費用の大半は外部の人件費です。評価データと正解データを社内で用意することが、費用と評価の質の両方に効きます
PoC後に頓挫するプロジェクトは少なくとも30%と予測されています。出口基準・実データ・運用担当者を開始前に決めることが、PoC止まりを防ぐ最短の方法です

よくある質問

Q. ローカルLLMのPoCはいくらかかりますか？

段階によって異なります。貸出機材で「置けるか」を判定する社内設置の実現性検証が30万円〜（税別・2週間・機材貸出料込み）、自社データでモデルを選ぶミニ検証が約30万円・2週間、業務での効果を検証する業務PoCが一般構成で30万円〜・1〜2ヶ月、Mac構成で50万円〜・2週間〜1ヶ月です。GPUサーバーとRAG基盤を含む費用例では300〜500万円になります。いずれも目安であり、対象データ・検証範囲・機材費の扱いは要件と見積もりで確認します。

Q. PoCの期間はどのくらいですか？

実現性検証とミニ検証は2週間、業務PoCは1〜2ヶ月（Mac構成は2週間〜1ヶ月）が目安です。GPUサーバーを新規に調達する場合は納期が加算されます。貸出機材を使えば環境構築済みの状態から始められるため、調達待ちの間に検証を進められます。

Q. 機材を買う前にPoCはできますか？

できます。DGX SparkやMacを貴社オフィスに設置して2週間検証する社内設置の実現性検証では、機材を購入せずに可・条件付き可・不可の判定と推奨構成・概算費用が得られます。機材のみの貸出（1週4.5万円〜・税別）もあり、貸出料はその後の業務PoC・導入費用・機材購入時に充当されます。

Q. PoCと実現性検証は何が違いますか？

答える問いが違います。業務PoCは「この業務でAIは使えるか」に答え、回答の精度と業務への適合を検証します。実現性検証は「うちのオフィスにローカルLLMを置いて回せるか」に答え、機材・設置環境・速度・運用体制・費用を実測します。用途が決まっているなら業務PoC、置きたいが何を買えばいいか分からないなら実現性検証が先です。

Q. PoCの前に社内で準備するものは何ですか？

対象業務の実データ10〜30件、期待出力を示す正解データ、社内の推進担当者、出力を判定する業務担当者2〜3人、情報システム部門の窓口、導入後の運用担当者の当ての6つです。とくに評価データと正解データを社内で用意すると、外注工数が減り評価の質も上がります。

Q. PoCで終わらせないためには何を決めておくべきですか？

開始前に、成果物と出口基準を文書にして合意しておくことです。精度・3年TCO・運用担当者の3つの基準と合格ラインを決め、1つでも割ったら止まるという判断ルールを先に決めます。基準の作り方は『ローカルLLMのPoCで300万円溶かす前に』で解説しています。

主な参考資料: 生成AI受託開発の費用相場2026（renue）、Gartnerの生成AIプロジェクト頓挫予測（Intelligent CIO）、生成AIに関する実態調査2026春（PwC Japan）、AI PoCの本番化ガイド（GXO）

TodoONadaでは、ローカルLLMのPoCを「置けるか」「どのモデルか」「効果が出るか」の3段階に分けて支援しています。最初の一歩として、DGX SparkやMacを貴社オフィスに設置して2週間で判定する社内設置の実現性検証（30万円〜・税別・機材貸出料込み）と、機材のみの短期貸出（1週4.5万円〜・税別）を承っています。貸出料は次の段階の費用や機材購入に充当します。「うちの場合はどの段階から始めるべきか」という整理のご相談だけでも歓迎します。

この記事に関連するサービス

TodoONada株式会社では、機密データを外部に出さないローカルLLMの導入支援を行っています。

ローカルLLM導入支援 — GPUサーバーでの本格構成。モデル選定からRAG構築・運用まで
Macで始める社内専用AI導入支援 — Mac 1台から始める社内専用AI。PoCから部門導入まで対応
ローカルLLM 社内設置の実現性検証（機材貸出） — 機材を買う前に、DGX SparkやMacを貴社オフィスに2週間設置して「置けるか」を判定。機材のみの短期貸出も対応

導入・開発のご相談はお問い合わせからお気軽にどうぞ。検討段階のご相談も歓迎です。