社内向け生成AI導入の手順2026。稟議・PoC・本番展開の7ステップと各段階の判断基準
「生成AIを社内に入れろ」と経営層から言われた担当者が最初に困るのは、技術ではなく順番です。ChatGPTのような外部サービスを契約するのか、社内にローカルLLMを構えるのか、その判断すら何を根拠に決めればよいのかが分からない。本記事では、目的の絞り込みから本番展開後の効果測定までを7ステップに分け、各ステップで「何が決まれば次に進めるか」という判断基準を示します。
この記事の要点
- 社内向け生成AIの導入は、目的の絞り込み → データ要件の判定 → 稟議 → 検証 → 本番構成 → 社内ルール → 展開・効果測定の7ステップで進めると、後戻りが最小になります
- クラウドAPIかローカルLLMかは、Step2の「データを社外に出せるか」で決まります。技術の好みや流行で決める話ではありません
- 稟議は「費用」より「効果の仮説」と「撤退基準」が通りやすさを左右します。段階投資(検証→本番)の形で合意を取るのが現実的です
- 総務省の調査では、生成AIを活用する方針を定めている日本企業は約50%で、中小企業では約34%にとどまります。方針の策定は、ツール選定より先に済ませるべき工程です
7ステップの全体像(早見表)
先に全体を一枚の表にまとめます。期間は従業員100〜300名規模の企業が、1つの業務から始める場合の目安です。
| ステップ | 目的 | 成果物 | 期間の目安 | よくあるつまずき |
|---|---|---|---|---|
| 1. 目的と対象業務の絞り込み | 「何に使うか」を1つに決める | 対象業務・利用者・期待効果の1枚 | 2〜4週間 | 「全社で何かに使いたい」のまま先に進む |
| 2. データ要件とクラウド可否の判定 | 社外に出せるデータかを確認する | データ分類表・構成方針(クラウド/ローカル/併用) | 1〜2週間 | 情シス・法務に聞かずにツールを選ぶ |
| 3. 稟議材料の作成 | 段階投資の合意を取る | 費用・効果仮説・リスク・撤退基準の稟議書 | 2〜4週間 | 本番費用だけを載せて却下される |
| 4. ミニ検証・PoC | 自社データで使えるかを数値で確認する | 精度評価レポート・本番構成案 | 2週間〜2ヶ月 | 出口基準を決めずに始めて終われない |
| 5. 本番構成と運用体制 | 使い続けられる形にする | 構成図・運用手順書・担当者アサイン | 1〜6ヶ月 | 運用担当者が決まらないまま構築する |
| 6. 社内ルールと教育 | 使い方の線引きを共有する | 利用ガイドライン・研修 | 2〜4週間(Step5と並行) | 禁止事項だけのルールで誰も使わない |
| 7. 展開と効果測定 | 効果を数字で確認し次の業務へ広げる | 利用率・削減工数・次期計画 | 継続 | 導入して終わりになる |
7つを直列に並べていますが、Step5とStep6は並行して進めます。またStep4の結果によってはStep2に戻り、構成方針を見直すこともあります。
Step1. 目的と対象業務を1つに絞る
最初に決めるのは「どの業務の、誰の、何の作業を減らすのか」です。この段階で対象業務を1つに絞れていない導入計画は、ほぼ確実に検証段階で迷走します。
社内向け生成AIの用途は、大きく次の3系統に分かれます。
| 系統 | 例 | 向いている入り口 |
|---|---|---|
| 社内文書の検索・要約 | 規程・マニュアル・過去の提案書・議事録の検索、問い合わせ対応 | 社内資料を読み込ませるRAG構成 |
| 定型文書の作成支援 | 報告書のたたき台、メール文面、仕様書の下書き | 汎用モデルのチャット利用 |
| 業務データの処理 | 帳票の読み取り、分類、要約の一括処理 | APIでの組み込み・バッチ処理 |
選ぶ基準は「困っている人が明確で、効果を数字にできる業務」です。たとえば「営業事務が過去の提案書を探すのに1件30分かかっている」であれば、対象・利用者・現状の工数がそろっているため、検証の設計がそのまま書けます。逆に「若手の生産性を上げたい」は目的として正しくても、検証の設計ができません。
このステップの成果物は、対象業務・利用者・現状の工数・期待する効果を書いた1枚です。これが後のStep3(稟議)とStep4(検証の出口基準)の土台になります。
次に進める条件: 対象業務が1つに決まり、現状の工数か件数が数字で書けている。
Step2. データ要件とクラウド可否を判定する
生成AIの導入で最も大きな分岐が、このステップです。クラウドAPI(ChatGPTやClaudeなどの外部サービス)を使うのか、社内にローカルLLMを構えるのかは、Step1で決めた業務が扱うデータを社外に送信できるかで決まります。
判定の手順は次の通りです。
- 対象業務で扱うデータを列挙する(顧客情報、設計図面、契約書、社内規程、公開資料など)
- それぞれについて、社外のサービスに送信してよいかを情シス・法務・該当部門に確認する
- 送信不可のデータが含まれる場合、その業務はローカルLLMか、データを分けた併用構成になる
個人情報保護委員会は2023年6月に生成AIサービスの利用に関する注意喚起を出しており、個人データを生成AIに入力する際の考え方を示しています。またIPAのテキスト生成AIの導入・運用ガイドライン(2024年7月31日公開)は、導入担当者・運用担当者・セキュリティ担当者それぞれの考慮事項を整理しています。自社の判断基準を一から作るより、これらを土台に「自社ではどこまで許すか」を決める方が早く進みます。
判定結果ごとの構成方針は次のようになります。
| 判定結果 | 構成方針 | 典型例 |
|---|---|---|
| すべて社外送信可 | クラウドAPIの法人契約 | 公開資料の要約、一般的な文書作成 |
| 一部に送信不可データがある | 併用(送信不可の業務だけローカル) | 顧客情報を含む問い合わせ対応と、それ以外 |
| 中核データが送信不可 | ローカルLLM(社内サーバーまたはMac) | 設計図面・契約書・診療情報・士業の受任案件 |
| 送信可だが利用量が多い | 費用比較のうえ判断 | 全社チャット、バッチ処理 |
ここで注意したいのは、「セキュリティが心配だからローカル」と反射的に決めないことです。ローカルLLMは社外送信のリスクをなくす代わりに、機材・運用担当者・保守という別の負担を引き受けます。クラウドで足りる業務をローカルで構えると、費用と手間だけが増えます。逆に、送信不可データを扱う業務は、費用に関わらずローカル以外の選択肢がありません。ローカル構成の費用感は『ローカルLLM導入費用の相場2026』、3年間の総保有コストでの比較は『オンプレLLMは本当に安いのか』を参照してください。
次に進める条件: 対象業務のデータ分類が終わり、クラウド/ローカル/併用のどれで進めるかが情シス・法務と合意できている。
Step3. 稟議に必要な材料をそろえる
稟議で問われるのは「いくらかかるか」だけではありません。通りやすい稟議書には、次の4点がそろっています。
- 効果の仮説: Step1の現状工数に対して、何がどれだけ減る見込みか。「1件30分の検索が5分になれば、月200件で約83時間」のように、検証で確かめられる形にします
- 費用: 検証費用と本番費用を分け、今回承認を求めるのは検証費用だけだと明記します。本番費用は幅で示し、検証結果を見て再度稟議にかける前提にします
- リスクと対策: 情報漏洩、誤回答、著作権、利用者の依存など。Step2の判定結果と、Step6で作る利用ルールを対策として示します
- 撤退基準: 検証でどの数値を下回ったら本番に進まないか。これがあると「失敗したらどうするのか」という問いに先回りできます
段階投資の形にするのは、稟議を通しやすくするためだけではありません。効果が読めない段階で本番費用を承認してもらうと、検証結果が悪かったときに引き返せなくなります。撤退基準の決め方は『ローカルLLMのPoCで300万円溶かす前に。始める前に決める撤退基準』で詳しく扱っています。
費用の根拠として、ハードウェアを含む構築であれば補助金が使える場合があります。制度ごとの向き不向きは『ローカルLLM構築に補助金は使えるか』にまとめています。
外部に検証や開発を委託する場合、契約の形も稟議材料になります。JDLAは2025年9月に生成AI開発契約ガイドラインを公開しており、秘密保持契約・アセスメント・導入検証・ソフトウェア開発の各段階に対応した契約書のひな形が付属しています。検証と本番で契約を分ける段階投資の考え方と整合しているため、ベンダーとの契約設計の参考になります。
稟議書の7項目と記入例は『ローカルLLM PoCの稟議書テンプレート』にまとめています。
次に進める条件: 検証費用の承認が下り、本番へ進む判断基準(撤退基準)が稟議書に書かれている。
Step4. ミニ検証・PoCで自社データを使って確かめる
検証の目的は「動くか」ではなく「自社の業務で使える精度が出るか」を数値で確認することです。無償ツールでモデルを動かすだけなら費用はかかりませんが、それでは稟議で約束した効果仮説を検証したことになりません。
検証の設計で先に決めておく項目は次の3つです。
- 評価データ: 対象業務の実データを10〜30件用意する。過去の問い合わせと正解の回答、実際の文書と期待する要約など
- 合格ライン: 「業務担当者が使えると判定した割合が80%以上」のように、Step3の撤退基準と同じ数値にする
- 期間と終了条件: 期限が来たら結果がどうであれ終了し、判定する
弊社の検証メニューは、対象と機材の扱いによって分かれています。
| メニュー | 参考価格・期間 | 向いている状況 |
|---|---|---|
| ミニ検証 | 約30万円・2週間 | 自社データで使えるか、本番へ進むかの判断材料が欲しい |
| ローカルLLM PoC(一般構成) | 30万円〜・1〜2ヶ月 | 閉域・オンプレの構成で、1つのユースケースの精度と効果を確かめたい |
| 社内専用AI PoC(Mac構成) | 50万円〜・2週間〜1ヶ月 | Mac 1台から始める構成で、精度・速度・実現可能性を確認したい |
| 社内設置の実現性検証(機材貸出) | 30万円〜(税別・2週間・機材貸出料込み) | 機材を買う前に、DGX SparkやMacをオフィスに置いて「置けるか」を判定したい |
いずれもGPUサーバーやMac本体などのハードウェア費用の扱いは別途で、期間の起算日や成果物の詳細は要件・見積もりで確認します。同じ「30万円」でも検証範囲が異なるため、自社の状況に合うメニューを選んでください。
検証が終わったら、結果は3つに分類します。合格ラインを超えた業務は本番へ、条件付きで超えた業務は構成やデータを見直して再検証、超えなかった業務は撤退してクラウド利用や別の業務を検討します。「もう少しやれば」と検証を延長し続けるのが、最も費用を溶かすパターンです。
精度・速度・同時利用・運用負荷の4軸で測る評価シートの作り方は『ローカルLLM PoCの評価シート』を参照してください。
次に進める条件: 合格ラインに対する実測値がレポートにあり、本番へ進む・再検証する・撤退するのいずれかを判定できている。
Step5. 本番構成と運用体制を決める
検証で効果が確認できた業務を、使い続けられる形にするのが本番構築です。ここで技術より先に決めるべきなのは運用体制です。
- 運用担当者: モデルの更新、利用者からの問い合わせ、障害時の一次対応を誰がするか。社内に置くか、保守契約で外部に任せるか
- データの更新: 社内文書を読み込ませる構成なら、誰がいつ追加・削除するか
- アクセス権限: 誰がどの文書を検索できるか。既存の権限体系と合わせるか
- ログと監査: 誰が何を入力し、何が返ったかを残すか。規制業種では必須になります
運用担当者が決まらないまま構築に入ると、納品後に誰も面倒を見ないシステムになります。この問題は『導入したローカルLLM、誰が維持するのか』で扱っています。
構成の規模感は、利用人数と業務の広がりで決まります。弊社のメニューでは、一般構成の本番導入(スタンダード)が100万円〜、複数部門への展開や厳格なセキュリティ要件を含むエンタープライズが300万円〜、Mac構成では部門向け社内専用AI導入が150万円〜、全社向けの社内専用AI基盤構築が300万円〜です。いずれも価格は参考で、ハードウェア費用は別途です。期間は、一般構成の本番導入で3〜6ヶ月程度、Mac構成の部門導入で1〜3ヶ月程度が目安で、機器の調達期間により前後します。導入後の保守・改善支援は、Mac構成で月額10万円〜30万円で承っています。
次に進める条件: 運用担当者と保守の範囲が決まり、構成図と運用手順書の作成に着手できている。
Step6. 社内ルールと教育を整える
本番展開の前に、利用者に「何をしてよくて、何をしてはいけないか」を伝えるルールが必要です。ゼロから作る必要はなく、公開されているひな形を自社向けに調整するのが早道です。
- JDLAの生成AIの利用ガイドライン 第1.1版(2023年10月6日)は、組織が自らの活用目的に応じてカスタマイズすることを前提にしたひな形で、入力データの懸念事項、個人情報・秘密情報の入力、著作物の利用、出力の権利帰属を扱っています
- AI事業者ガイドライン(総務省・経済産業省)は、AIを利用する事業者にも求められる取り組みを整理した文書で、2024年4月の第1.0版以降、継続的に改訂されています。社内ルールが国のガイドラインと矛盾していないかの確認に使えます
ルールを作るときに避けたいのは、禁止事項だけを並べることです。「顧客情報を入力してはいけない」だけでは、利用者は怖くて何も入力しなくなります。「社内専用AIには社内文書を入力してよい」「外部サービスには公開情報のみ」のように、構成ごとに許可範囲を明示すると、実際に使われるルールになります。
教育は、操作方法よりも「どんな業務にどう使うと効くか」の共有に時間を割きます。検証で効果が出た使い方をそのまま事例として見せるのが、最も伝わります。
条文例まで含めた規程のひな形は『社内生成AI利用規程のひな形2026』にあります。
次に進める条件: 利用ガイドラインが承認され、対象部門への説明が終わっている。
Step7. 展開して効果を測る
本番展開後は、Step1で数字にした現状工数に対して、実際にどれだけ減ったかを測ります。測る項目は次の3つで十分です。
| 指標 | 何を見るか | 見る頻度 |
|---|---|---|
| 利用率 | 対象部門の何人が、週に何回使っているか | 月次 |
| 削減工数 | 対象業務の1件あたり時間、または処理件数の変化 | 月次〜四半期 |
| 品質 | 誤回答の報告件数、利用者の満足度 | 月次 |
利用率が低い場合、原因はたいてい精度ではなく導線です。日常の業務システムから離れた場所にAIがあると、使われません。逆に効果が確認できた業務があれば、その結果を次の業務の稟議材料にします。1つ目の業務で効果を数字で示せていれば、2つ目以降の稟議は格段に通りやすくなります。
総務省の令和7年版情報通信白書(概要)によれば、生成AIを活用する方針を定めている日本企業は約50%で、大企業の約56%に対して中小企業は約34%にとどまります。方針を定めて1つ目の業務で効果を出した企業と、方針がないまま個人任せで使っている企業の差は、ここから開いていきます。
規模別の現実的なスケジュール
7ステップを、企業規模と構成ごとに並べると次のようになります。期間は目安で、機器の調達や社内の承認プロセスにより前後します。
| 想定 | 構成 | Step1〜3(計画・稟議) | Step4(検証) | Step5〜6(本番・ルール) | 本番開始までの合計 |
|---|---|---|---|---|---|
| 士業・専門サービス(10〜30名) | Mac 1台の社内専用AI | 1〜2ヶ月 | 2週間〜1ヶ月 | 1〜3ヶ月 | 3〜6ヶ月 |
| 製造業・中堅企業(100〜300名) | ミニ検証→一般構成のPoC→本番 | 1〜2ヶ月 | 2週間+1〜2ヶ月 | 3〜6ヶ月 | 6〜12ヶ月 |
| 規制業種(金融・医療) | 要件整理を含むPoC→本番 | 2〜3ヶ月 | 1〜2ヶ月 | 3〜6ヶ月以上 | 9〜15ヶ月 |
| データがすべて社外送信可 | クラウドAPIの法人契約 | 1〜2ヶ月 | 2〜4週間 | 1〜2ヶ月 | 3〜5ヶ月 |
規制業種で期間が伸びるのは、構築作業ではなく要件整理と監査対応のためです。業種ごとの事情は『金融機関のローカルLLM導入』、『医療機関のローカルLLM』、『製造業のローカルLLM』で扱っています。国内の導入事例から共通パターンを見たい場合は『LLM導入事例・活用事例2026』を参照してください。
導入前チェックリスト
Step4の検証に入る前に、次の10項目が埋まっているかを確認してください。
- 対象業務が1つに決まっている(「全社で何かに」ではなく)
- 現状の工数か件数が数字で書けている
- 対象業務で扱うデータの分類が終わっている
- クラウド/ローカル/併用の方針を情シス・法務と合意した
- 効果の仮説が検証で確かめられる形になっている
- 検証費用と本番費用を分けて稟議にかけた
- 検証の合格ラインと撤退基準を先に決めた
- 評価用の実データを10〜30件用意できる
- 本番後の運用担当者の当てがある
- 利用ルールのひな形を決めた(JDLA等)
まとめ
- 社内向け生成AIの導入は、目的の絞り込み → データ要件の判定 → 稟議 → 検証 → 本番構成 → 社内ルール → 展開・効果測定の7ステップで進めます
- クラウドAPIかローカルLLMかは、対象業務のデータを社外に送信できるかで決まります。送信不可データがあればローカル、すべて送信可ならクラウドが基本で、混在なら併用です
- 稟議は検証費用と本番費用を分け、効果の仮説と撤退基準を載せた段階投資の形にすると通りやすく、失敗時に引き返せます
- 検証は自社の実データ10〜30件で合格ラインを先に決め、期限が来たら本番・再検証・撤退のいずれかを判定します
- 本番構築では技術より先に運用担当者を決め、社内ルールは禁止事項ではなく構成ごとの許可範囲を示す形にします
よくある質問
Q. 生成AIを社内に導入する手順は、何から始めればよいですか?
対象業務を1つに絞ることから始めます。「誰の、どの作業を、どれだけ減らすか」を数字で書けるまで、ツールの選定には進みません。次にその業務で扱うデータを社外に送信してよいかを情シス・法務と確認し、クラウドAPIかローカルLLMかの構成方針を決めます。稟議・検証・本番はその後です。
Q. クラウドの生成AIとローカルLLMは、どちらを選ぶべきですか?
対象業務のデータを社外に送信できるかで決まります。顧客情報・設計図面・契約書のように送信不可のデータを扱う業務はローカルLLM、公開資料の要約や一般的な文書作成のように送信可の業務はクラウドAPIが基本です。両方が混在する場合は、送信不可の業務だけをローカルにする併用構成になります。
Q. 生成AI導入の稟議を通すには、何が必要ですか?
費用に加えて、効果の仮説・リスクと対策・撤退基準の3点です。とくに、今回承認を求めるのは検証費用だけとし、本番費用は検証結果を見て再度稟議にかける段階投資の形にすると通りやすくなります。効果が読めない段階で本番費用を承認してもらう形は避けてください。
Q. PoCはどのくらいの期間と費用で行えますか?
弊社のメニューでは、ミニ検証が約30万円・2週間、一般構成のローカルLLM PoCが30万円〜・1〜2ヶ月、Mac構成の社内専用AI PoCが50万円〜・2週間〜1ヶ月、機材貸出付きの社内設置の実現性検証が30万円〜(税別・2週間)です。ハードウェア費用は別途で、検証範囲がそれぞれ異なるため、自社の状況に合うメニューを選びます。
Q. 社内の生成AI利用ルールは、何を参考に作ればよいですか?
JDLAの「生成AIの利用ガイドライン」第1.1版が、組織が自社向けにカスタマイズすることを前提にしたひな形として使えます。国の文書では、総務省・経済産業省の「AI事業者ガイドライン」とIPAの「テキスト生成AIの導入・運用ガイドライン」が、利用者側の考慮事項を整理しています。禁止事項だけでなく、構成ごとに入力してよいデータの範囲を示すルールにしてください。
Q. 導入後の効果はどう測ればよいですか?
利用率・削減工数・品質の3つで十分です。対象部門の何人が週に何回使っているか、対象業務の1件あたり時間がどれだけ減ったか、誤回答の報告件数がどの程度かを月次で見ます。1つ目の業務で効果を数字にできれば、それが次の業務の稟議材料になります。
主な参考資料: 令和7年版情報通信白書 概要(総務省)、AI事業者ガイドライン(総務省・経済産業省)、テキスト生成AIの導入・運用ガイドライン(IPA)、生成AIサービスの利用に関する注意喚起等について(個人情報保護委員会)、生成AIの利用ガイドライン 第1.1版(JDLA)、生成AI開発契約ガイドライン(JDLA)
TodoONadaでは、社内向け生成AIの導入を、対象業務の絞り込みとクラウド可否の判定から一緒に進めています。クラウドで足りる業務にローカルLLMを勧めることはせず、送信不可のデータを扱う業務にはローカル構成の実額と構成を最初に開示します。「うちの業務はクラウドでよいのか、ローカルが必要なのか」という判定段階のご相談だけでも歓迎します。
この記事に関連するサービス
TodoONada株式会社では、シャドーAIの実態把握を起点にした企業向けの全社AI導入支援を行っています。法人プランの選定と統制の整備から、部門別の活用と研修、効果測定まで正しい順番で進めます。
- 全社AI導入支援 — シャドーAIを含む現状診断から、ChatGPT・Claude・Copilot・Geminiの法人プラン選定、SSO・監査ログ・規程、部門別の活用と研修、定着まで。現状診断30万円〜(税別)
- ローカルLLM導入支援 — 契約や法令で社外送信が禁止されたデータを扱う部門向けの、閉域で完結する構成
- ローカルLLM 社内設置の実現性検証(機材貸出) — 機材を買う前に、貴社オフィスに2週間設置して「置けるか」を判定
ご相談はお問い合わせからお気軽にどうぞ。検討段階のご相談も歓迎です。
出典・参照
- 生成AIを活用する方針を定めている企業は約50%。大企業約56%・中小企業約34% (2026年9月30日確認)
- AI事業者ガイドライン(総務省・経済産業省) (2026年9月30日確認)
- テキスト生成AIの導入・運用ガイドライン(IPA、2024年7月31日) (2026年9月30日確認)
- 生成AIサービスの利用に関する注意喚起等について(個人情報保護委員会、2023年6月2日) (2026年9月30日確認)
- 生成AIの利用ガイドライン 第1.1版(JDLA、2023年10月6日) (2026年9月30日確認)
- 生成AI開発契約ガイドライン(JDLA、2025年9月19日) (2026年9月30日確認)