生成AIをオフラインで使う2026。閉域・ネットワーク分離・スタンドアロンの3構成と、インターネットにつながないと困る5つの作業

Q: 閉域とネットワーク分離は何が違いますか？

閉域（エアギャップ）は外部ネットワークから物理的・論理的に隔離した環境で、モデルや更新の持ち込みが物理媒体や内部ミラー経由になります。ネットワーク分離は生成AIのサーバーを社内LANには接続するが、インターネットへの経路を持たせない構成です。規程でネットワーク区分が決まっている場合は閉域、それ以外はネットワーク分離から検討します。

Q: オフライン環境でモデルを更新するにはどうすればよいですか？

オンライン側の作業端末で新しいモデルを取得し、配布元のハッシュ値と照合してから物理媒体か内部ミラーで持ち込みます。持ち込み後に再照合し、自社の業務データで精度を確かめてから切り替えます。持ち込み台帳に記録し、更新を検討する周期を決めておくと塩漬けを防げます。

Q: 社内文書を検索して答えるRAGも閉域で動かせますか？

動かせます。ただし文書を数値に変換する埋め込みモデルも社内の機材で動かす必要があります。埋め込みに外部APIを使うと文書の中身を外部に送ることになり、閉域になりません。埋め込みモデルとベクトルDBを推論エンジンと同じ機材の内側に置きます。

Q: オフラインにすれば情報漏洩の心配はなくなりますか？

なくなりません。断てるのは入力したデータが外部に送られる経路だけです。改ざんされたモデルファイルの持ち込み、認証のない設定による社内からの不正アクセス、脆弱性修正の停止、RAG文書経由の指示、出力の誤りは閉域でも残ります。入口でのハッシュ照合、認証、更新の継続、人による確認を合わせて設計します。

「生成AIは使いたいが、社外にデータを出せない」。この相談は、金融・医療・自治体だけでなく、取引先から秘密保持を厳しく求められる製造業や士業、そして最近では情報漏洩の報道を見た一般企業の経営層からも増えています。答えは「インターネットにつながない構成で生成AIを動かす」ですが、ひとことで「オフライン」と言っても、物理的に一切つながない閉域から、社内LANにだけつなぐ構成、PC1台で完結させる構成まで幅があり、どれを選ぶかで費用も運用もまったく違います。

本記事では、生成AIをオフラインで使う構成を3段階に分け、それぞれが向く組織、閉域で動かすための基本構成、インターネットにつながないからこそ困る5つの作業とその対処、ネットワーク分離の3パターン、規制業種での位置づけ、導入前に確認する項目までを整理します。なお、個人の手元のPCでオフラインのLLMを試したい方は、機材の目安を『ノートPCで動く軽量ローカルLLM 2026』、モデルの選び方を『日本語で使えるローカルLLMおすすめ2026』にまとめているので、そちらから読み始めてください。本記事は組織として導入する場合の話です。

この記事の要点

「オフラインの生成AI」は、完全閉域（エアギャップ）・ネットワーク分離（社内LANのみ）・スタンドアロン（1台完結）の3段階に分かれ、守れるものと運用の重さが段階ごとに違います

閉域で動かすには、推論エンジン・モデル・チャットUI・RAGの索引・認証の5部品をすべて内側に持ち、外部APIを一切呼ばない構成にします

インターネットにつながないと困る作業は、モデルの取得、依存パッケージの解決、推論エンジンの脆弱性修正、モデルの更新、ライセンスと署名の確認の5つです。どれも「オンライン側で固めて、検証してから運ぶ」手順で解決できます

多くの企業にとっての現実解は完全閉域ではなく、社内LANにだけ接続するネットワーク分離です。情報システム部門の既存の分離ポリシーに乗せやすく、更新作業の負担も軽く済みます

「オフラインなら安全」ではありません。持ち込むモデルファイルの検証、社内からの不正アクセス、更新が止まることによる脆弱性の放置は、閉域でも残ります

「オフラインの生成AI」は3段階ある（完全閉域・ネットワーク分離・スタンドアロン）

まず言葉を揃えます。「オフラインで生成AIを使う」と言うとき、実際には次の3つのどれかを指しています。

構成	インターネット	社内LAN	利用者	向く組織	運用の重さ
① 完全閉域（エアギャップ）	接続しない	閉域網または専用セグメントのみ	部門〜全社	自治体のLGWAN接続系、金融の勘定系周辺、防衛・重要インフラ、研究データを扱う組織	重い。持ち込み作業がすべて物理媒体や内部ミラー経由
② ネットワーク分離（社内LANのみ）	サーバーからは接続しない	接続する	部門〜全社	一般企業の大半。既存の社内サーバーと同じ扱いにできる	中程度。更新は管理端末経由で計画的に行う
③ スタンドアロン（1台完結）	接続しない、または利用時だけ切る	接続しない	1人〜数人	士業、設計部門、役員など少人数で機密文書を扱う用途。持ち出し用途	軽い。ただし利用者本人が運用を兼ねる

完全閉域は「外部ネットワークから物理的・論理的に隔離した環境」で、モデルも更新も物理媒体か内部ミラーでしか入りません。ネットワーク分離は、生成AIのサーバーを社内LANには接続するが、そのサーバーからインターネットへの経路を持たせない構成です。スタンドアロンは、高性能なノートPCやデスクトップ1台にモデルを入れて、その1台の中で完結させる構成です。

相談の現場で多いのは、「閉域にしたい」と言いながら実際に必要なのは②のネットワーク分離だった、というケースです。社内のファイルサーバーや業務システムと同じ扱いで置けるなら、①の重さを背負う必要はありません。逆に、LGWAN接続系やFISC基準の対象領域のように、ネットワーク区分そのものが規程で決まっている場合は、①以外の選択肢がありません。最初に「自社の規程は①と②のどちらを要求しているか」を確かめることが、構成選びの出発点です。

閉域で動かす基本構成（5つの部品をすべて内側に持つ）

どの段階でも、生成AIを外部に頼らず動かすには次の部品が必要です。クラウドの生成AIではこれらがすべてサービス側に隠れていますが、オフラインでは自分で持つことになります。

部品	役割	代表的な選択肢	閉域での注意
推論エンジン	モデルを読み込み、質問に答えを生成する	llama.cpp、Ollama、vLLM	試作はOllama、多人数の本番はvLLMが定石。切り替えの目安は『試作はOllama、本番はvLLM』
モデル	言語モデル本体のファイル	GGUF形式などのオープンウェイトモデル	取得は外部からしかできない。持ち込み時のハッシュ照合が必須
チャットUI	社員が使う画面	Open WebUIなど	認証なしの既定設定で公開しない
RAGの索引	社内文書を検索して回答に使う	埋め込みモデル＋ベクトルDB	埋め込みモデルも内側に持つ。外部の埋め込みAPIを呼ぶ構成は閉域にならない
認証・ログ	誰が何を入力したかを管理する	社内のID基盤との連携、利用ログの保存	閉域でも「誰が使ったか」は必要。監査に出せる形で保存する

見落とされやすいのがRAGの埋め込みモデルです。社内文書を検索して答えさせる構成では、文書を数値に変換する埋め込みモデルが必要で、ここに外部APIを使うと「文書の中身を外に送っている」ことになります。閉域をうたうなら、埋め込みモデルも推論エンジンと同じ機材の内側で動かします。構成の作り方は『社内文書RAGの作り方2026』で扱っています。

もう一つは認証です。「社内だから誰でも使える」状態にすると、後述する社内からの不正利用に対して無防備になります。社内のID基盤（Active DirectoryやGoogle Workspaceなど）と連携して、利用者を特定できる状態で運用するのが前提です。

インターネットにつながないと困る5つの作業

閉域構成の難しさは、動かすことではなく、動かし続けることにあります。オンラインが前提になっている作業が5つあり、それぞれに対処が要ります。

1. モデルの取得

モデルファイルは外部の配布サイトからしか入手できません。閉域では、オンライン側の作業端末でダウンロードし、物理媒体または社内の内部ミラーを経由して持ち込みます。このとき、配布元が公開しているハッシュ値と照合し、改ざんや破損がないことを確かめてから内側に入れます。OWASPのLLM向けTop 10でもサプライチェーンの脆弱性が項目として挙げられており、閉域網は入口の検証が生命線です。

2. 依存パッケージの解決

推論エンジンやチャットUIは、多数の外部パッケージに依存しています。閉域では、パッケージ管理ツールが外部を参照できないため、オンライン側で必要なパッケージを事前に同梱するか、社内にプライベートなパッケージレジストリやコンテナレジストリを用意します。「動かしてから依存が足りないと気づく」のが閉域では致命的で、オンライン環境で構成を固めてから丸ごと持ち込む設計にします。コンテナイメージとして固めて運ぶのが、最も再現性の高い方法です。

3. 推論エンジンの脆弱性修正

推論エンジンやチャットUIには脆弱性が見つかることがあり、修正版が配布されます。閉域では自動更新が効かないため、脆弱性情報を誰がどの頻度で確認し、修正版をどう持ち込むかを運用として決めておかないと、古いまま放置されます。公表されている脆弱性の実例と、更新を止めた場合に何が起きるかは『導入したローカルLLM、誰が維持するのか』に整理しています。

4. モデルの更新

モデルは数か月単位で性能の高い新版が出ます。更新するかどうかは任意ですが、更新する場合は1と同じ持ち込み手順を踏み、さらに既存の業務での精度が落ちていないかを検証してから切り替えます。四半期に一度など、更新を検討する周期を最初に決めておくと、塩漬けを防げます。

更新を含む運用全体の手順書は『閉域ローカルLLMの運用手順書』を参照してください。

5. ライセンスと署名の確認

オフラインで配布しても、各モデルのライセンス（商用利用の可否、再配布の条件）はそのまま適用されます。持ち込む前にライセンスを確認し、持ち込み台帳に記録します。また、ソフトウェアの署名検証に外部の失効確認が必要な場面では、オフライン用の検証手順を別途用意します。

作業	オンラインなら	閉域での対処	担当と頻度の目安
モデルの取得	配布サイトから直接取得	オンライン側で取得し、ハッシュ照合のうえ物理媒体か内部ミラーで持ち込む	導入時と更新時
依存パッケージ	パッケージ管理ツールが自動解決	事前に同梱、または内部レジストリ。コンテナで固めて運ぶ	導入時と更新時
脆弱性修正	自動更新	脆弱性情報の確認と修正版の持ち込みを運用に組み込む	月次の確認、該当時に適用
モデル更新	ダウンロードして切り替え	持ち込み手順＋自社データでの再検証後に切り替え	四半期ごとに検討
ライセンス・署名	配布元で確認	持ち込み台帳に記録。オフライン用の検証手順を用意	持ち込みの都度

持ち込みの手順（オンライン側で固めて、検証してから運ぶ）

5つの作業に共通する手順を、ひとつの流れにまとめます。

オンライン側の作業端末で構成を固める。推論エンジン、チャットUI、埋め込みモデル、言語モデル、依存パッケージを、閉域と同じOS・同じバージョンの環境で一式そろえ、動作を確認します。コンテナイメージにまとめると、閉域側での再現が確実になります。
ハッシュ値を記録し、配布元の公開値と照合する。モデルファイルとイメージのそれぞれについて記録します。
持ち込み台帳に記録する。何を、いつ、誰が、どのハッシュ値で、どのライセンスのもとで持ち込んだかを残します。監査で「このモデルはどこから来たのか」と問われたときの根拠になります。
物理媒体または内部ミラーで内側へ運ぶ。物理媒体は持ち込み後に消去するか、閉域専用に固定します。
閉域側でハッシュ値を再照合し、動作を確認する。持ち込み前と同じ結果が出ることを確かめます。
更新時も同じ手順を繰り返す。手順を文書にしておき、担当者が代わっても同じ品質で持ち込めるようにします。

手順そのものは難しくありません。難しいのは、これを導入後も続けることです。持ち込みを担う担当者が決まっていないまま構築に進むと、最初の1回だけ外部業者が持ち込み、その後は更新されないシステムになります。担当者と頻度を導入前に決めてください。

ネットワーク分離の3パターン（分離環境内設置・DMZ設置・端末完結）

多くの企業にとっての現実解である②ネットワーク分離には、サーバーをどこに置くかで3つのパターンがあります。情報システム部門との調整は、ここを決めるところから始まります。

パターン	サーバーの置き場所	利用者からの経路	向く場合	注意点
A. 分離環境内設置	機密データを扱う既存の分離セグメントの内側	分離セグメント内の端末からのみ	機密業務が特定の部門・セグメントに限られている	分離セグメントの外からは使えない。利用者が限られる
B. DMZ設置（社内向け）	社内LANの共通セグメントに、インターネットへの経路を持たない専用セグメントを切って設置	社内LANの各部門から	全社で使いたいが、サーバーからは外部に出したくない	ファイアウォールで「サーバーから外向き」を明示的に遮断する。社内からの入りは認証で絞る
C. 端末完結	利用者の端末そのもの（高性能PC）	端末内	少人数、持ち出し、設計や法務など個別業務	端末の紛失・盗難時にモデルと入力履歴が残る。ディスク暗号化と履歴の扱いを決める

Bが最も汎用的です。社内の各部門から使えて、サーバー自体はインターネットに出られないため、「社員が入力したデータが外に送られる」経路を構造的に断てます。情報システム部門には、サーバーからの外向き通信をすべて遮断すること、社内からの接続は認証を通すこと、利用ログを保存することの3点を構成図で説明すれば、既存の社内サーバーと同じ審査に乗せられます。

Cは個人の作業には便利ですが、組織として採用する場合は端末管理が課題になります。1台で完結する分、その1台を紛失したときの影響が大きく、ディスク全体の暗号化、入力履歴を残すかどうか、持ち出しの可否を規程で決める必要があります。

規制業種での位置づけ（LGWAN・FISC・3省2ガイドライン）

規制のある業種では、構成の選択肢が規程で先に決まっています。

自治体は総務省の地方公共団体における情報セキュリティポリシーに関するガイドラインが求める「三層の対策」でネットワークが区分されており、内部事務を扱うLGWAN接続系では、閉域で使える選択肢から選ぶことになります。選択肢の中身と費用は『自治体のローカルLLM』で比較しています。
金融機関はFISCの安全対策基準と金融庁の考え方を実装要件に落とす必要があり、どの領域を閉域に置くかの整理が先です。『金融機関のローカルLLM導入』で国内事例とともに扱っています。
医療機関は医療情報システムの安全管理に関するガイドラインを含む3省2ガイドラインの条件を満たす構成であれば使えます。院内完結の典型構成は『医療機関のローカルLLM』を参照してください。

共通しているのは、どの業種のガイドラインも生成AIそのものを禁止しているわけではなく、「どのネットワークに置き、誰が管理し、どう記録するか」の条件を定めている点です。条件を満たす構成を選べば使えます。一方、規制のない一般企業がこれらの業種と同じ完全閉域を目指す必要はなく、ネットワーク分離で十分な場合がほとんどです。経済産業省・総務省のAI事業者ガイドラインも、リスクに応じた対応を求めるものであって、一律に閉域を求めてはいません。

「オフラインなら安全」の落とし穴

インターネットにつながないことで断てるのは、「入力したデータが外部に送られる」経路だけです。それ以外のリスクは閉域でも残ります。

持ち込むモデルファイルそのもの。改ざんされたモデルや、悪意あるコードを含む形式のファイルを持ち込めば、閉域の内側で実行されます。入口でのハッシュ照合と、信頼できる配布元に限定することが対処です
社内からのアクセス。認証のない既定設定のまま社内LANに置くと、社内の誰でも、他部門の入力履歴や設定を見られる状態になります。ローカルLLMの代表的なツールは標準状態で認証を持たず、設定によっては全インターフェースで待ち受けます。認証なしで外部に露出したホストが大量に観測されている事実は『導入したローカルLLM、誰が維持するのか』で触れたとおりで、閉域の内側でも同じ設定ミスは起こります
更新の停止。脆弱性の修正版が出ても持ち込まなければ、閉域の内側に既知の脆弱性が残り続けます
RAGに入れた文書経由の指示。社内文書に紛れ込んだ指示文をモデルが実行してしまう問題は、外部接続の有無と関係なく起こります
出力の誤り。モデルは閉域でも間違えます。人が確認する運用は変わりません

閉域にしたことで「安全になった」と社内に説明すると、これらの残るリスクへの対策が後回しになります。閉域で断てるリスクと残るリスクを分けて説明するのが、情報システム部門と経営層の双方に対して誠実な進め方です。残るリスクの一覧と対策は『ローカルLLMは本当に安全か』にまとめています。

機材の目安と、置けるかどうかの確かめ方

オフライン構成に特別な機材は要りません。必要なのは、想定する利用人数とモデルの大きさに見合ったメモリを持つ機材です。予算別の構成は『予算別ローカルLLM PC 2026』、持ち出しや1台完結の用途は『ノートPCで動く軽量ローカルLLM 2026』、MacとGPU機の使い分けは『ローカルLLMはMacかRTXか』を参照してください。

機材の選定より先に詰まるのは、「うちのオフィスに置けるのか」です。電源、熱、騒音、設置場所、ネットワークの接続範囲、担当者の有無は、カタログでは分かりません。設置前に確認する項目は『ローカルLLMを社内サーバーとして置く前に確認する10項目』にまとめました。閉域やネットワーク分離の構成で実際に動かしてみたい場合は、貸出機材を貴社のLAN内だけに接続し、インターネットには接続しない構成でお渡しする社内設置の実現性検証で、機材を買う前に判定できます。

導入前チェックリスト

まとめ

「オフラインの生成AI」は完全閉域・ネットワーク分離・スタンドアロンの3段階で、自社の規程がどれを要求しているかを最初に確かめます
閉域で動かすには、推論エンジン・モデル・チャットUI・RAGの索引・認証の5部品をすべて内側に持ちます。埋め込みモデルを外部APIに頼ると閉域になりません
つながないと困る作業は、モデル取得・依存パッケージ・脆弱性修正・モデル更新・ライセンスと署名の5つです。オンライン側で固めて検証してから運ぶ手順と、持ち込み台帳で対処します
多くの企業の現実解は、サーバーから外向き通信を遮断して社内LANにだけつなぐネットワーク分離です。情報システム部門の既存の審査に乗せられます
閉域で断てるのは「入力が外部に送られる」経路だけです。モデルファイルの検証、社内からのアクセス制御、更新の継続は閉域でも必要です

よくある質問

Q. 生成AIをインターネットに接続せずに使うことはできますか？

できます。オープンウェイトのモデルを社内の機材に置き、推論エンジン・チャットUI・RAGの索引・認証をすべて内側に持てば、外部に一切通信しない構成で動かせます。構成は完全閉域・ネットワーク分離・スタンドアロンの3段階があり、多くの企業ではサーバーからの外向き通信を遮断して社内LANにだけ接続するネットワーク分離が現実解です。

Q. 閉域とネットワーク分離は何が違いますか？

閉域（エアギャップ）は、外部ネットワークから物理的・論理的に隔離した環境で、モデルや更新の持ち込みがすべて物理媒体や内部ミラー経由になります。ネットワーク分離は、生成AIのサーバーを社内LANには接続するが、そのサーバーからインターネットへの経路を持たせない構成です。守れるものは近く、運用の重さが大きく違います。自治体のLGWAN接続系や金融の一部領域のように規程でネットワーク区分が決まっている場合は閉域、それ以外はネットワーク分離から検討します。

Q. オフライン環境でモデルを更新するにはどうすればよいですか？

オンライン側の作業端末で新しいモデルを取得し、配布元が公開するハッシュ値と照合してから、物理媒体か内部ミラーで持ち込みます。持ち込み後に再度ハッシュを照合し、自社の業務データで精度が落ちていないことを確かめてから切り替えます。何を・いつ・誰が・どのハッシュ値で持ち込んだかを台帳に記録し、更新を検討する周期を四半期ごとなどと決めておくと、塩漬けを防げます。

Q. 社内文書を検索して答えるRAGも閉域で動かせますか？

動かせます。ただし、文書を数値に変換する埋め込みモデルも社内の機材で動かす必要があります。埋め込みに外部のAPIを使うと、文書の中身を外部に送っていることになり、閉域になりません。埋め込みモデルとベクトルDBを推論エンジンと同じ機材の内側に置く構成にします。

Q. オフラインにすれば情報漏洩の心配はなくなりますか？

なくなりません。断てるのは「入力したデータが外部に送られる」経路だけです。改ざんされたモデルファイルの持ち込み、認証のない設定による社内からの不正アクセス、脆弱性修正の停止、RAGに入れた文書経由の指示、出力の誤りは閉域でも残ります。入口でのハッシュ照合、社内ID基盤と連携した認証、更新の継続、人による確認を合わせて設計します。

Q. 機材を買う前に、オフライン構成が自社で動くか確かめられますか？

確かめられます。TodoONadaの社内設置の実現性検証（30万円〜・税別・2週間・機材貸出料込み）では、DGX SparkやMacを貴社のオフィスに設置し、貴社のLAN内だけに接続してインターネットには接続しない構成でお渡しします。電源・熱・騒音・設置場所・接続範囲を実機で確かめ、可・条件付き可・不可の判定と推奨構成をレポートで回答します。返却時にはストレージを完全に消去します。

主な参考資料: OWASP Top 10 for LLM Applications、AI事業者ガイドライン第1.2版（経済産業省・総務省）、地方公共団体における情報セキュリティポリシーに関するガイドライン（総務省）、FISC公表資料、医療情報システムの安全管理に関するガイドライン（厚生労働省）、認証なしで露出したOllamaホストの観測（SentinelLABS）

TodoONadaでは、インターネットに接続しない構成でのローカルLLM導入を、閉域とネットワーク分離のどちらが必要かの整理から支援しています。貸出機材を貴社のLAN内だけに接続する社内設置の実現性検証（30万円〜・税別・2週間・機材貸出料込み）で、機材を買う前に「置けるか」を判定できます。機材のみの短期貸出（1週4.5万円〜・税別）にも対応しています。「うちの規程だとどの構成になるのか」という整理の相談だけでも歓迎します。

この記事に関連するサービス

TodoONada株式会社では、機密データを外部に出さないローカルLLMの導入支援を行っています。

ローカルLLM導入支援 — GPUサーバーでの本格構成。モデル選定からRAG構築・運用まで
Macで始める社内専用AI導入支援 — Mac 1台から始める社内専用AI。PoCから部門導入まで対応
ローカルLLM 社内設置の実現性検証（機材貸出） — 機材を買う前に、DGX SparkやMacを貴社オフィスに2週間設置して「置けるか」を判定。機材のみの短期貸出も対応

導入・開発のご相談はお問い合わせからお気軽にどうぞ。検討段階のご相談も歓迎です。