閉域・オンプレ対応 生成AI導入支援サービス

LOCAL LLM ローカルLLM導入支援

社外に出せないデータで、
生成AIを動かす。

オンプレミス・閉域ネットワークで動くローカルLLM環境の構築から、社内文書検索(RAG)・業務自動化への活用まで。モデル選定・ハードウェア選定から開発・運用まで、TodoONadaがワンストップで支援します。

  • 機密データを外部に送信しない構成
  • オンプレミス・閉域網・プライベートクラウド対応
  • モデル選定からRAG構築・運用まで一気通貫
  • PoCからのスモールスタート可

こうした企業様・団体様との開発実績があります

NTTスマートコネクト RISU 東京大学 ジョルダン株式会社 株式会社エコーズ 自立の株式会社 株式会社SKO 株式会社プロフィットデザイン 電池屋 株式会社システナ キング観光 NTTスマートコネクト RISU 東京大学 ジョルダン株式会社 株式会社エコーズ 自立の株式会社 株式会社SKO 株式会社プロフィットデザイン 電池屋 株式会社システナ キング観光 NTTスマートコネクト RISU 東京大学 ジョルダン株式会社 株式会社エコーズ 自立の株式会社 株式会社SKO 株式会社プロフィットデザイン 電池屋 株式会社システナ キング観光

こんなお悩みはありませんか?

  • ChatGPTなどのクラウドAIは便利だが、機密情報・個人情報を社外に送ることになり、社内規程や取引先との契約上使えない

  • 生成AIを導入したいが、セキュリティ部門の承認が得られない。金融・医療・製造など、業界のガイドラインも厳しい

  • PoCはしてみたものの、モデル選定・精度改善・コストのノウハウがなく、本番運用まで進まない

そのお悩み、閉域・オンプレ対応の
『ローカルLLM導入支援』が解決します。

なぜ今、ローカルLLMなのか

01

オープンモデルの進化

公開されている大規模言語モデル(オープンウェイトモデル)の性能が急速に向上し、社内環境で動かしても文書検索・要約・文書作成などは実用水準に到達しています。「ローカルだから精度が低い」は過去の話になりつつあります。

02

データを外に出せない要件の増加

個人情報保護や取引先との秘密保持契約、業界ガイドラインへの対応で、「データを社外に送信しない生成AI」への需要が高まっています。ローカルLLMなら、推論処理まで含めてすべて社内環境で完結できます。

03

読めるコスト

API従量課金と異なり、自社インフラでの運用は利用量が増えてもコストが予測可能です。ハードウェアの選択肢も広がり、ワークステーション1台から始められる構成も現実的になっています。

Reason

『ローカルLLM導入支援』が選ばれる理由

POINT01

用途と予算に合わせたモデル・構成選定

オープンウェイトモデルの選定、量子化・推論最適化、GPUサーバーやワークステーションのサイジングまで、ユースケースと予算に合わせて最適な構成を設計します。過剰なハードウェア投資はさせません。

POINT02

「モデルを置くだけ」で終わらせない

業務で使うには、社内文書検索(RAG)、権限管理、既存システムとの連携、使いやすいチャットUIまで必要です。システム開発会社として、業務に組み込まれた状態までを開発します。

POINT03

セキュリティ部門に説明できる設計

閉域網・オンプレミス・プライベートクラウドでのネットワーク設計、アクセス制御、監査ログの整備まで対応。情報システム部門・セキュリティ部門への説明資料の作成もご支援します。

POINT04

PoCから本番まで段階導入

まず1つのユースケースで小さく検証し、実データでの精度と効果を確認してから本格導入へ。効果が見えてから投資判断できる進め方をご提案します。

Features

『ローカルLLM導入支援』でできること

ローカルLLM環境構築

GPUサーバー・ワークステーションの選定から、モデルの導入、推論基盤のセットアップまで、社内で動く生成AI環境を構築します。

社内文書検索(RAG)

規程・マニュアル・議事録・過去資料を横断検索し、根拠となる文書を示しながら回答するナレッジ検索を構築します。

社内AIチャット・アシスタント

全社で使える社内向けAIチャットを構築。部門ごとのナレッジやテンプレートを組み込んだアシスタントも開発します。

文書作成・要約の自動化

報告書・議事録・メール文面の下書き作成や、長文資料の要約など、日常業務の文書作業を自動化します。

既存システム連携・API開発

基幹システム・グループウェア・社内認証基盤(SSO等)と連携し、既存の業務フローの中でAIを使える形にします。

アクセス権限・監査ログ

部門・役職に応じた参照権限の制御と、利用状況の監査ログを整備。ガバナンスを保ったまま全社展開できます。

モデル評価・精度改善

実データでの評価環境を整備し、プロンプト改善・検索チューニング・必要に応じた追加学習で精度を継続的に高めます。

クラウドAIとのハイブリッド構成

機密度の高い処理はローカル、一般的な処理はクラウドAIと、データの性質に応じて使い分ける構成も設計できます。

運用保守・モデルアップデート

稼働監視・バックアップ・モデルの更新まで、導入後の運用を継続支援。運用代行のご相談も可能です。

※記載のない構成もご相談ください。機密データを社外に送信しない構成を基本としています。

Case

導入事例

公開事例 · PoC(実証実験)

Macで社内データの集計を支援するローカルLLMのPoC

株式会社キング観光様/株式会社京町サポート様

店舗・管理部門の集計負担を課題に、自然言語で質問して必要な集計結果を得る仕組みを検証しました。 Mac上で社内データを外部へ送信せずに処理し、集計精度・応答速度・操作性と、本格導入に向けた改善点を確認したPoCです。

PoCの背景・検証内容を見る

事例に記載の期間・費用は、当該PoCの実績です。現在の導入プランは、対象業務・検証範囲に応じて個別にお見積もりします。

CASE 01 情報サービス業

社内システムと連携したAIチャットサービス

課題
社内のシステムに蓄積されたデータを活かし、チャット形式で利用できる新しいサービス提供の形を作りたい。
構成
既存の社内システムとローカルLLMをAPI連携し、チャットベースで問い合わせ・情報提供ができる仕組みを構築。
効果
社内システムのデータを活かした応答を、チャットで完結する形で提供できるように。
CASE 02 士業・専門サービス

契約書レビュー補助と過去案件検索

課題
顧客との秘密保持の観点から、クラウドAIに文書をアップロードできない。契約書の確認や過去案件の参照に時間がかかる。
構成
事務所内で完結するローカルLLM環境を構築。契約書の論点整理と、過去案件・書式の検索を支援する仕組みを導入。
効果
データを一切外部に出さずに、下調べとドラフト作成の時間を短縮。
CASE 03 サービス業

仕入業者データの整理とAI判定

課題
多数の仕入業者に関するデータが散在し、整理・比較や判定が担当者の経験頼みになっていた。
構成
仕入業者のデータを整理・構造化し、ローカルLLMが内容を読み取って判定を支援する仕組みを構築。データを外部に出さずに運用。
効果
判定作業の手間を減らし、基準のばらつきを抑えた運用が可能に。

※上記3件は守秘義務により、社名を非公開としています。

「うちのデータでも使える?」
の段階で大丈夫です。

無料で相談する

Flow

導入の流れ

  1. STEP 01

    無料相談・ユースケース整理

    お困りごとと活用したいデータ・業務をお伺いし、ローカルLLMが有効なユースケースを一緒に整理します。

  2. STEP 02

    PoC設計・要件定義

    検証するユースケースを決め、モデル・ハードウェア・ネットワーク構成の要件を固めます。

  3. STEP 03

    お見積もり・ご契約

    開発範囲・費用・スケジュールをご提示し、ご納得いただいた上でご契約となります。

  4. STEP 04

    構築・開発・評価

    週1回の定例MTGで進捗を共有しながら構築。実データでの精度評価を行い、結果をレポートします。

  5. STEP 05

    本番導入・運用保守

    社内展開・利用ガイド整備までご支援し、公開後の運用保守・モデルアップデートも継続して対応します。

Price

料金プラン(参考価格)

PoC

検証プラン

30万円〜

まず1つのユースケースで、精度と効果を確かめたい方

  • ユースケース整理・モデル選定
  • 検証環境での構築・実データ評価
  • 精度・実現性のレポート
相談してみる

エンタープライズ

大規模・個別要件プラン

300万円〜

複数部門への展開や、厳格なセキュリティ要件がある方

  • 要件定義からの伴走
  • 追加学習・精度チューニング
  • セキュリティ・監査要件対応
  • 専任体制での開発・運用
相談してみる

※価格は参考であり、要件・構成により変動します。GPUサーバー等のハードウェア費用・ライセンス費用は別途です。まずはお見積もりをご依頼ください。

検証メニューの違い

「PoC」と「ミニ検証」は、対象・検証内容・機材費の扱いが異なります。 一般構成のPoC、Macで始める社内専用AI PoC、費用記事のミニ検証を分けてご案内します。

表が画面に収まらない場合は、横にスクロールしてご覧ください。

既存の案内に基づく、費用・期間・検証内容の比較
検証メニュー 参考価格・期間の目安 対象・検証内容 機材費などの条件
ローカルLLM PoC 閉域・オンプレ等の一般構成 一般構成の料金・提供内容 30万円〜 1〜2ヶ月

まず1つのユースケースで、精度と効果を確かめたい方

  • ユースケース整理・モデル選定
  • 検証環境での構築・実データ評価
  • 精度・実現性のレポート
GPUサーバー等のハードウェア費用・ライセンス費用は別途です。機器の調達期間によりスケジュールは前後します。
社内専用AI PoC Macで始める社内専用AI Mac構成の料金・提供内容 50万円〜 2週間〜1ヶ月

まず自社のデータで、精度・速度・実現可能性を確認したい企業

  • 対象業務の整理・モデル選定
  • サンプルデータでの精度・速度検証
  • Macやサーバーの機器選定
  • 本番導入構成のご提案・検証レポート
Mac本体・サーバー等のハードウェア費用は別途です。機種選定・まとめての調達も相談できます。ライセンス費用の扱いは見積もりで確認します。
ミニ検証 費用記事で案内している小規模検証 ミニ検証の費用内訳 約30万円 2週間

自社データで使えるか、本番へ進むかを判断する材料が欲しい方

  • 検証機・モデル選定・環境構築
  • 業務サンプルでの精度評価・レポート
記事の費用内訳には検証機を含みます。機材の購入・貸与・納品の扱いやライセンス費用は、要件・見積もりで確認します。

金額・期間はそれぞれの案内に記載した目安であり、同一条件の価格比較や納期の保証ではありません。対象データ・検証範囲・成果物の詳細、期間の起算日、機材調達やデータ準備に必要な日数は、要件・見積もりで確認します。

機材を購入する前に、貸出機材を貴社オフィスに設置して「置けるか」を判定する社内設置の実現性検証(機材貸出付き・2週間・30万円〜)もあります。

FAQ

よくあるご質問

Q 本当にデータは外部に送信されませんか?

閉域・オンプレミス構成では、推論・検索処理をすべて社内環境で完結させ、外部へのデータ送信が発生しない構成を設計します。ネットワーク構成図・データフロー図としてお渡しするため、セキュリティ部門への説明にもそのままお使いいただけます。

Q クラウドのAIと比べて精度は劣りませんか?

用途によります。社内文書の検索・要約・定型文書の作成などは、オープンウェイトモデルでも実用水準の精度が出るケースが多くなっています。PoCで実データを使って精度を確認してから、本格導入をご判断いただけます。

Q GPUサーバーを自社で購入する必要がありますか?

規模によります。小規模ならワークステーション1台から始められますし、リースやプライベートクラウド上での構成も選択肢です。用途に対して過剰な投資にならないよう、サイジングからご支援します。

Q どのようなモデルを使いますか?

公開されているオープンウェイトモデルの中から、用途・日本語性能・ライセンス条件・必要なハードウェア規模を考慮して選定します。特定のモデルありきではなく、比較評価した上でご提案します。

Q 社内にAI人材がいなくても運用できますか?

可能です。管理画面や運用手順書の整備まで含めて設計し、運用開始後の保守・モデルアップデートも弊社が継続支援します。運用代行のご相談も承ります。

Q 導入までどのくらいかかりますか?

このページの一般構成のPoCは1〜2ヶ月程度、本番導入は3〜6ヶ月程度が目安です。ハードウェアの調達期間により前後します。Macで始める社内専用AI PoCやミニ検証とは検証範囲・期間が異なります。期間の起算日や詳細なスケジュールは要件・見積もりで確認します。

Q 小さく始めることはできますか?

可能です。まず1つのユースケース・1部門でのPoCから始め、効果を確認しながら段階的に拡張する進め方を基本としています。

Contact

お問い合わせ

導入の検討段階・情報収集段階のご相談も歓迎です。
下記フォームよりお気軽にお問い合わせください。

フォームが表示されない場合は開発のお問い合わせページからご連絡ください。

社外に出せないデータ、AIで活かせます。

閉域・オンプレ対応/PoCからスモールスタート

無料相談はこちら