Macによるローカル LLM 環境を構築し、社内業務での PoC を実施いたしました（株式会社キング観光様／株式会社京町サポート様）

システム概要

開発の経緯

• 株式会社キング観光様および株式会社京町サポート様では、店舗運営や管理部門で扱う各種データの集計業務が膨大となり、担当者の大きな負担になっていました。
• 店舗の現場でも日常的な集計・確認作業が増加し、本来注力すべき店舗運営などの業務時間を圧迫していたため、生成AIを活用した業務効率化が必要とされていました。
• そこで、担当者が自然言語で質問するだけで、必要な集計結果を取得できる仕組みの実現を目指しました。
• 一方で、集計対象には機密性の高い社内データが含まれるため、外部のクラウドAIサービスへデータを送信することには懸念がありました。そのため、Macを内部基盤としてLLMをローカル実行する環境を構築し、社内データを外部へ送信せずに利用できるか、効果と実用性を検証するPoC（実証実験）を実施しました。

導入することへの効果

• 担当者が自然言語で質問し、必要な集計結果を取得できるようになることで、データの抽出や集計にかかる作業時間と負担の削減が期待できます。
• 店舗と管理部門の双方が必要な情報を速やかに確認できるため、報告資料の作成や状況把握が効率化され、より迅速な業務判断につながります。
• LLMをMac上でローカル実行するため、機密性の高い社内データを外部のクラウドAIサービスへ送信せずに生成AIを活用できます。
• 本格導入の前に、実際の業務データを用いて集計精度、応答速度、操作性を確認できるため、必要な構成や対象業務を見極めたうえで次の投資判断を行えます。

プロジェクトの効果

• 実際の集計業務を想定した質問を用いることで、ローカルLLMが自然言語の指示をどの程度正確に解釈し、求める集計結果を返せるかを確認できました。
• Mac上での応答速度や処理性能を検証し、クラウドAIサービスを利用しない構成でも、社内業務への適用を判断するための具体的な材料を整理できました。
• 質問の表現や集計条件によって調整が必要となるケースを把握し、プロンプトやデータの整備を含む、本格導入に向けた改善点を明確にできました。
• セキュリティ、精度、操作性、運用方法の観点から段階的な導入方針を検討できるようになり、対象業務の選定や今後の基盤構成を具体化する成果につながりました。

プロジェクト概要

項目	詳細
開発開始	2026年7月
開発期間	約1.5ヶ月
開発費用	100万円以下
メンバー数	2名（PM1名兼エンジニア、エンジニア1名）

開発の作業内容は以下になります。

• PoCの目的・評価観点の整理と、対象部門および集計業務の絞り込み
• 集計対象となる社内データ、データ項目、代表的な質問パターンの整理
• Apple Silicon搭載Mac上へのローカルLLM実行環境の構築
• 複数のオープンウェイトモデルの比較検証（回答品質・応答速度・メモリ使用量）と量子化設定の調整
• 自然言語の質問を解釈し、社内データの集計処理と連携する機能の実装
• 集計精度を高めるためのプロンプトおよび回答形式の設計・調整
• 業務担当者が利用できるチャット形式の検証用画面の構築
• 実業務データを用いた試行と、集計精度・応答速度・操作性の測定
• 社内データを外部へ送信しないローカル処理構成の確認
• PoC結果の取りまとめと、本格導入に向けた構成・費用感のご提案

利用した製品・技術

以下が利用した製品・技術になります。

• 言語：Python、TypeScript
• フレームワーク：FastAPI、Streamlit
• LLM実行環境：Ollama、llama.cpp（Apple Silicon / Metal）
• モデル：オープンウェイトLLM（複数モデルを比較検証）
• その他：社内データの集計処理、プロンプト設計
• インフラ基盤：ローカル環境（Mac / Apple Silicon）