技術ブログ「AI・ローカルLLM」
AI・ローカルLLM ローカルLLMの速度はメモリ帯域で決まる。スペック表の正しい読み方
なぜ高価なマシンでもローカルLLMが遅いことがあるのか。答えはスペック表の読む場所にあります。ローカルLLMの生成速度は「メモリ帯域÷モデルサイズ」という1本の式でほぼ予測できます。ハードの名前を並べ…
AI・ローカルLLM 「Copilot+ PCならローカルLLMが速い」は誤解。NPUとLLMの本当の関係
NPU 40TOPS搭載の「AI PC」を買えばローカルLLMが快適に動く——そう考えて購入相談にいらっしゃる方が実際に多くいます。しかし結論から言うと、Copilot+ PCを買ってもOllamaの…
AI・ローカルLLM 試作はOllama、本番はvLLM。乗り換えのタイミングと20倍の性能差
「Ollamaで検証がうまくいったので、そのまま社内に公開したら遅くて使いものにならない」。ローカルLLMの社内展開で最も多いつまずきがこれです。原因はOllamaの性能不足ではなく、道具の役割の違い…
AI・ローカルLLM オープンLLM勢力図2026。中国勢の攻勢、OpenAIの参入、Metaの離脱
「オープンモデルはどれを選べばいいか」という質問の答えは、この2年で完全に入れ替わりました。2026年のオープンLLMは中国勢が主役となり、OpenAIが初めてオープンウェイトモデルで参入し、Meta…
AI・ローカルLLM 国産オンプレLLM比較2026。tsuzumi・PLaMo・cotomi・Takaneをどう選ぶか
「国産LLM」と一括りにされがちですが、tsuzumi・PLaMo・cotomi・Takaneは狙いも提供形態も価格も別物です。本記事では、オンプレで動くか・いくらかかるか・何が得意かの3軸で主要モデ…
AI・ローカルLLM ローカルLLM国内導入事例2026。8社から見える共通パターン
国内でローカルLLM（自社・閉域環境で推論するLLM）を動かしている組織は、実は同じことをしています。金融・医療・教育・行政・製造の8事例を同じ枠で並べると、入口はほぼ「社内文書の照会・要約」で、モデ…
AI・ローカルLLM ローカルLLM導入費用の実額内訳。PoC300万円〜本番1,500万円の中身を開示する
ローカルLLMの導入にはいくらかかるのか。この問いに対して、導入支援サービスの多くは「個別見積もり」としか答えていません。本記事では、30万円のミニ検証から数千万円の独自モデル開発まで、フェーズ別の実…
AI・ローカルLLM 金融機関のローカルLLM導入。FISC基準・金融庁の考え方と国内事例
金融機関が生成AIをオンプレミスや閉域網に置く判断は、漠然とした不安からではなく、FISC安全対策基準と金融庁の監督スタンスから論理的に導くことができます。結論を先に述べると、規制が求めているのはデー…
AI・ローカルLLM 自治体のローカルLLM。LGWAN閉域・DS-920・「源内」から読む現実解
LGWANの内側で生成AIを使う道は、2026年時点で大きく3つあります。デジタル庁の「源内」、LGWAN対応の閉域SaaS、そして庁内ローカルLLMです。どれを選ぶべきかは、扱う情報の機密性格付けと…
AI・ローカルLLM 医療機関のローカルLLM。3省2ガイドラインと院内オンプレAIの現在地
診療録や看護記録といった医療情報は、外部クラウドに預けにくい代表的なデータです。だからこそ医療は、データを外に出さないローカルLLMの本命業界だと言えます。生成AIの利用は禁止されているのではなく、条…
AI・ローカルLLM 製造業のローカルLLM。設計データと営業秘密を外に出さないAI活用
図面・配合レシピ・工程ノウハウをそのまま外部のクラウドAIに入力すると、営業秘密の「秘密管理性」が揺らぐ場面があります。製造業がローカルLLMや閉域構成を選ぶのは、情報統制の一環として合理的な判断です…
AI・ローカルLLM 導入したローカルLLM、誰が維持するのか。挫折の最大要因は運用担当者問題
ローカルLLM導入の最大のリスクは、ハードでもモデルでもなく「維持する人がいない」ことです。GPUサーバーを買い、モデルを選び、社内チャットを立ち上げるところまでは、いまや情報も事例も揃っています。難…