技術ブログ「AI・ローカルLLM」
AI・ローカルLLM vLLMとは。本番向けLLM推論エンジンの仕組み・できること・Ollamaとの使い分け
ローカルLLMの本番構成を調べると、必ず「vLLM」という名前に行き当たります。ただ、検索して出てくる説明は「高速な推論エンジン」という一言で終わるものが多く、何がどう速いのか、Ollamaと何が違う…
AI・ローカルLLM 生成AIの情報漏洩対策2026。クラウドAPI・専用環境・ローカルLLMの使い分けと判断基準
「社員が顧客リストをChatGPTに貼っていた」。情シスや法務の方からこの相談を受けることが増えました。全面禁止にすれば漏洩は止まりますが、業務効率は落ち、社員は私用スマホから使い続けます。本記事では…
AI・ローカルLLM 社内向け生成AI導入の手順2026。稟議・PoC・本番展開の7ステップと各段階の判断基準
「生成AIを社内に入れろ」と経営層から言われた担当者が最初に困るのは、技術ではなく順番です。ChatGPTのような外部サービスを契約するのか、社内にローカルLLMを構えるのか、その判断すら何を根拠に決…
AI・ローカルLLM ローカルLLM導入の失敗パターン7つと回避策。PoC止まり・運用崩壊・精度不足はなぜ起きるか
ローカルLLMの導入は、技術的に「動かす」だけなら難しくありません。それでも導入プロジェクトの多くが、PoCのまま止まる、動いているのに使われない、担当者が異動した途端に放置される、といった形で終わり…
AI・ローカルLLM ローカルLLM PoCの費用・期間・進め方。2週間30万円の実現性検証から業務PoCまでの段階設計
「ローカルLLMをまず試したい」という相談で最初に詰まるのは、技術ではなく稟議です。機材を買う前に何を確かめるべきか、いくらで何週間かかるのか、成果物は何かが決まらないと、上申する側も承認する側も動け…
AI・ローカルLLM ローカルLLM導入支援会社の選び方2026。比較すべき7つの軸と会社タイプ別の向き不向き
ローカルLLMを導入すると決めたあと、次に来るのは「どこに頼むか」という問題です。検索すると大手SIerからGPUメーカーの販売代理店、数名規模のAI専門会社まで並び、料金は「個別見積もり」がほとんど…
AI・ローカルLLM LLM・VLMのOCRは従来のAI-OCRと何が違うか。帳票定義なしで読み、承認つきで業務へ流す設計
LLMやVLM(画像も読める言語モデル)でOCRをすると、従来のAIOCRで必要だった帳票定義がいらなくなります。その代わりに、確信度スコアと決定性を失い、読めない文字をもっともらしく捏造する幻覚が入…
AI・ローカルLLM M6 Mac miniとM5 Ultra Mac Studio、ローカルLLMで買うならどっち
2026年8月25日、AppleはMac miniとMac Studioの新モデルを同時に発表しました。Mac miniにM6とM5 Pro、Mac StudioにM5 MaxとM5 Ultra。予約…
AI・ローカルLLM 業務へのAI導入費用はいくらか。実案件6件のデータで解説【100万〜500万円】
「AIを業務に導入したいが、いくらかかるのか見当がつかない」——AI導入の相場情報は「数十万円〜数千万円」とあまりに幅が広く、判断材料になりません。 この記事では、当社(TodoONada株式会社)が…
AI・ローカルLLM コーディングに強いローカルLLM 2026。VRAM別の現実解とエージェント接続まで
自社プロダクトのソースコードは、外部AIに一番出しにくいデータのひとつです。だからこそ「コードを外に出さずにAIコーディング支援を使いたい」という相談が増えています。結論から言うと、2026年8月時点…
AI・ローカルLLM ノートPCで動く軽量ローカルLLM 2026。メモリ8GB・16GBの現実解
「会社支給の普通のノートPCで、ローカルLLMはどこまで使えるのか」。GPUを積んだワークステーションの話ではなく、メモリ8GBや16GBの事務用マシンの話です。結論から言うと、2026年8月時点の現…
AI・ローカルLLM ローカルLLMでOCR。機密書類を外に出さずPDF・帳票をテキスト化する現実解
請求書・契約書・診療記録・図面つき帳票。こうした機密書類こそテキスト化して活用したいのに、外部のクラウドOCRには出しにくい——この矛盾を解く選択肢が、ローカルで動くOCRモデルです。2025年後半か…