ローカルLLMを社内サーバーとして置く前に確認する10項目。電源・熱・騒音・ネットワーク・電気代・担当者

ローカルLLMを社内サーバーとして置く前に確認する10項目。電源・熱・騒音・ネットワーク・電気代・担当者

ローカルLLMの導入相談で、機材の性能より先に詰まるのが「どこに置くか」です。GPUサーバーを買ってから電源容量が足りないと分かった、執務室に置いたら音で苦情が出た、情報システム部門の承認が下りずにLANにつなげない。いずれも機材そのものの問題ではなく、設置の条件を先に確認しなかったことで起きます。本記事では、ローカルLLMを社内サーバーとして置く前に確認する10項目を、設置場所・電源・熱・騒音・ネットワーク・同時利用人数・電気代・バックアップ・担当者・保守の順に整理します。

対象は、自社のオフィスにローカルLLMの機材を置いて部門や全社で使うことを検討している情報システム部門や推進担当者です。機材の選び方そのものは別記事に譲り、ここでは「選んだ機材を置いて回せるか」に絞ります。10項目はそのまま稟議や情シスへの申請書類の確認欄として使えるよう、末尾にチェックリスト表をまとめています。

この記事の要点

  • 設置で失敗する典型は、電源容量・騒音・置き場所・LAN接続の承認の4つです。いずれも購入前に確認でき、購入後には直しにくい項目です
  • 消費電力はRTX 5090がGPU単体で最大575W(システムで1000W級電源)、ノート系Mac(M4 Max)が推論時およそ40〜80Wと一桁違い、電源・発熱・騒音・電気代の条件がここで分かれます
  • 電気代は「消費電力(kW)× 稼働時間 × 契約単価」で見積もれます。実測の消費電力と契約プランの単価を当てはめるのが正しい手順で、カタログの最大値で計算すると過大になります
  • 1台で何人まで使えるかは、同時利用人数とメモリ帯域・モデルサイズの関係で決まります。人数が増えるほど1人あたりの速度は落ちるため、想定人数で実測してから機種を確定します
  • 運用担当者の工数は平常月で1〜2人日、更新や脆弱性対応が重なる月で3〜5人日が目安です。担当者が決まらない設置は、半年後に止まります

「置けるか」で失敗する典型5パターン

ローカルLLMの機材は、性能表だけを見て選ぶと設置の段階で詰まります。相談で繰り返し見る失敗を先に挙げます。

失敗の型何が起きるか購入前に確認できたこと
電源が足りない1000W級の電源を要するGPU構成を、他の機器と同じコンセント系統につないでブレーカーが落ちる設置場所の回路容量と、同じ系統にある機器
音で置けない執務室の机の下に置いたGPU機のファン音で、周囲から苦情が出て倉庫に移す機材の騒音の傾向と、執務室・サーバー室のどちらに置くか
熱がこもる鍵のかかる小部屋に置いたが空調がなく、夏に熱で応答が不安定になる消費電力がそのまま発熱になること、設置場所の空調の有無
LANにつなげない情報システム部門の持込機器の審査で、接続範囲とデータの扱いを説明できず承認が出ない申請に必要な書類(構成図・接続範囲・データ取り扱い)の準備
遅くて使われないメモリ容量だけで機種を選び、想定の人数が同時に使うと応答が遅くて利用者が離れる同時利用人数とメモリ帯域の関係、想定人数での実測

5つに共通するのは、技術的に解決できない問題ではなく、確認の順番の問題だという点です。以下の10項目は、この失敗を購入前に潰すための順番で並べています。

ローカルLLMを社内サーバーとして置く前の10項目チェック

①設置場所と施錠

最初に決めるのは、機材を執務室に置くか、サーバー室や鍵のかかる部屋に置くかです。ローカルLLMの機材には、社内文書や顧客データが入ったRAGの索引、利用者の会話ログ、モデルファイルが保存されます。機材そのものが持ち出されれば、クラウドを使わなかった意味がなくなります。

執務室に置く場合は、施錠できるラックやワイヤーロック、ディスクの暗号化(macOSならFileVault、Linuxなら暗号化ボリューム)を前提にします。サーバー室に置く場合は入退室の記録が取れるかを確認します。どちらにしても、設置面積と重量、搬入経路は先に測っておきます。Mac miniやMac Studioは机上に置ける大きさですが、GPUを2枚載せたワークステーションは床置きかラック設置になり、置き場所の選択肢が変わります。

②電源容量とUPS

電源は設置可否を最も直接に分ける項目です。GPU構成の消費電力は大きく、RTX 5090はGPU単体で最大575W(TGP)、システム全体では1000W級の電源が必要です。中古RTX 3090を2枚載せる構成も同じく1000W級の電源を求めます。一方、ノート系Mac(M4 Max)の推論時はおよそ40〜80W、Mac miniはアイドル時が数W、推論時でも数十W台です。この差は電源だけでなく、後述の発熱・騒音・電気代のすべてに効きます。

確認するのは、設置場所のコンセントがどの回路につながっていて、同じ回路に何がつながっているかです。複合機や電子レンジと同じ系統に1000W級の機器を足すと、ブレーカーが落ちる条件に近づきます。常時稼働させるなら、停電時に安全に停止させるためのUPS(無停電電源装置)も検討します。UPSの容量は機材の最大消費電力と、停止処理に必要な時間から選びます。GPU構成では必要な容量が大きくなるため、UPSの費用も見積もりに入れます。

③発熱と空調

機材が消費した電力は、ほぼすべて熱として室内に出ます。1000W級の電源を使う構成は、電気ストーブに近い発熱源を一つ置くのと同じです。空調のない小部屋に置くと夏場に室温が上がり、機材が自衛のために性能を落として応答が遅くなります。

執務室に置くなら空調は人向けに効いているので問題は小さく、むしろ問題になるのは鍵のかかる小部屋や倉庫です。「施錠できる場所」と「空調がある場所」が両立しない場合は、低消費電力の機材を選ぶか、サーバーラック用の空調を用意するかのどちらかになります。Mac系の機材が社内設置で選ばれやすい理由の一つは、この発熱の少なさです。

④騒音(執務室に置けるか)

騒音は数値で語りにくい一方、設置後の苦情として最も多い項目です。GPU構成は負荷がかかるとファンの回転が上がり、推論中に音が大きくなります。Mac miniは24時間動かしてもファンの音がほぼ気にならない水準で、オフィスの片隅に置く用途に向きます。

判断の目安は「推論中の音を執務室で許容できるか」です。アイドル時は静かでも、複数人が同時に使って推論が続く時間帯に音が出ます。GPU構成を選ぶなら、執務室ではなくサーバー室か別室に置く前提で計画します。執務室に置くことが決まっているなら、機材の選定段階で騒音を優先軸に入れます。

⑤ネットワーク接続範囲と情シス承認

ローカルLLMの機材は、社内LANのどこまでにつなぐかを決める必要があります。基本は「貴社のLAN内だけに接続し、インターネットへは出さない」構成です。機材から外部へ通信しないことは、クラウドを使わない理由そのものなので、ここを曖昧にすると情報システム部門の承認は出ません。

注意すべきは、ローカルLLMの代表的なツールであるOllamaが、設定によっては全ネットワークインターフェースで待ち受け、標準では認証を持たないことです。社内LANの中でも、誰でも到達できる状態で置くと、意図しない部署から使われたり、ログが読まれたりします。インターネットから到達できる状態で放置されたOllamaホストが大量に観測されたという調査もあります。接続範囲は「どのセグメントから、誰が、どの認証を通って使うか」まで決め、構成図に落とします。閉域でも残るリスクの全体像は『ローカルLLMは本当に安全か』で整理しています。

⑥同時利用人数とメモリ帯域の関係

「1台で何人まで使えるか」は、機材の価格より先に決めるべき項目です。ローカルLLMの生成速度は、メモリ帯域をモデルサイズで割った値でほぼ決まります。1人で使う場合の速度がそのまま出るのは1人のときだけで、複数人が同時に使うと、推論エンジンの処理の仕方によって1人あたりの速度は落ちます。

たとえばDGX Spark(帯域273GB/s)で高密度70Bモデルを動かすと、1人でも理論値で毎秒6トークン程度です。チャット対話で違和感なく使える目安が毎秒10トークン以上なので、この構成を複数人で共有する前提は成り立ちません。一方、活性パラメータの小さいMoEモデルなら同じ機材で毎秒30トークン級が狙え、共有の余地が出ます。つまり同時利用人数は、機材だけでなくモデルの選び方とセットで決まります。帯域と速度の関係は『ローカルLLMの速度はメモリ帯域で決まる』で詳しく解説しています。

⑦電気代の見積もり方(計算式)

電気代は、次の式で見積もります。

月額電気代 ≒ 消費電力(kW)× 1日の稼働時間(h)× 稼働日数 × 契約単価(円/kWh)

ここで注意が要るのは、消費電力にカタログの最大値を入れないことです。RTX 5090の575Wは最大値で、アイドル時はずっと低く、推論中も常に最大ではありません。一方、Mac miniのように推論時でも数十W台の機材なら、24時間稼働でも電気代は小さく収まります。正しい手順は、想定する使い方で消費電力を実測し、契約プランの単価を当てはめることです。単価は契約している電力プランによって違うため、総務や施設管理の担当者に確認します。

仮に単価を30円/kWhと置いて式の使い方だけ示すと、平均1kWで24時間・30日稼働させる構成は 1 × 24 × 30 × 30 = 21,600円、平均50Wの構成は 0.05 × 24 × 30 × 30 = 1,080円です。この単価と平均消費電力はあくまで式の説明用の仮置きで、実際の数値は実測と契約で置き換えてください。電気代を含めた3年間の総額をクラウドと比べる視点は『オンプレLLMは本当に安いのか』で扱っています。

⑧バックアップと消去

社内サーバーとして置く以上、壊れたときの復旧と、手放すときの消去を先に決めます。バックアップの対象は、モデルファイル、推論エンジンとUIの設定、プロンプトのテンプレート、RAGの元データと索引、利用ログの5つです。モデルファイルは再入手できますが、設定とRAGの索引は作り直しに時間がかかります。

消去は見落とされがちです。機材を更新したとき、貸出機を返却するとき、廃棄するときに、ストレージに社内文書や会話ログが残っていれば持ち出しと同じです。ディスクの暗号化を最初から有効にしておけば、鍵を破棄するだけで実質的な消去になります。貸出機を使う場合は、返却時に完全消去と消去記録の提供があるかを契約で確認します。

⑨担当者と工数

機材を置いた後、誰が維持するかです。ローカルLLMの運用は、死活監視・ユーザー管理・ログ確認の定常タスク、モデルやランタイムの更新と脆弱性パッチの定期タスク、障害対応の突発タスクに分かれます。工数は平常月で月1〜2人日、モデルの世代交代や脆弱性対応が重なる月は3〜5人日が目安です。

この工数を「片手間」や「ゼロ」で見積もった稟議は、稼働後に破綻します。担当者は氏名レベルで決め、異動や退職に備えた後任と手順書の所在まで決めておきます。設置場所の鍵を誰が持つか、停電時に誰が再起動するかも担当者の仕事です。運用担当の決め方は『導入したローカルLLM、誰が維持するのか』で詳しく扱っています。

⑩保守・保証とワークステーションと消費者向け機の違い

最後に、機材を法人の資産として扱えるかです。消費者向けのゲーミングPCや自作PCは価格あたりの性能で優れますが、保証は部品ごとに分かれ、故障時の代替機や出張修理はありません。法人向けのワークステーションは、オンサイト保守や保証期間の延長、構成の固定といった保守の仕組みが整っている代わりに、同じ性能で価格が上がります。

社内サーバーとして常時稼働させるなら、故障時に何日止まってよいかで決めます。数日止まっても代替手段(クラウドAIへの一時切り替えなど)があるなら消費者向け機でも成立します。止められない業務に組み込むなら、保守契約のある機材を選びます。Macの場合は法人向けの保証延長とMDMによる管理が使えるため、ワークステーションと消費者向け機の中間の位置づけになります。

機材タイプ別の設置条件比較表

10項目のうち、設置場所・電源・騒音・同時利用・保守は機材タイプでほぼ決まります。

機材タイプ設置面積電源騒音の傾向同時利用の向き保守
Mac mini(M6 / M5 Pro)机上。小型推論時でも数十W台。通常のコンセントで可ファン音がほぼ気にならない1人〜数人。M5 Pro(64GB、307GB/s)なら小規模な共有サーバー法人向け保証延長・MDM管理
Mac Studio(M5 Max / M5 Ultra)机上。小型Mac miniより高いが、1000W級電源を要するGPU構成とは桁が違う静か。推論中も執務室で許容しやすい1人〜少人数で大型モデルを速く動かす用途。帯域614GB/s〜1.2TB/s法人向け保証延長・MDM管理
DGX Spark机上。小型通常のコンセントで可静かな部類複数人の同時利用、長文の読み込み、MoE系モデル。帯域273GB/sメーカー保証
RTX搭載ワークステーション(GPU 1〜2枚)床置きまたはラック。大型1000W級電源。回路容量の確認が必要推論中にファン音が大きくなる高密度モデルを速く動かす用途。帯域1TB/s級法人向けはオンサイト保守あり。自作・消費者向けは部品単位の保証
ノートPC(MacBook Pro 128GBなど)持ち運び可推論時およそ40〜80W静か1人〜数人。持ち運びや閉域環境での検証向き法人向け保証延長

比較表から分かるのは、「執務室に置いて複数人で使う」という最も多い要望に対して、設置条件を無理なく満たすのはMac系とDGX Sparkで、RTX構成は別室が前提になるという点です。RTX構成の速さが必要な用途なら、設置場所の確保を先に済ませます。機材の性能面の比較は『ローカルLLMはMacかRTXか』と『予算別ローカルLLM PC 2026』を参照してください。

Mac Studioを社内AIサーバーにする場合の注意

Mac Studioを社内のAIサーバーにする構成は、設置条件の面で最も通しやすい選択肢です。M5 Max(128GB、614GB/s)やM5 Ultra(512GB、1.2TB/s)は、70B級以上のモデルを外に出さずに動かせる容量と帯域を持ちながら、机上に置けて静かです。一方で、Macはもともと1人が使う端末として設計されているため、サーバーとして使うには次の3点を決めておきます。

常時稼働の設定。スリープや自動ログアウトを無効にし、電源復帰時に自動で起動して推論エンジンとUIが立ち上がるようにします。ディスプレイを外したヘッドレス運用にする場合は、リモート管理の手段(画面共有かSSH)を先に用意します。

複数人の接続。Ollamaのような試作向けの推論エンジンは、複数人の同時リクエストを効率よく捌く設計ではありません。数人を超えて共有するなら、同時リクエストの処理に向いた推論エンジンへの載せ替えを検討します。載せ替えの判断は『試作はOllama、本番はvLLM』で扱っています。

MDMによる管理。法人のMacはMDMで構成や更新を管理できます。サーバー用途のMacも同じ管理下に置き、OSの更新タイミングを業務時間外に固定し、ディスク暗号化と画面ロックを強制します。更新で推論エンジンが動かなくなることがあるため、OS更新の前に動作確認の手順を決めておきます。

サーバー化の具体的な設定手順(スリープ無効・固定IP・リモート管理・MDM)は『Mac Studioを社内AIサーバーにする2026』に分けて書いています。

ローカルLLM1台で何人まで使えるか

「1台で何人」という問いに、機材名だけでは答えられません。答えは、同時に使う人数、動かすモデルのサイズ、推論エンジンの種類、許容する応答速度の4つで決まります。

考え方はこうです。生成速度は実効メモリ帯域をモデルサイズで割った値が上限で、1人で使うときにその速度が出ます。複数人が同時に推論を要求すると、推論エンジンが要求をまとめて処理するか順番に処理するかで、1人あたりの速度の落ち方が変わります。順番に処理する方式なら、同時に3人が使えば待ち時間は単純に増えます。まとめて処理する方式なら、帯域の余裕がある限り1人あたりの速度の低下は緩やかですが、それでも上限はあります。

つまり、小さいモデルを帯域の大きい機材で動かすほど多人数に耐え、大きいモデルを帯域の小さい機材で動かすほど1人用になります。「全社員100人が使う」という要望なら、全員が同時に使うわけではないので、ピーク時に同時に推論している人数を見積もることから始めます。この見積もりは机上では当たらないため、想定人数で実際に同時に使ってみて、応答が許容できるかを測るのが確実です。TodoONadaの社内設置の実現性検証では、想定モデルと同時利用人数での実測をもとに、DGX SparkとMacのどちらが合うかを判定しています。

情シスへの申請に必要な書類

持込機器の審査で求められる書類は会社ごとに異なりますが、ローカルLLMの機材で共通して必要になるのは次の3つです。これがそろっていれば、審査の往復が減ります。

書類内容審査で見られる点
構成図機材、推論エンジン、UI、RAGのデータ置き場、利用者の端末の関係を1枚に外部へ通信する経路がないこと
接続範囲の説明接続するLANのセグメント、使うポート、認証の方式、管理者のアクセス手段誰がどこから到達できるか、認証なしの口がないこと
データ取り扱いの説明入力データの保存場所と期間、ログの扱い、バックアップ先、消去の手順社内規程のデータ区分との整合、消去の確実性

このほか、機材の消費電力と設置場所、担当者と連絡先、保守の範囲を求められることがあります。10項目のチェックがそのまま回答になります。社内の規程で決まった書式がある場合は、ベンダーに先に渡して書式に合わせて作ってもらうのが早道です。導入全体の手順と稟議の材料は『社内向け生成AI導入の手順2026』で整理しています。

買う前に試す選択肢(貸出)

10項目の多くは、実機を置いてみれば2週間で答えが出ます。電源が足りるか、音が許容できるか、想定人数で速度が出るか、情シスの承認が通るかは、机上の検討より実機の設置のほうが確実です。

TodoONadaでは、DGX SparkやMacを貴社のオフィスに設置して2週間で判定する社内設置の実現性検証(30万円〜・税別・機材貸出料込み)と、機材のみの短期貸出を行っています。貸出機材は2026年10月時点でDGX Spark(128GBユニファイドメモリ、1週7万円・2週12万円)、DGX Spark 2台のクラスタ(1週12万円・2週20万円)、MacBook Pro 128GB(1週4.5万円・2週8万円)、Mac Studio(96GB〜512GB、1週6万円・2週10万円)で、いずれも税別、配送・設置・返却時の初期化込み、往復送料は実費です。機材は貴社のLAN内だけに接続し、返却時にはストレージを完全に消去して消去の記録をお渡しします。実現性検証の成果物は、可・条件付き可・不可の判定、推奨構成と概算費用、電源・ネットワーク・設置場所の条件、担当者の役割と工数の目安です。貸出料は次の段階の費用や機材購入に充当します。PoCの段階設計は『ローカルLLM PoCの費用・期間・進め方』を参照してください。

買う・借りる・クラウドGPUで試すの比較と、借りた2週間の過ごし方は『ローカルLLM機材をレンタルして検証する2026』に分けて書いています。

10項目のチェックリスト

稟議や申請の前に、次の表を埋めてください。空欄が残る項目が、設置後に問題になる項目です。

#項目確認すること確認済み
1設置場所と施錠置く部屋、施錠の方法、ディスク暗号化、搬入経路[ ]
2電源容量とUPS回路の容量、同じ回路の機器、UPSの要否と容量[ ]
3発熱と空調設置場所の空調の有無、夏場の室温[ ]
4騒音推論中の音を執務室で許容できるか、別室の要否[ ]
5ネットワーク接続範囲接続するセグメント、認証、外部へ出ない構成、情シスの承認[ ]
6同時利用人数ピーク時の同時利用人数、モデルサイズ、帯域、許容する応答速度[ ]
7電気代実測の消費電力、稼働時間、契約単価で月額を見積もった[ ]
8バックアップと消去対象5つのバックアップ先、更新・返却・廃棄時の消去手順[ ]
9担当者と工数氏名レベルの担当者、後任、手順書、月1〜2人日の工数の確保[ ]
10保守・保証止められる日数、保守契約の有無、代替手段[ ]

まとめ

  • ローカルLLMの設置で失敗する典型は、電源容量・騒音・置き場所・LAN接続の承認の4つで、いずれも購入前に確認できます
  • 消費電力はGPU構成が1000W級の電源を要するのに対し、Mac系は推論時でも数十W台と一桁違い、電源・発熱・騒音・電気代の条件がここで分かれます
  • 電気代は「消費電力 × 稼働時間 × 契約単価」で見積もり、カタログの最大値ではなく実測値と契約プランの単価を使います
  • 1台で何人まで使えるかは、同時利用人数・モデルサイズ・帯域・推論エンジンで決まり、想定人数での実測が確実です
  • 担当者は氏名レベルで決め、平常月1〜2人日の工数を確保します。情シスへの申請には構成図・接続範囲・データ取り扱いの3つの書類を先にそろえます

よくある質問

Q. ローカルLLMの社内サーバーは執務室に置けますか?

機材によります。Mac miniやMac Studio、DGX Sparkは机上に置ける大きさで、推論中も執務室で許容しやすい静かさです。一方、RTX搭載のワークステーションは1000W級の電源を要し、推論中にファン音が大きくなるため、サーバー室や別室に置く前提で計画します。執務室に置くことが決まっているなら、機材の選定段階で騒音と消費電力を優先軸に入れてください。

Q. ローカルLLMの電気代はどのくらいかかりますか?

「消費電力(kW)× 稼働時間 × 稼働日数 × 契約単価」で見積もります。消費電力はカタログの最大値ではなく、想定する使い方での実測値を使います。RTX 5090は最大575W(システムで1000W級電源)、ノート系Macは推論時およそ40〜80W、Mac miniは推論時でも数十W台と、機材で一桁違うため、電気代の差もそのまま一桁になります。単価は契約している電力プランで確認してください。

Q. ローカルLLMは1台で何人まで使えますか?

同時に使う人数、モデルサイズ、メモリ帯域、推論エンジン、許容する応答速度で決まるため、機材名だけでは答えられません。生成速度は帯域をモデルサイズで割った値が上限で、複数人が同時に使うと1人あたりの速度は落ちます。全社員の人数ではなく、ピーク時に同時に推論している人数を見積もり、その人数で実際に使って応答を確かめるのが確実です。

Q. 社内に置くローカルLLMは電源やUPSをどう準備すればよいですか?

設置場所のコンセントがどの回路につながり、同じ回路に何があるかを先に確認します。1000W級の電源を要するGPU構成を複合機などと同じ系統に足すと、ブレーカーが落ちる条件に近づきます。常時稼働させるなら、停電時に安全に停止させるためのUPSを検討し、容量は機材の最大消費電力と停止処理に必要な時間から選びます。Mac系の機材なら通常のコンセントで足りることが多く、UPSも小容量で済みます。

Q. Mac Studioを社内のAIサーバーにできますか?

できます。M5 MaxやM5 UltraのMac Studioは、70B級以上のモデルを動かせる容量と帯域を持ちながら、机上に置けて静かです。ただしMacは1人用の端末として設計されているため、スリープの無効化と自動起動、複数人の同時リクエストに向いた推論エンジンへの載せ替え、MDMによる更新と暗号化の管理の3点を決めてから運用します。OSの更新で推論エンジンが動かなくなることがあるので、更新前の動作確認手順も用意します。

Q. 情シスの承認を得るには何を用意すればよいですか?

構成図、接続範囲の説明、データ取り扱いの説明の3つです。構成図では外部へ通信する経路がないことを、接続範囲では誰がどこから到達できて認証なしの口がないことを、データ取り扱いでは保存場所・期間・消去の手順を示します。これに消費電力と設置場所、担当者、保守の範囲を添えれば、審査の往復が減ります。社内に決まった書式があれば、先にベンダーへ渡して合わせてもらうのが早道です。

主な参考資料: Mac Studio 仕様(Apple公式)、RTX 5090(NVIDIA公式)、Apple introduces new Mac Studio with M5 Max and M5 Ultra(Apple Newsroom)、認証なしで露出したOllamaホストの観測(SentinelLABS)

TodoONadaでは、ローカルLLMを社内に置く前の10項目の確認を、実機の設置で代行しています。DGX SparkやMacを貴社オフィスに設置して2週間で判定する社内設置の実現性検証(30万円〜・税別・機材貸出料込み)では、電源・ネットワーク・設置場所の条件と担当者の工数を成果物としてお渡しします。機材のみの短期貸出(1週4.5万円〜・税別)も承っており、貸出料は次の段階の費用や機材購入に充当します。「うちのオフィスに置けるか」の確認だけのご相談も歓迎です。


この記事に関連するサービス

TodoONada株式会社では、機密データを外部に出さないローカルLLMの導入支援を行っています。

導入・開発のご相談はお問い合わせからお気軽にどうぞ。検討段階のご相談も歓迎です。

出典・参照

技術ブログ一覧へ戻る