自社データを外に出さずに、AIを活用する。
ローカルLLMで実現する、安全で低コストな自社AI基盤のご提案。
生成AIの利便性を、社内データを社外に出さないまま取り入れます。
「便利だから」で、20日間に3件。
2023年、ある世界的な半導体メーカー（サムスン電子）で実際に起きた事例です。社内でAIの利用を解禁したわずか約3週間のあいだに、社員が機密のソースコードや社内会議の内容をAIに入力し、社外のサーバへ流出させてしまいました。悪意はなく、理由は「便利だったから」。そして
一度送信されたデータは、企業側では回収できません。
解禁直後に相次いで発生
データは外部サーバに送信・保存される
送信後は会社側で取り消せない
日本も例外ではありません。ダークウェブ上で取引されたAIサービスのアカウントのうち、少なくとも661件が日本からの漏洩と確認されています（2023年5月までの1年間）。
安全・低コストに、自社でAIを持つ
AIは使いたい。でも不安。
業務効率化のためAIは導入したい。しかし顧客情報や社内ノウハウが外部に漏れるのは避けたい——その不安は正しい懸念です。
クラウドは手軽だがデータ社外に出る
クラウドAIは始めやすい反面、入力した社内情報は事業者のサーバへ送信されます。
ローカルAIならデータは外に出ない
自社内に置くローカルAIなら、データは社外へ一切出ません。出口そのものを作らない仕組みです。
長期で見れば低コスト
従量課金が積み上がるクラウドに対し、自社設置のローカルAIは固定費中心。使うほど割安になります。
AIは使いたい。でも、データ漏洩が怖い。
競争力のためにAIは導入したい
業務効率化、ナレッジ活用、人手不足対策。AIの効果は理解している。
社外に出したくない情報がある
顧客情報、見積・契約、設計や独自ノウハウ。これらは外部に出せない。
「入力した情報は大丈夫？」
生成AIに打ち込んだ内容がどこへ行くのか、判断材料がなく踏み出せない。
クラウドAIでは、質問と一緒に社内文書も外へ送られる
「学習に使われない」＝「外に出ていない」ではない
学習されなくても、データは一度社外へ送信され、一定期間保持されます。設定や契約で保持・学習をある程度抑えられても、「社外サーバに送る」という事実そのものは残ります。
AI基盤の置き場所には、2つの選び方がある
高性能なGPUを必要なときに借りる方式。始めやすく、規模も即座に拡大できます。一方で、社内データは事業者のサーバへ送られ、利用量に応じて費用が積み上がります。
AIを自社内に置いて動かす方式。データは社内に閉じ、外へ出ません。静音でオフィスに設置でき、費用は固定費が中心。自社データを安全に活かせます。
NVIDIA クラウドGPU ― 手軽さと拡張性
メリット
デメリット（経営リスク）
向いているケース：不特定多数が大規模に使う／機密性の低い業務
ローカルLLM ― 安全性と低コスト
メリット
留意点
向いているケース：機密データを扱う／社内の少〜中規模利用／長く使う
クラウドGPU と ローカルLLM の比較
| 観点 | クラウドGPU（NVIDIA） | ローカルLLM（ご提案） |
|---|---|---|
| データの所在 | 社外（事業者のサーバ） | 社内に保管（外に出ない） |
| セキュリティ | 設定・契約で管理 | 物理的に出口が無い |
| 初期費用 | 小さい | 中程度（機器購入） |
| ランニング費用 | 従量で増えていく | 低い（電気代が中心） |
| 同時利用の規模 | 大規模に強い | 中規模まで／増設で対応 |
| 拡張性 | 即時にスケール | 台数追加で拡張 |
| 運用 | 事業者に依存 | 自社／委託で運用 |
長く使うほど、ローカルLLMが有利になる
クラウドGPU（累計）
ローカルLLM（累計）
固定費中心だから読める
ローカルは最初に費用がかかるが、その後は電気代中心。利用が増えても費用は急増しません。
使うほど差が開く
クラウドは利用量に比例して費用が増加。継続利用では早期に逆転します。
| 累計コスト | 導入時 | 1年後 | 2年後 | 3年後 |
|---|---|---|---|---|
| クラウド型AI（30名分の利用料） | 0円 | 108万円 | 216万円 | 324万円 |
| ローカルLLM（初期＋電気代） | 約50万円 | 約55万円 | 約60万円 | 約65万円 |
クラウドは「人数×月額」で積み上がり続け、逆転はおよそ半年で起こります。ローカルは初期投資のあとは電気代中心で、4年目以降はさらに差が開きます。
上記は試算例です。実際の金額は利用人数・利用頻度・モデル・構成により変わります。御社の利用規模に合わせた概算を導入時にご提示します。
ローカルLLMの構成図
社員のブラウザから、社内のサーバだけで完結します。
ブラウザでアクセス（PC・スマホ）
社内LAN（有線／無線）
:3001・会話/権限DB
:4000・振り分け
推論サーバ #1
Ollama :11434
推論サーバ #2
Ollama :11434
推論サーバ #3
Ollama :11434
構成のポイント
- ブラウザでアクセス。専用ソフトのインストールは不要
- サーバが受付・ユーザ権限・会話履歴を一元管理
- 同じ会話は同じ推論サーバで処理し、応答を高速化
- 増設は推論サーバを足すだけ。外部への接続はなし
アクセスはブラウザで。権限設定も自在に
（経理規程 第8条より）
ユーザ・部署ごとに、見られるデータを設定
| 部署 | 営業資料 | 経理データ | 人事データ |
|---|---|---|---|
| 営業部 | ○ | × | × |
| 経理部 | × | ○ | × |
| 管理者 | ○ | ○ | ○ |
- 専用ソフト不要 ― ブラウザだけで使える
- PCでもスマホでも同じように使える
- 管理者が、誰が何を見られるかを管理
社内の情報を「社内のまま」AIに活かす仕組み
自社専用の「物知りな担当者」を、データを外に出さずに育てるイメージです。
社内データの覚えさせ方は、とても簡単
追加・更新も同じ操作。モデルそのものを作り直すのではなく、自社文書を「参照できる形」で取り込む方式です。だから手軽・高速で、
何を入れて、何を聞けば「成果」が見えるか
社内文書を取り込むと、こんな質問に「自社の情報」で即答できるようになります。
| 取り込むデータ | 社員の質問（今は人に聞く・探す） | AIの回答 | 見える成果 |
|---|---|---|---|
| 就業規則・社内規程 | 「育休中の社会保険料は免除される？申請はいつまで？」 | 該当する条文を引用して回答（例：◯◯規程 第12条より） | 総務への問い合わせが激減。新人が自分で解決できる |
| 過去の見積書・提案書 | 「B社と同規模の案件、前回はどんな条件で見積もった？」 | 類似案件を探し出し、条件と金額レンジを要約 | 見積作成が数時間→数分。ベテラン依存を解消 |
| 製品マニュアル・問い合わせ履歴 | 「型番◯◯でエラーE04が出た。対処法は？」 | マニュアルと過去の対応事例から手順を提示 | 一次対応の高速化と、回答品質の均一化 |
PoC（お試し導入）で成果を一番わかりやすく見せるコツは、最初の一問を絞ること。「毎日のように誰かに聞かれ、答えは社内文書のどこかにあるが、探すのが面倒」——その質問が、効果が一目で伝わります。
漏れを「管理する」より、出口を「作らない」
小さく始めて、安全に広げる
お試し導入（PoC）
推論サーバ1台で小さく検証。効果と使い勝手を体感。
部門導入
社内文書を取り込み、部門向けに本格運用を開始。
全社へ拡張
推論サーバを増設し、利用部門・人数を拡大。
最適化・併用
機密はローカル固定、高負荷時のみクラウド併用。
リスクの低いPoCから始めるので、大きな投資判断の前に効果を確かめられます。
推奨：自社内の小規模サーバから始める
- 機密データは社内のサーバで処理（外に出さない）
- 自社文書を取り込み、専用AIとして活用
- まずは小規模に、効果を見ながら増設
- 高負荷の非機密業務のみ、必要に応じクラウド併用
情報を社外に出さず、自社で守れる
固定費中心で、長期的に割安
自社データを活かしたAIが持てる
データを守りながら、AIは始められる。
社内データを外に出さない
ローカルLLMなら、データに出口が無い。
長く使うほど低コスト
固定費中心で、費用が読める。
自社データを活かせる
自社専用のAIを、安全に育てられる。