生成AIとセキュリティ

オンプレはなぜ安全なのか?

「漏れない」のではなく、「出て行く道がない」

実践シリーズ 第3回

​「この​AI、​安全なの?」​​──⁠生成​AIの​導入を​社内で​相談すると、​まず​聞かれるのが​この​一言です。​すぐに​答えられなくても、​無理は​ありません。​安全性は、​技術の​話に​見えるからです。​でも​実は、​いちばん​大事なのは​技術ではなく、​データがどこを​通って、​どこに​届くのかと​いう、​とても​シンプルな​話です。​この​記事では、​その​考え方と、​社内で​説明する​ときに​そのまま​使える​言葉を、​専門用語​ゼロで​ご紹介します。

公開日:更新日:

生成​AIの​導入を​社内で​提案すると、​必ずこう​聞かれます。​​「それ、​安全なの?」​​​「個人情報が​漏れないって、​なぜ​言い​切れるの?」。​提案した側は​言葉に​詰まり、​​「ベンダーは​安全だと​言っています」​と​答えるしか​ありません。その​答えでは、​稟議は​通りません。この​記事は、​その​質問に​自分の​言葉で​答えられるようになる​ための​記事です。

  • この​記事で​わかる​こと① ​​「安全ですか?」​と​いう​質問に、​技術者でなくても​答えられる​考え方
  • この​記事で​わかる​こと② クラウド​AIと​オンプレ​AIで、​​「安全の​根拠」​が​どう​違うのか
  • この​記事で​わかる​こと③ ​​「絶対に​漏れない」​と​言わずに、​稟議を​通す線の​引き方

ひとことで言うと

オンプレ​AIが​安全な​理由は、​ひと​ことで​言えば​​「データが​会社の​外に​出ないから」​です。た​とえるなら、​クラウド​AIは、​書類を​社外の​翻訳会社に​送って​訳して​もらう​仕組みです。​書類は​必ず会社の​建物を​出ます。​届いた​先で​誰が​見るのか、​コピーが​残らないかは、​翻訳会社との​約束を​信じるしか​ありません。​オンプレ​AIは、​翻訳者が​自社の​社員と​して​社内の​席に​座っている​状態です。​書類は​机の​上から​動きません。​外に​出さないのですから、​外で​漏れる​ことは​ありません。

QUESTION

「安全ですか?」に、なぜ誰も答えられないのか

答えられない​理由は、​知識が​足りないからでは​ありません。質問の​形が、​そも​そも​答えられない​形を​しているからです。

理由 01

「漏れないこと」は、証明できない

​「漏れる」​は、​一度でも​起きれば​証明できます。​​「漏れない」​は、​これから​先ずっと​起きない​ことを​示さなければならず、​誰にも​証明できません。​これは​​「悪魔の​証明」​と​呼ばれる、​答えの​ない​問いです。​技術者に​聞いても​同じです。

つまり​:​「絶対に​漏れません」​と​言い​切る​会社が​あれば、​その​会社は​証明できない​ことを​約束しています。

理由 02

「安全」を、技術の話だと思っている

暗号化、​認証、​脆弱性対策。​安全の​話に​なると​専門用語が​並び、​聞く​側も​話す側も​​「詳しい​人に​聞かないと」​と​なります。​しかし​稟議で​本当に​問われているのは​技術の​細部ではなく、​​「この​情報は、​どこに​行くのか」​と​いう​ただ​一点です。

つまり​:技術の​質問に​見えて、​実は​​「行き先」​の​質問です。​行き先なら、​誰でも​答えられます。

理由 03

「信じてください」しか、手元にない

クラウド​AIの​安全性は、​事業者の​規約と​運用に​委ねられています。​​「学習には​使いません」​​​「第三者には​渡しません」。​どれも​約束であって、​あなたの​会社が​確認できる​仕組みでは​ありません。​だから​説明が​​「ベンダーが​そう​言っている」​で​止まります。

つまり​:相手の​約束を​信じる​以外に​根拠が​ない​状態では、​誰が​説明しても​稟議は​通りません。

!この​記事が​目指すのは、​​「安全だと​信じてください」​を、​​「安全だと、​この​目で​確かめられます」​に​変える​ことです。
STRUCTURE

安全の理由は、性能ではなく「通り道」にある

​「漏洩」​とは​何でしょうか。​情報が、​あるべき​場所から外へ​移動する​ことです。​移動には​道が​要ります。​道が​なければ、​移動は​起きません。​安全性の​説明は、​この​一点から​組み立てます。

クラウド型の対話AI

社員のPCインターネット事業者のサーバー答えが戻る

入力した​文章は、​必ず​社外の​事業者の​サーバーに​送られ、​そこで​処理されます。​通り道が​社外に​ある以上、​​「途中で​誰かが​見ないか」​​​「保存されないか」​​​「学習に​使われないか」​は、​事業者の​約束に​頼るしか​ありません。

オンプレミス型の対話AI

社員のPC社内のネットワーク社内に置いた本体答えが戻る

入力した​文章は、​社内の​ネットワークを​通って、​社内に​置いた本体の​中で​処理されます。​インターネットに​出る​道が​ありません。​​「途中で​誰かが​見ないか」​と​いう​問いは、​社内の​自分たちに​向ける​問いに​なります。

安全の​根拠は、​約束ではなく​構造です。​「事業者が​見ないと​約束している」​ではなく、​​​「事業者に​届く​道が​無い」。​稟議で​説明すべきなのは、​この​一文だけです。

これが、​オンプレ​AIの​安全性が証明できる理由です。​​「漏れない」​は​証明できませんが、​​「外に​出る​道が​無い」​は、​ネットワークの​構成図を​見れば​誰でも​確かめられます。​情報​システム​部門が​確認し、​必要なら​監査に​対して​同じ図を​見せれば​よいのです。

ANALOGY

御社の複合機は、安全ですか?

オンプレ​AIの​立ち位置を、​いちばん短く​言うと​こうなります。社内の​ファイルサーバーや​複合機と、​同じ​場所に​置かれた​機械です。

あなたの​会社の​複合機には、​毎日、​契約書や​名簿が​通ります。​ファイルサーバーには、​​経営資料が​保存されています。​それらを​​「安全ですか?」​と​聞かれたら、​どう​答えるでしょうか。​おそらく​​「社内の​ネットワークに​あり、​社内の​ルールで​管理しています」​と​答えるはずです。​だれも​​「絶対に​漏れません」​とは​言いません。オンプレ​AIの​答えも、​まったく​同じです。

置き場所が同じ

複合機も​ファイルサーバーも​オンプレ​AIも、​社内の​ネットワークの​中に​あります。​外から​直接は​触れません。

守り方が同じ

入退室、​アカウント、​パスワード、​権限。​すでに​社内に​ある​ルールが、​そのまま​オンプレ​AIにも​適用されます。​新しい​ルールを​作る​必要は​ありません。

説明のしかたが同じ

​「AIだから​特別に​危険」​ではなく、​​「サーバーが​1台増える」。​監査や​取引先への​説明も、​既存の​機器と​同じ​書式で​済みます。

社内で説明するときの言い方

​「この​AIは、​複合機や​ファイルサーバーと​同じく、​社内の​ネットワークの​中に​置く​機械です。​入力した​情報は​インターネットに​出ません。安全性の​根拠は​当社の​既存​ルールで、​外部の​約束では​ありません。」​

3 QUESTIONS

聞かれることは、3つしかない

​「安全ですか?」​を​分解すると、​実際に​聞かれている​質問は​3つに​集約されます。​この​3つに​即答できれば、​稟議でも​お客様への​説明でも、​困る​場面は​ほぼなくなります。

質問 01

入力した​データは、​どこに​行くのか?

社内に置いた本体の中だけです。

インターネットには​送られません。​処理も、​保存も、​本体の​中で​完結します。​行き先が​一つしかないので、​​「どこかに​残っていないか」​を​心配する​必要が​ありません。

質問 02

誰が、​その​データを​見られるのか?

御社がログインを許可した人だけです。

アカウントは​会社が​発行し、​退職した​日に​止められます。​外部​送信が​無いので、​提供元である​FIXERにも​データは​届きません。​​「事業者の​社員が​見るかもしれない」​と​いう​不安が、​構造上、​成り​立ちません。

質問 03

AIの​学習に、​使われてしまわないか?​

使われません。出て行かないので、使いようがありません。

クラウド​AIでは​​「学習に​使わない​設定」​を​信じるしか​ありません。​オンプレ​AIでは、​データが​社外の​誰の​手にも​渡らないので、​設定を​信じる​必要が​そもそも​無いのです。

!3つの​答えに​共通しているのは、​​「約束します」​では​なく​​「そうなる​道が​無い」​と​いう​言い方です。​この​違いが、​説明の​強さの​違いに​なります。
MISUNDERSTANDING

よくある誤解と、実際はどうなのか

※ ​​「クラウド​AI」​は​一般的な​想定であり、​個別の​製品​・サービスを​評価した​ものでは​ありません。
よく聞く言葉実際はどうなのか
「絶対に漏れません」と言えないなら、安全ではない​「絶対」​は​誰にも​言えません。言えるのは​​「外に​出る​道が​無い」​までです。​この​線を​守る​説明の​ほうが、​監査や​取引先に​信頼されます。
クラウドAIも「学習に使わない設定」があるから同じそれは​事業者との​約束で、​御社が​確認できる​仕組みでは​ありません。データが​社外に​送られる​構造は​変わりません。
大手のクラウドのほうが、自社で管理するより安全守る​強さの​話と、​行き先の​話は​別です。大手の​守りが​強くても、​データが​社外に​ある​事実は​消えません。​オンプレは​​「守る」​​以前に​​「出さない」​を​選んでいます。
オンプレは、置いたら管理が大変管理の​中身は、​既存の​サーバーや​複合機と​同じです。入退室、​アカウント、​権限。​新しい​ルールを​作る​必要は​なく、いまある​ルールに​1台加えるだけです。
ネットにつながっていないなら、何もできないのではAIの​処理は​本体の​中で​完結します。文章の​作成、​要約、​社内資料にもとづく​回答は、​ネットが​無くても​動きます。​Web​検索が​必要な​ときだけ、​オプションで​つなぎます。
セキュリティは、技術者にしか説明できない​「行き先」​の​説明なら、​誰でも​できます。暗号方​式や​脆弱性対応など​細部の​質問は、​技術担当が​文書で​答える。​役割を​分ければ、​説明は​崩れません。
オンプレなら、社内の誰が使っても問題ない社内の​不正利用は、​オンプレでも​起こり得ます。だから​こそ、​アカウントと​操作記録が​要ります。​​「外に​出ない」​と​​「社内で​正しく​使う」​は​別の​話です。
HONEST LINE

「絶対に漏れない」とは言いません ── 残るリスクと、その持ち主

ここまで​読んで、​​「では​何の​リスクも​無いのか」​と​思われた​なら、​それは​違います。正直に​線を​引ける​説明の​ほうが、​信頼されます。オンプレ​AIで​残る​リスクは、​次の​4つです。​どれも​​「持ち主」​が​はっきりしています。

残るリスク 01

本体そのものの盗難・持ち出し

本体は​社内に​あります。​社内の​PCや​サーバーと​同じく、​入退室管理と​設置場所の​管理が​必要です。​保存先は​自己暗号化に​対応した​SSDなので、​本体だけ​持ち出されても​中身は​読めません。

持ち主:御社の​設備管理​​(既存​ルール)​

残るリスク 02

社内の不正利用・権限の付け過ぎ

外に​出なくても、​見てはいけない​人が​社内で​見る​ことは​あり得ます。​だから​アカウントは​個人ごとに​発行し、​操作の​記録を​残します。​退職者は、​その​日に​止めます。

持ち主:御社の​情報​システム​部​門​​(既存​ルール)​

残るリスク 03

パスワードの使い回し・共有

どんな​機器でも、​パスワードを​共有すれば​​「誰が​使ったか」​が​分から​なくなります。​オンプレ​AIも​例外では​ありません。​これも​既存の​パスワード​規程が​そのまま​適用されます。

持ち主:御社の​社員一人​ひとり​​(既存​ルール)​

残るリスク 04

ネット接続オプションを使ったとき

Web​検索や​クラウド​AIとの​連携を​オプションで​有効に​すると、その機能で​扱う​内容は​社外に​出ます。​標準では​接続しません。​使う​場合は​​「どの​部署が、​何の​目的で」​を​決めてから​有効に​してください。

持ち主:御社の​利用​ルール​​(有効に​するか​どうかの​判断)​

まとめると、​こう​言えます。​「外部に​漏洩する​経路は​ありません。​残る​リスクは、​当社の​PCや​サーバーと​同じ​種類の​もので、​既存の​ルールで​管理できます。」​──⁠ これが、​稟議で​通る​言い方です。
!4つめの​オプションの​話を​省く​説明は、​あとで​必ず​崩れます。​​「ネットに​つなぐと​出る」​を​先に​言っておく​ことが、​​「ネットに​つなが​なければ​出ない」​と​いう本体の​説明を​守ります。
PROOF

説明より確かな証拠 ── ケーブルを抜いても動く

​「外に​出る​道が​無い」​は、​言葉で​説明するより、​目で​見た​ほうが​早く​伝わります。​方法は​簡単です。本体から​インターネットに​つながる​ケーブルを​抜いて、​AIに​質問してください。

  • ケーブルを​抜いても​答えが​返ってくる──⁠AIの​処理が​本体の​中で​完結している​証拠です。​外と​通信していれば、​答えは​返ってきません。
  • 技術が​分からない​人にも、​一目で​伝わる──⁠構成図も​専門用語も​要りません。​経営層への​説明では、​この​1分が​最も​強い​説明に​なります。
  • 導入後も、​いつでも​自分で​確かめられる──⁠ベンダーの​説明を​信じるのではなく、​御社の​担当者が​自分の​手で​確認できます。​監査に​対しても、​同じ方​法で​示せます。

クラウド​AIでは、​この​確認は​できません。​ケーブルを​抜けば​止まるからです。​​「止まらない」​ことが、​​そのまま​​「出ていない」​ことの​証拠に​なります。​トライアルや​実機​デモでは、​必ず​この​確認を​行ってください。

SELF CHECK

セルフチェック:あなたの会社の「AIの通り道」は見えていますか?

当てはまる​ものに​チェックを​入れてください。​入力した​内容が​どこかに​送信される​ことは​ありません。

生成AIの安全性説明 8つの質問

チェック数:0 / 8
チェックを​入れると、​結果が​表示されます

当てはまる​項目に​チェックを​入れてください。​チェック​数に​応じて、​次に​何を​すべきかを​お伝えします。

COMPARISON

3つのやり方を比べると、何が違うのか

※ ​​「社員任せの​クラウド​AI」​​​「学習に​使わない​設定の​クラウド​AI」​は​一般的な​想定であり、​個別の​製品​・サービスを​比較した​ものでは​ありません。​クラウド​型​AIとの​詳しい​比較は比較ページをご覧ください。
項目社員任せのクラウドAI「学習に使わない設定」のクラウドAI筐体内で完結するAI
データの通り道インターネット経由で社外へインターネット経由で社外へ社内ネットワークの中だけ
安全の根拠事業者の規約(個人契約は会社が把握できない)事業者との約束(設定)構造(外に出る道が無い)
誰が確認できるか誰も確認できない確認できない(信じるしかない)自社の担当者が自分で確認できる
学習に使われる可能性規約しだい設定上は無い(検証不可)構造上あり得ない
ネットが止まったとき使えない使えないそのまま使える
監査・取引先への説明説明できない規約と設定画面を示すネットワーク構成図と操作記録を示す
残るリスクの持ち主不明事業者と自社に分かれる自社(既存ルールで管理)
SOLUTION

だから私たちは、「道のないAI」を提案します

​「漏れない」​は​証明できません。​しかし​​「出て​行く​道が​無い」​は、​確かめられます。​ならば、​選ぶべきは​1つです。最初から、​道を​作らない。

Sovereign ​GaiXer は、​手の​ひらサイズの​筐体の​中で​生成​AIが​動く​​「AI-OS」​です。​社内の​ネットワークだけで​動き、​インターネットに​つなぐ​必要が​ありません。​入力した​文章も​社内​データも、​社外には​送られません。​AIの​処理も、​データの​保存も、​社内文書の​学習も、​すべて​筐体の​中で​完結します。​複合機の​隣に​置ける、​もう​1台の​社内の​機械です。

社内完結型 生成AI環境

​「安全ですか?」​に、​構成図で​答えられる​AI

Sovereign ​GaiXer は、​Lenovo ThinkStation​ PGX の​上で​動く​生成​AI​環境です。AIの​処理​・​データの​保存​・​社内文書の​学習が、​すべて​筐体の​中で​完結します。​文書が​インターネットに​出る​ことは​ありません。

Sovereign GaiXer の筐体
0インターネットへ​送られる​入力文​・​社内​データ

社内​LAN​​(有線​・​Wi-Fi)​だけで​動作。​ネットワークケーブルを​​抜いた​状態でも​使えます

道が​無い:AIの​処理も​保存も​社内文書の​学習も​筐体の​中。​外部​送信​ゼロだから、​​「学習に​使われないか」​を​信じる​必要が​ありません
誰が​使ったかが​残る​:利用者ごとの​アカウントと​操作記録。​退職した​その​日に​止められます​​(ユーザー​管理​・​監査​ログ)​
持ち出されても​読めない​:メールアドレスや​電話番号は​処理前に​自動で​伏せ字。​保存先は​自己暗号化に​対応した​SSD​​(個人情報自動​ガード)​
自分で​確かめられる​:ケーブルを​抜いても​動く。​導入前の​トライアルでも、​導入後の​監査でも、​同じ方​法で​示せます

※ Web​検索​・クラウド​AI​連携は​別途​オプション​契約です。​有効に​した​場合、​その機能で​扱う​内容は​社外に​送られます。​標準では​接続しません。

GLOSSARY

この記事の用語を、ひとことで

オンプレミス(オンプレ)

機器を​自社の​建物​・​自社の​ネットワークの​中に​置いて​使う形。​データが​インターネットに​出ない。

クラウド型AI

事業者の​サーバーに​インターネット​経由で​文章を​送り、​答えを​返して​もらう形。​安全性は​事業者の​規約と​運用に​委ねられる。

外部送信

社内の​データが、​インターネットを​通って​社外の​サーバーに​送られる​こと。​オンプレ​AIでは、​この​道が​そもそも​無い。

悪魔の証明

​「起きない​こと」​を​証明せよと​いう、​答えの​ない​要求。​​「絶対に​漏れない」​が​これに​あたる。​代わりに​​「出て​行く​道が​無い」​なら​示せる。

学習(ファインチューニング)

資料の​中身を​AI​内部の​数値に​溶かし込む処理。​第2回で​解説。​外に​出なければ、​社外の​AIに​学習されようが​ない。

閉域網

インターネットから​切り離された、​社内や​拠点間だけの​ネットワーク。​オンプレ​AIは​この​中でも​動く。

自己暗号化SSD

保存する​時点で​中身を​暗号化する​記録装置。​本体​ごと​持ち出されても、​鍵が​無ければ​読めない。

監査ログ

​「誰が、​いつ、​何を​したか」​の​記録。​外に​出ない​ことと、​社内で​正しく​使われた​ことの、​両方を​示すために​要る。

ネット接続オプション

Web​検索や​クラウド​AI​連携の​ために、​必要な​ときだけ外に​つなぐ​機能。​使えば​その​内容は​外に​出るので、​標準では​無効。

FAQ

よくある質問

オンプレミスのAIは、なぜ安全だと言えるのですか?

性能や​暗号の​強さではなく、​構造で​説明できます。​入力した​データは​社内の​ネットワークを​通って​社内に​置いた本体で​処理され、​インターネットに​出る​道が​ありません。​​「漏れない」​は​誰にも​証明できませんが、​​「外に​出る​道が​無い」​は​ネットワークの​構成図で​誰でも​確かめられます。

「絶対に個人情報が漏洩しない」と言い切ってよいですか?

言い​切らないでください。​​「絶対」​は​悪魔の​証明で、​誰にも​約束できません。​言えるのは​​「外部に​漏洩する​経路が​無い。​残る​リスクは​社内の​PCや​サーバーと​同じ​種類で、​既存の​ルールで​管理できる」​までです。​​この​線を​守った​説明の​ほうが、​監査や​取引先に​信頼されます。

クラウドAIにも「学習に使わない設定」があります。それでは不十分ですか?

その​設定は​事業者との​約束であり、​御社が​確認できる​仕組みでは​ありません。​また、​データが​インターネット​経由で​社外に​送られる​構造は​変わりません。​オンプレ​AIでは、​データが​社外の​誰にも​渡らないため、​設定を​信じる​必要​その​ものが​ありません。

提供元のFIXERは、私たちのデータを見られますか?

見られません。​外部​送信が​無いので、​FIXERに​データが​届く​道が​ありません。​本体を​見られるのは、​御社が​ログインを​許可した​人だけです。

オンプレでも残るリスクはありますか?

あります。​本体の​盗難​・​持ち出し、​社内の​不正利用や​権限の​付け過ぎ、​パスワードの​共有、​そして​ネット​接続​オプションを​有効に​した​場合の​外部​送信です。​いずれも​御社の​PCや​サーバーと​同じ​種類の​リスクで、​既存の​入退室​・アカウント・パスワ​ード​規程で​管理できます。

Web検索のオプションを使うと、安全ではなくなりますか?

オプションを​有効に​すると、​その機能で​扱う​内容は​社外に​送られます。​標準では​接続しません。​使う​場合は​​「どの​部署が、​何の​目的で」​を​決めてから​有効に​してください。​この​点を​先に​説明しておく​ことが、​​「つなが​なければ​出ない」​と​いう本体の​説明を​守ります。

本当に外と通信していないことを、自分で確かめる方法はありますか?

本体から​インターネットに​つながる​ケーブルを​抜いて、​AIに​質問してください。​答えが​返ってくれば、​処理が​本体の​中で​完結している​証拠です。​技術の​知識は​要りません。​トライアルや​実機​デモで、​必ず​行ってください。

暗号化方式や脆弱性対応など、細かい質問をされたらどうすればよいですか?

その​場で​答えず、​技術担当から​文書で​回答する​形に​してください。​​「行き先」​の​説明は​誰でも​できますが、​技術の​細部は​担当を​分けた​ほうが​説明が​崩れません。​Sovereign ​GaiXer に​ついてはセキュリティページも​ご覧ください。

SUMMARY

まとめ:この記事の3点

  • ​「漏れない」​は​証明できません。​オンプレ​AIの​安全性は、​性能ではなく​​「データが​外に​出て​行く​道が​無い」​と​いう​構造で​説明します。​稟議で​言うべきなのは、​この​一文です。
  • オンプレ​AIは、​複合機や​ファイルサーバーと​同じ​場所に​置く​機械です。​守り方も、​説明の​しかたも、​既存の​ルールが​そのまま​使えます。​聞かれる​質問は​​「どこに​行く」​​​「誰が​見る」​​​「学習されるか」​の​3つだけです。
  • ​「絶対」​とは​言わず、​残る​リスクと​その​持ち主を​先に​示してください。​ネット​接続​オプションを​使えば​出る​ことも​先に​言います。​そして​言葉より​先に、​ケーブルを​抜いて​見せてください。