その設計データ、その顧客リスト、AIに渡して大丈夫ですか？

「消してください」に、応えられなくなる

顧客​リスト、​問い​合わせ履歴、​採用応募者の​経歴、​患者の​記録。​こうした​名簿を​社員が​クラウド​AIに​貼り付けて​要約させたとします。​その​AIが​入力を​学習に​使う​設定なら、​名前は​鍋の​中です。​あとで​本人から​​「私の​情報を​消してください」​と​言われても、​消す​場所が​ありません。​会社は​​「消しました」​と​答えられなくなります。​

つまり​：設計図は​1社に​謝れば​済むかもしれません。​名簿は、​名前の​数だけ謝る​相手が​います。

法律は、すでに「学習に使うな」と言っている

個人情報保護委員会は​2023年6月2日、​生成​AIの​利用に​ついて​注意喚起を​出しました。​要点は​1つです。​本人の​同意なく​個人​データを​AIに​入力し、​それが​答えを​返す以外の​目的​（学習など）​で​扱われると、​個人情報保護法に​違反する​可能性が​ある。​だから、​その​AIが​​「個人​データを​機械学習に​利用しない​こと」​を​十分に​確認しなさい、と。

2026年7月に​成立した​改正法は、​AI​開発の​ための​データ​利用を​一部で​同意不要に​しました。​ただし対象は​​「統計を​作る​ためだけに​使うと​担保できる​場合」​です。​社員が​名簿を​AIに​貼り付ける​行為は​含まれません。​加えて、​1,000人を​超える​個人​データに​関わる​違反に​対する​課徴金が​新設されました。

つまり​：​「鍋に​入れる​前に、​その​鍋が​誰の​ものか​確かめなさい」​と​いう​原則は​変わっていません。​変わったのは、​確かめずに​入れた​ときの​代償です。

海外では「AIごと捨てなさい」という命令が出ている

2021年、​米国の​連邦取引委員会​​（FTC）​は、​利用者の​同意なく​顔写真を​学習に​使った​写真​アプリの​会社に​命令を​出しました。​写真を​消すだけでは​足りない。その​写真で​作った​AI​モデルも​消しなさい、と。​同じ​趣旨の​命令は、​その​後も​繰り返し出ています。​玉ねぎを​取り出せないなら、​カレーごと​捨てさせる。​規制当局は​そう​判断しました。

つまり​：個人情報を​溶かした​AIは、​AI​その​ものを​失うリスクを​抱えます。

学習（ファインチューニング）

資料の​中身を​AI​内部の​数値に​溶かし込む処理。​いったん溶けると、​資料単位では​取り出せない。

読ませる（参照）

AIの​外に​置いた​資料を、その場で​見せて​答えさせる​使い方。​資料を​消せば​影響も​消える。

AIエージェント

人の​代わりに​ソフトや​機器を​操作して​作業を​こなすAI。​手順を​覚えて​自動で​繰り返すことも​できる。

マシンアンラーニング

学習済みの​AIから​特定の​知識だけを​忘れさせる​技術。​現状は​​「蓋を​する」​​段階にとどまる。

営業秘密

秘密と​して​管理されていて、​事業に​役立ち、​世間に​知られていない​情報。​この​3つを​満たすと​法律で​守られる。

個人データ

名簿や​顧客台帳のように、​検索できる形で​整理された​個人情報。​本人の​同意なく​AIの​学習に​使わせると、​法律に​触れる​可能性が​ある。

統計作成等の特例（2026年改正）

​「統計を​作る​ためだけに​使う」​と​担保できる​場合に​限り、​本人の​同意なく​個人​データを​AI​開発などに​使えるように​した新​ルール。​社員が​プロンプトに​個人​データを​入力する​行為は​対象に​ならない。

シャドーAI

会社が​把握していないまま​社員が​業務に​使っている​AI。​記録が​残らず、​線引きも​できない。

オンプレミス（社内完結）

AIの​処理と​保存を、​自社の​建物の​中に​ある​機器だけで​行う形。​データが​インターネットに​出ない。