その設計データ、その顧客リスト、AIに渡して大丈夫ですか？

「消してください」に、応えられなくなる

顧客リスト、問い合わせ履歴、採用応募者の経歴、患者の記録。こうした名簿を社員がクラウドAIに貼り付けて要約させたとします。そのAIが入力を学習に使う設定なら、名前は鍋の中です。あとで本人から「私の情報を消してください」と言われても、消す場所がありません。会社は「消しました」と答えられなくなります。

つまり：設計図は1社に謝れば済むかもしれません。名簿は、名前の数だけ謝る相手がいます。

法律は、すでに「学習に使うな」と言っている

個人情報保護委員会は2023年6月2日、生成AIの利用について注意喚起を出しました。要点は1つです。本人の同意なく個人データをAIに入力し、それが答えを返す以外の目的（学習など）で扱われると、個人情報保護法に違反する可能性がある。だから、そのAIが「個人データを機械学習に利用しないこと」を十分に確認しなさい、と。

2026年7月に成立した改正法は、AI開発のためのデータ利用を一部で同意不要にしました。ただし対象は「統計を作るためだけに使うと担保できる場合」です。社員が名簿をAIに貼り付ける行為は含まれません。むしろ、1,000人を超える個人データに関わる違反には課徴金が新設されました。

つまり：「鍋に入れる前に、その鍋が誰のものか確かめなさい」という原則は変わっていません。変わったのは、確かめずに入れたときの代償です。

海外では「AIごと捨てなさい」という命令が出ている

2021年、米国の連邦取引委員会（FTC）は、利用者の同意なく顔写真を学習に使った写真アプリの会社に命令を出しました。写真を消すだけでは足りない。その写真で作ったAIモデルも消しなさい、と。同じ趣旨の命令は、その後も繰り返し出ています。玉ねぎを取り出せないなら、カレーごと捨てさせる。規制当局はそう判断しました。

つまり：個人情報を溶かしたAIは、AIそのものを失うリスクを抱えます。

学習（ファインチューニング）

資料の中身をAI内部の数値に溶かし込む処理のことで、いったん溶けると資料単位で取り出せない。

読ませる（参照）

AIの外に置いた資料をその場で見せて答えさせる使い方のことで、資料を消せば影響も消える。

AIエージェント

人の代わりに道具を操作して作業をこなすAIのことで、手順を覚えて自動で繰り返すことができる。

マシンアンラーニング

学習済みのAIから特定の知識だけを忘れさせる技術のことで、現状は「蓋をする」段階にとどまる。

営業秘密

会社が秘密として管理し、事業に役立ち、世間に知られていない情報のことで、この3つを満たすと法律で守られる。

個人データ

名簿や顧客台帳のように、検索できる形で整理された個人情報のことで、本人の同意なくAIの学習に使わせると法律に触れる可能性がある。

統計作成等の特例（2026年改正）

「統計を作るためだけに使う」と担保できる場合に限り、本人の同意なく個人データをAI開発などに使えるようにした新ルールのことで、社員がプロンプトに個人データを入力する行為は対象にならない。

シャドーAI

会社が把握していないまま社員が業務に使っているAIのことで、記録も線引きも残らない。

オンプレミス（社内完結）

AIの処理と保存を自社の建物の中にある機器だけで行う形のことで、データがインターネットに出ない。