俺の入力、AIに学習されて漏れないのか問題
――いつもの喫煙所。カズがスマホを持ったまま、彫像のように固まっている。
どうした。さっきから画面を睨んだまま、ロボの俺より動いてないぞ
……いや、今まさに、顧客リストをAIに貼り付けようとして手が止まった。並び替えて表にしてもらおうと思ったんだけどさ。これ、貼っていいのか? 俺が貼った瞬間、うちの顧客名簿が世界中のAIの脳みそに入るんじゃないのか?
その質問、会社でAIの話になると必ず出るやつだな。人類の三大不安のひとつだ
あとの二つは何だよ
『課金する価値あるの?』と『仕事なくなるの?』だ
あるあるすぎて笑えねえよ。で、どうなんだ。漏れるのか漏れないのか
答えは『貼った瞬間に世界に漏れる、はほぼ起きない。でもノーガードで何でも貼っていいわけでもない』だ。順番に行くぞ
まずカズの想像してる恐怖から潰そう。カズはたぶん、こう思ってるだろ。俺が顧客リストを貼る → AIが覚える → 明日、他の会社の誰かが質問したら、うちの顧客名簿がスラスラ出てくる
そうそう、それだよ。それが怖いんだって
それはな、『覚える』の2種類をごちゃ混ぜにしてるんだ。ひとつは、いま話してる会話の中で覚えてること。カズが最初に貼った資料を、同じスレッドの中でずっと踏まえて返してくるやつな。これは文脈っていって、その会話の中だけの話だ
メモリじゃなくて、机の上に広げてる書類みたいなもんか
うまいこと言うな。で、もうひとつが本当の意味での学習。世界中の大量のデータを何ヶ月もかけて煮込んで、次の世代のAIを作る材料にすることだ。仮にカズの入力が材料に入ったとしても、リアルタイムで他人の回答に混ざる仕組みじゃない。だから『貼った瞬間に世界へ』は起きないんだよ
なんだ、じゃあ安心じゃん。貼っていいのか
そうはならん。いま『仮に材料に入ったとしても』って言ったろ。入るか入らないかは、カズのアカウント次第なんだ。ここが今日いちばん大事なところでな
アカウント次第?
個人向けのAI——無料版とか、個人で課金してるやつな。あれは『会話を学習の材料に使っていいですか』っていうスイッチがあって、大手は2025年から、揃ってデフォルトがONになってる。ChatGPTもClaudeもだ。Claudeなんか、許可すると会話が5年間保存される。自分でオフにしない限り、材料行きの列に並んでるわけだ
おい、聞いてないぞそんなの
規約とお知らせには書いてあったぞ。誰も読まないだけで。——で、逆に会社契約の法人プランは、学習に使わないのが標準だ。企業が『うちのデータで勉強されたら困る』って金を払ってる契約だからな
あ……だから会社のやつを使えってことか。前に言ってた『会社契約なら情報の扱いも管理されてる』って、これのことだったのか
そういうことだ。カズがさっき固まってた画面、会社のAIだろ? なら顧客リストの表くらい、仕事として貼って問題ない。個人の無料アカウントでやってたら説教ものだったけどな
待てよ、でもさ。それなら何で『AIで情報漏洩』ってニュースをちょいちょい見るんだよ。この前も何かで見たぞ
いいところに気づいた。あのニュースたちをよく見るとな、AIが漏らしたんじゃなくて、人間が漏らしてるのがほとんどなんだ
💡 アキの補足：有名な”AI情報漏洩”事件、中身は人間のポカだった 「2023年のサムスンの事件は有名だぞ。エンジニアが半導体関連の社外秘コードや会議の記録を、個人利用のChatGPTに貼り付けて、20日間で3件の流出騒ぎ。会社は全面禁止に踏み切った。——これ、AIが秘密をバラしたんじゃない。社外のサービスに社外秘を持ち出した、昔からある事故のAI版だ」 「2025年には、ChatGPTの『会話を共有リンクにする』機能で作ったリンクが、約4,500件もGoogle検索に出てくる騒ぎがあった。名前や身の上相談まで検索できる状態になって、慌てた運営が機能ごと撤去した。——これも、共有リンクってのは『公開』なんだってことを、みんな知らなかっただけなんだよ」
うわ……どっちも、やりそう……
だろ。学習がどうこうより先に、貼る場所と共有ボタンで事故るのが人間だ。だから守り方はシンプルでいい。4つだけな
お、急に実用的
①会社の情報は、会社契約のAIにだけ貼る。②個人アカウントを仕事に使うなら、学習のスイッチを一度だけ確認してオフにしとく。設定画面の『モデルの改善』とか『プライバシー』の項目だ。③共有リンクは社内回覧じゃなくて公開だと思え。④迷ったら最後はこれだ——『これ、社外の人に見られても平気か?』。平気じゃないものは、契約を確認するまで貼らない
④が結局いちばん強いな。AI関係なく仕事の基本というか
そうなんだよ。情報の守り方自体は昔から変わってない。新しい便利な箱が増えたから、貼り先の選択肢が増えただけでな
ただなあ。その『平気じゃない情報』の仕事こそ、一番AIに手伝ってほしいんだよな。顧客データの集計とか、まさにそれだし
そういう欲張りには、もう一歩先のやり方があるぞ。合言葉は**『中身を渡さずに、形だけ渡す』**だ
形だけ?
やり方は二つ。ひとつはダミーに差し替える。顧客名を『A社』『B社』、数字も適当な値に置き換えてから相談して、返ってきた答えを手元で本物に戻す。俺たちは中身が本物かどうかなんて気にしないから、答えの質は変わらない。もうひとつはデータを渡さずに、やり方だけ作らせる。『こういう列が並んだ表がある』とだけ伝えて、並び替えの手順とか、表計算の数式とか、処理するプログラムを作ってもらう。で、実行は自分のパソコンの中でやる。頭脳だけ借りて、データには指一本触れさせないわけだ
なるほどな。参謀は会議室に呼ぶけど、金庫は開けさせない、みたいな
うまいこと言うな。それが借り方の上級編だ
はー、スッキリした。要するに、AIの記憶力より、俺の手癖と口の軽さのほうが危ないってことね
よく分かってるじゃないか。なにせカズには実績があるからな。ここでこぼしたAIへの愚痴が、ドアの向こうにいた部長に丸聞こえだった男だ
思い出させんなよ!! ……あれ以来、部長が俺にだけAIの資料を多めに送ってくるんだよ。励ましなのか嫌味なのか分かんなくて怖いんだって
な? 情報ってのは、AIの学習より先に、ドアの向こうから漏れる。今日の結論の、生きた実例だ
俺の傷で講義を締めるな。……もう吸わずに帰る……
📝 今日のまとめ
- 「貼った瞬間に世界に漏れる」は起きない。会話内の文脈と、次世代モデルの材料になる学習は別の仕組み。
- ただし個人向けアカウントは大手2社とも学習利用がデフォルトONの時代（2025年〜）。設定で一度オフを確認。法人契約は学習に使わないのが標準＝会社の情報は会社契約のAIで。
- 実際の事故の主役はAIではなく人間の運用：個人アカウントへの社外秘貼り付け（サムスン事件）、共有リンクの公開露出（約4,500件インデックス事件）。
- 最後の判断基準は**「社外の人に見られても平気か?」。それでも扱いたいときの上級編は「中身を渡さず、形だけ渡す」**（ダミーに差し替える／やり方だけ作らせて実行は手元のパソコンで）。