情報漏洩の報道が急に増えた。AIとの関係をどう考えるか

最近、情報漏洩のニュースがやたらと増えたように感じる。

もちろん、単純に「AIが普及したから情報漏洩が増えた」と結論づけることはできない。企業側の検知能力が上がったこともあるだろうし、公表されるケースが増えた可能性もある。

ただ、AIの急速な普及と情報漏洩の問題は、無関係ではないと思っている。

数字を見ておく。東京商工リサーチによると、2025年に上場企業が公表した個人情報の漏えい・紛失事故は180件で、前年より4.7％減っている。件数だけなら増えていない。

ところが被害人数は約3,063万人と、前年から93.1％増えた。100万人以上の大型事故が6件あり、一件あたりの規模が桁違いになっている。原因の最多はウイルス感染・不正アクセスで116件（64.4％）。「ニュースが増えた」と感じる正体は、件数より「一件の大きさ」なのかもしれない。

ここで正直に書いておく。今年のタイムズカーやミスターマックス、シチズン時計などの報道を見ても、公式発表にAIが原因だという記載は僕が確認した範囲では見当たらない。原因は調査中、あるいは外部からの不正アクセスとされているものが中心だ。つまり「AIが普及したから漏れた」と証明された例は、現時点で日本にはない。

それでも僕は、無関係ではないと思っている。以下は、その理由の話だ。

悪意のない社員が情報を外へ出す

まず分かりやすいのが、攻撃する側の変化だ。

以前なら専門的な知識が必要だった脆弱性の調査、フィッシングメールの作成、攻撃手法の研究などをAIが補助できるようになった。

当然、攻撃する側の能力は上がる。

しかし僕がもっと気になっているのは、外から攻撃してくるハッカーではない。

会社の中にいる普通の社員だ。

例えば社員が30ページの社内資料を渡されたとする。

全部読むのは大変だから、

「AIに要約してもらおう」

と考える。

これは極めて自然な行動だと思う。

本人には情報を盗もうという意思など全くない。むしろ仕事を効率化しようとしているだけだ。

ところが、その30ページの中に顧客情報や社外秘の数字、契約内容、開発情報などが含まれていたらどうなるのか。

社員本人は、

「AIにちょっと聞いただけ」

と思っている。

しかし会社側から見れば、

「社内情報を外部サービスへ送信した」

ということになる。

USBメモリにコピーする。

個人メールへ転送する。

クラウドストレージへアップロードする。

こうした行為には「会社の情報を外へ持ち出している」という感覚がある。

ところがAIの場合、その感覚が非常に薄い。

ここが怖い。

この怖さは、僕の想像だけではない。IBMの2025年の調査では、「侵害の20％がシャドーAI（会社が把握していないAIの利用）に関係していて、そうでない侵害より平均で約67万ドル被害額が大きかった」とされる。AI関連の侵害に遭った組織の97％は、AIに対する適切なアクセス制御がなかったとされる。

AIリテラシーを全社員に徹底できるのか

だったら社員教育を徹底すればいい。

「機密情報をAIに入力してはいけません」

ルールとしては簡単だ。

しかし、本当にそれを一般の社員全員に徹底できるのだろうか。

AIに渡す前に30ページ全部を読んで、外部へ出してはいけない情報が含まれていないことを確認してください。

そう言われたら、結局全部読むことになる。

それではAIに要約してもらう意味がない。

AIは、

「人間が全部処理しなくてもいいから便利」

なのに、

セキュリティを徹底すると、

「AIへ渡して大丈夫か、人間が全部確認してください」

となる。

ここには大きな矛盾がある。

だったらAIを禁止するのか

僕はこれも無理だと思っている。

人間にとって、最初から存在しなかった便利なものより、一度使えるようになった便利なものを取り上げられる方がつらい。

AIを使えば3時間かかっていた仕事が30分で終わる。

それを経験した社員に、

「危険なので明日から全部自分でやってください」

と言って、本当に元へ戻れるのだろうか。

それならメールも同じだ。

メールには誤送信がある。

フィッシングもある。

添付ファイルから情報が漏れる可能性もある。

だったら、

「危険なので明日からメールは禁止です。FAXに戻します」

と言うのだろうか。

無理だよね（笑）。

だからAIも「使わせるか、禁止するか」という議論ではなく、

「AIを使うことを前提として、どう安全にするか」

を考えなければならない。

AIではなく、人間が持てる情報を制限する

そこで重要になるのが、AI側だけを制限するのではなく、社員がアクセスできる情報そのものを必要最小限にすることだと思う。

100人の会社で、ある顧客情報を必要とする社員が10人しかいないなら、残り90人には見せる必要がない。

10人のうち、生データが必要なのが2人だけなら、残り8人には匿名化した情報だけを渡す。

「社員全員が正しい判断をしてくれる」

という前提そのものをやめる。

必要な人に、必要な情報を、必要な期間だけ、必要な粒度で渡す。

この「必要な期間だけ」は、今回の報道でも突き刺さる。タイムズカーでは、すでに退会した元会員の情報まで保存されていたと報じられている。持っていなければ、盗まれようがない。

そしてシチズン時計のように、委託先を経由して情報が出る例もある。社員だけを守っても、取引先の先で穴が開く。

AI時代には、この考え方が今まで以上に重要になると思う。

だったらローカルAIを関所にすればいい

さらに考えると、会社の社員が直接外部AIへアクセスするのではなく、会社のローカルAIを必ず通す仕組みにすればいいのではないかと思う。

社員が、

「この資料をまとめて」

とAIへ渡す。

まずローカルAIが内容を確認する。

個人情報なのか。

顧客情報なのか。

社外秘なのか。

ソースコードなのか。

公開情報なのか。

安全な情報だけを外部AIへ渡し、危険なものはローカルだけで処理する。

必要なら会社名や氏名、メールアドレスなどをマスキングしてから外部AIへ送る。

つまり、

社員

↓

ローカルAI

↓

情報の安全性を判定

↓

必要なら外部AI

という関所を作る。

社員100人全員に完璧なAIリテラシーを求めるより、この方が現実的かもしれない。

ただし問題もある。

ローカルLLMは、クラウド上の巨大なAIと比べると計算資源に制約がある。

そして場合によっては遅い。

安全性と便利さのトレードオフが、ここでも出てくる。

では、そのローカルAIを信用できるのか

さらに考えていくと、もっと嫌な問題にぶつかる。

その関所になるAI自体を信用していいのか。

現在、高性能なオープンウェイトのローカルLLMには、中国発のモデルも大きな存在感を持っている。

もちろん、中国製だから情報を盗んでいる、という話ではない。

問題はそこではない。

アメリカ製でも日本製でも中国製でも同じだ。

「会社の最も重要な情報をチェックするAIを、本当に100％信用していいのか？」

という問題だ。

もし情報漏洩を防ぐために設置したAIそのものに問題があったらどうするのか。

社員全員の情報がそこへ集まる。

むしろ最高の攻撃対象を自分たちで作ることになる。

そう考えると、

「安全なAIを信用する」

では足りない。

AIそのものも信用しない。

外部へ通信できない。

勝手にデータを送信できない。

通信経路そのものを持たせない。

つまり、

「信用できるAIを探す」

のではなく、

「AIを信用しなくても安全な構造にする」

必要がある。

ここまで考えると「情報は漏れる」と考えた方がいい

しかし、それでも完全ではない。

OSに脆弱性があるかもしれない。

社員のPCがマルウェアに感染するかもしれない。

内部不正もある。

人間のミスもある。

AIも間違える。

そう考えていくと、僕はそもそもの発想を変えた方がいいのではないかと思うようになった。

「情報を絶対に漏らさない」

ではなく、

「情報はいつか漏れる」

と最初から考える。

そして、

「漏れても致命傷にならない仕組み」

を作る。

盗まれた情報の価値をなくす

例えばクレジットカード番号。

同じ番号を長期間使えるから、盗まれると価値がある。

だったら番号そのものをワンタイムにする。

利用先を限定する。

利用金額を限定する。

短時間で失効させる。

一定額以上なら別の認証を要求する。

つまり、

「番号を絶対に盗ませない」

だけではなく、

「盗んでも使えない」

方向へ持っていく。

パスワードが漏れても、それだけではログインできない。

口座番号が漏れても、それだけでは送金できない。

APIキーが漏れても、特定環境以外では使えない。

社員IDが漏れても、それだけでは社内システムへ入れない。

報道を見ていて痛感するのは、本人確認書類の画像のように、「一度漏れたら二度と『無効』にできない情報の重さだ」。パスワードは変えられる。カード番号も再発行できる。しかし顔写真つきの身分証明書は、取り消せない。だからこそ、最初から「持たない」「持っても短期間で消す」が効く。

重要なのは、

「秘密を絶対に守る」

だけではなく、

「秘密が秘密でなくなったとしても致命傷にならない」

という設計なのかもしれない。

特に「金を動かす権限」は別にする

情報漏洩で最も直接的な被害につながりやすいものの一つが金だ。

もちろん個人情報や医療情報、企業秘密など、お金だけでは測れない被害もある。

それでも犯罪者が盗んだ情報を金銭化しようとする以上、最後の「金を動かす」という部分は特に強固にする必要がある。

AIが請求書を読んでもいい。

振込先を抽出してもいい。

支払い予定を作ってもいい。

しかし最後の、

「実際に金を動かす」

ところだけは完全に別の権限にする。

AIがアクセスできない認証手段を要求する。

さらに単に本人確認するのではなく、

「誰が、誰に、いくら、何の目的で送金するのか」

という取引そのものを承認する。

情報を全部盗まれても、最後の取引承認が作れなければ金は動かない。

こういう方向へ進むしかないのではないかと思う。

ところが最後は、また人間に戻ってくる

しかし、どれだけ立派な仕組みを作っても最後に残る問題がある。

人間だ。

会社が莫大なお金をかけてセキュリティシステムを構築しても、

パスワードを付箋に書いてモニターに貼っている人がいる。

笑い話のようだけれど、本当にこういうことが起きる。

そしてAI時代には、

「この資料をAIに入れたらダメだと知らなかった」

「便利だったから個人アカウントで使った」

「会社のAIが遅かったから自分のAIを使った」

ということが起こる。

結局、最後は人に戻ってくる。

だったら、人間が間違えることを前提にすればいい

だから僕は、

「社員のセキュリティ意識をもっと高めましょう」

だけでは解決しないと思っている。

もちろん教育は必要だ。

しかし人間を教育して、100％間違えない存在にすることなどできない。

だったら最初から、

人間は間違える。

AIも間違える。

システムも破られる。

情報も漏れる。

そう考えて設計すればいい。

一つのミスだけで会社が終わらない。

一つのパスワードだけで侵入できない。

一つの端末だけで送金できない。

一人の社員だけで重大な権限変更ができない。

一つのAIだけで重要情報を外へ出せない。

何か一つ破られても、その次がある。

そして最後の致命的な行為だけは簡単には実行できないようにする。

AIが普及したことで、情報を盗む側も強くなった。

同時に、会社の中で普通に働いている人間が、悪意なく情報をAIへ渡すという新しい問題も生まれた。

だからといってAIを禁止して、以前の世界へ戻ることはできない。

メールが危険だからFAXへ戻らなかったのと同じだ。

これから必要なのは、

「AIを使わせない会社」

ではなく、

「AIを使うことを前提に安全性を設計した会社」

なのだと思う。

そして究極的には、情報漏洩を完全にゼロにすることだけを目指すのではなく、

情報が漏れても、致命的なことが起きない社会を作る。

セキュリティの考え方そのものを、そこまで変える時期に来ているのかもしれない。

結局、人間は間違える。

だから人間を完璧にするのではなく、

人間が間違えても、AIが間違えても、会社や人生が終わらない仕組みを作る。

AI時代のセキュリティで本当に必要なのは、もしかするとそこなのではないかと思っている。