はじめに──AIが持ってきた“リンク”

ある日、私は会社で使っているとあるAIに、とあるベンダが提供するツールの使い方を相談していた。
有名どころのOSSやコミュニティ形成が盛んな商用ツールほど情報が出回っているわけではないが、まぁ多少はネット上にも情報が載っている程度のツールであった。
すると、AIはドンピシャな解決策を提示し、さらに「参考文献」としてリンクを差し出してきた。

リンクをクリックするとページは普通に開いた。
そこには確かに解決したかった情報が書かれていたが、タイトルにはこうあった。

「社外秘 非公開」。

あれ？どこの社内資料だろ？・・・よくよく見ると、それは自社のものでも、ツールベンダの公式でもなく、どうやら同じツールを使う他社の社内マニュアルらしい。

ラッキー♪

・・・ではない。むしろ背筋が冷えた瞬間だった。

そのページはAIを無視してそれらしいキーワードで検索すれば確かに出てくるが、数十ページ目。普通に探していたら辿り着けないような結果の表示順位にあった。

第一部：AIがもたらす“民主化”

ロボット型の検索エンジンは膨大な砂山から人間が砂金を探す行為だった。もちろん望む回答を記載されたページを上位に表示する努力は各社により続けられてはいる。
だが限界があり、大手サイトが上位を占め下位サイトに重要な事が書かれていても見つけるのが困難な場合も多い。
一方でAIはマッチすれば「砂金そのもの」をたとえ下位のサイトからであろうと、瞬時に手渡してくる。

  • 人間では数十分かけても見つからない、あるいは諦めていたようなマイナーな情報であっても問いかけにマッチすれば、一瞬で提示する。
  • 専門知識やノウハウにアクセスできなかった人が、今では誰でも答えに触れられる。

これは紛れもなく情報アクセスの民主化である。
インターネットがそうであった様にAIにより、知識はさらにエリートや専門家独占物から離れ、広く開かれたものになっている。

教育や研究でもこの効果は顕著だ。これまで専門書や学会誌を追わなければ得られなかった知識を、学生や社会人が手元で即座に引き出せる。スタートアップが巨額のコンサル契約なしで戦略を立て、個人が一晩でアプリを作り上げることすら可能になってきた。

発信という意味でも同義で有ろう。インターネットが誰でも世界中に主張や情報を発信できる機会を与えたが、結局のところ知名度の低い者が急に何かを発信しても、広く発見される可能性は低いままだった。

ところがどうだ。AIは圧倒的に検索ランクが低く、おそらく従来の検索エンジンでは見つけられなかったであろう情報、それもおそらく誤って公開されておりSEO対策もされていないようなマイナーなページの情報をですら瞬時に提示したのである。私の質問にピッタリの回答だったから。
これは求める者がいる情報の発信とアクセスがインターネットの比ではないレベルで民主化された言ってよいだろう。

第二部：民主化の裏にある“暴露化”

だが、この民主化は同時に暴露化でもある事を、この体験で図らずも気づかされた。

この会社の情報は設定ミスで公開されていたものである。
もちろん従来の検索エンジンでも到達され、第三者に見られる可能性はあった。アクセス権フルオープンでサーチエンジンにインデックスまでされていたのだから。
だがAIがなければよほどのことがなければ、誰にも気づかれずに終わっただろう。検索結果の20ページ目まで一つ一つのサイトを見る人間はそうそう居ない。
本来なら「危なかったけど誰の目にも触れなかったからセーフ！」だったはずの情報が、AIの力によって、求める者に瞬時に届く。
本件についていえばツールの使い方（それも極秘というほどのものではない）であり、悪意によって求められた情報でもなかったため、実害はなかったが・・・。
これが悪意の求めに応じて、ついうっかり公開状態になっていた、センシティブな情報だったらどうだろう。
探すのが難しかったり照合するのが困難である、そんな事実上の秘匿がもはや成立しなくなった事を思い知らされた瞬間である。

「埋もれているからぎりぎりセーフ」はもはやAI時代には成立しない。
インデックスされた時点で求める者には速やかに知られる。

もちろんChatGPT等の王手のAIであれば悪意の求めには応じない、といったポリシーなりフィルターが実装されているしこれからも強化されるだろう。
だがこれが個人によって構築された、ポリシー無しのAIであればどうか。

かつてWinnyの暴露ウィルスが世間を騒がせた時期があった。自衛隊の内部情報から会社の顧客リスト、個人のプライベートな写真や動画まで流出し大きな社会問題となり、当時は社員に個人的にもWinnyを使わない旨の誓約書を要求する企業等まで出ていた。
※Winny自体はピアツーピアのファイル共有ツールでしかないため、本質的にはおかしな話だったが当時は世情的にも半ば公然とそのような要求が行われていたケースがあった。

だがこの生成AIによる適切な回答はまかり間違えばその比ではない。もはや一度漏洩可能な状態に置かれた情報は、その当時の比ではないレベルの速やかさで悪意の手に落ちるという事なのである。そこにはウィルスさえ必要ない。1度のミスで十分なのだ。

AIは問われればためらいなく“答え”を差し出す。そこに倫理も責任感も存在しない。
※ポリシー付きのAIは”ためらう”が、ポリシーのないAIを個人が構築する事はもはや可能である。（すでにHugging Faceなどで検閲なしモデルが公開されてもいる。）

AI時代には“埋もれているからセーフ”は存在しない。

しかも、暴露は一度きりではない。AIに学習され、要約され、別のユーザーに再利用されることで、情報は「拡散と定着」を同時に遂げる。漏洩したことに誰も気付かないうちに、情報はAI経由で半永久的に流通する可能性がある。

第三部：スピードの非対称性

ここでさらに問題になるのはスピードの非対称性だ。

  • AIが情報を拾い、最適化して提示するスピードは圧倒的に速い、特に欲すものに適切に届ける力は検索の比ではない。
  • 人間社会が整備する法律、規制、倫理の仕組み、あるいは対策や個人の意識改革はどんなに早くとも年単位でしか変わらない。

この非対称がこの恐怖をより強くしている。

過去の情報拡散は、新聞、テレビ、検索エンジンと段階を踏んできた。いずれもある程度の摩擦や遅延があり、その間に社会はルールを整える猶予を持てた。しかしAIは摩擦をゼロに近づけ、瞬間的に“最適解”を世界中に配布する。

その結果、正しい知識も誤った噂も、不都合な情報も、学習された瞬間から求める者に対し適切に、同じスピードで拡散する。専門家の論文と匿名掲示板の誤情報やミスによる悲劇の漏洩情報が、AIの口から同じ重みで語られる未来がもう始まっているのだ。

第四部：責任の所在はどこに？

今回のケース、私はリンクを開いてしまった。だが不正アクセスではない。検索にも出るし、認証突破をしたわけでもない。
問題は、「見てもいいのか？」という判断が人間に丸投げされた点、あるいは見せてよいのか？という判断が行われるタイミングがなかった点にある。

AIは答えを差し出すが、答えを出すべきかどうかは考えない。
以前の記事で触れたようにAIには矜持も信念も責任感もない。
だからこそ人間が責任を補完するしかない。

私は念のため、その会社のページのURLトップへ行き窓口のメールアドレスに連絡を入れておいた。
自画自賛するわけではないがAIの無責任さを、人間の責任感と良心と畏れで埋め合わせたのだ。

賢明な読者はお分かりだろうが、当然誰もが同じ行動を取るとは限らない。情報を拡散させてしまう人も出るだろうし、意図せず内部情報をAIに学習させる人も現れる。
私の知る限り現時点ではまだこの件はWinnyの暴露ウィルスの様なレベルで社会問題として騒がれてはいないが、いずれ課題として現れてくる様に思われる。

結論──AI時代の“責任デザイン”へ

AIは情報を入手面においても発信面においてもインターネット普及時の比ではない強力さで民主化する。だがその裏では、意図せぬ暴露が起き、悪意の者に「適切かつ迅速に」届けられてしまうことも可能となる。
怖さの本質はこれまではありえた「設定ミスって公開してたけど見つけられなかったからセーフ」が成立しなくなり「設定ミスってインデックスされた瞬間、悪意のもとに適切かつ迅速に届けられる」ということである。

あるいは設定ミスですらなく、あるときは公開しても差し支えないと思って公開した情報をすべて紐づければ意図しないその人の姿を浮き上がらせる事さえ容易である。
実はこのブログの記事を一通りChatGPTに読み込ませて実験してみたのだが、かなり精度高く、体感的には60％程度の精度で私のプロファイルを分析して見せた。
もちろん勤務先や「正確な」年齢（およその年齢は当てられた）は当てられなかったし間違えも多かったが、当たらずといえども遠からずの分析で有った。
※スタイトロメトりの研究では、わずか数十行のテキストから著者を特定できるという研究もおこなわれている。

分析対象によっては完全に当てることもあるだろう。一見無害な情報群でもすべてを紐づけたとき思わぬ現実を詳らかにすることが可能となるのだ。
※OSINT（Open Source Intelligence＝公開情報を元にした情報収集・分析）がより強力かつ容易に、誰でも、誰に対しても例えばストーカーがターゲットに対してでも、実行できるという事である。

これからの課題は単純なセキュリティ強化ではない。
AI時代にふさわしい責任とセキュリティのデザイン──情報が民主化される速度に追いつく形で、人間社会のルールや対策を模索していく必要がある。

AIの力で知識はかつてないほど身近になった。しかし同時に、「見つからないから大丈夫」という安全神話は崩れ去った。
正直答えは今日のところは思いつかないが、AIが情報の境界を溶かしてしまった今、私たちには新しい情報管理の認識が求められている事は間違いないだろう。

今後は誰もが、民主化と暴露化のコインの両面を意識しながら生きるしかないのだ。