OpenAIが提供する人気のAIチャットボット「ChatGPT」に関して、ユーザーが「非公開」と思っていた会話がGoogleの検索結果に表示されていたことが判明し、プライバシー保護の観点から大きな波紋を呼んでいます。
数千件の会話がインデックス化されていた
この問題は、複数のセキュリティ研究者が、Google検索を通じてChatGPT上の会話内容にアクセスできることを発見したことで明るみに出ました。表示されていたのは、技術的な解説や文章のサンプルだけでなく、個人的な悩みや業務上のやり取り、センシティブな情報まで含まれていたのです。
原因は「Share chat」機能の仕様に
問題の根本には、OpenAIが導入していた「Share chat（チャット共有）」機能の仕様があります。この機能では、ユーザーが「Make this chat discoverable（このチャットを公開する）」というオプションをオンにすることで、チャット内容が検索エンジンにクロール・インデックス化される形となっていました。
しかしながら、この仕様はユーザーにとって直感的とは言いがたく、**「友人や同僚にURLを共有するだけ」**のつもりで使用した結果、全世界に公開されてしまうケースが多発していたと考えられます。
OpenAIは機能停止と修正対応を実施
事態を重く見たOpenAIは、該当機能を一時停止し、Googleと協力して検索結果からの削除を進めていると発表しました。Fast Companyの報道によれば、公開状態にあったリンクは4,500件以上にのぼるとされており、その影響は小さくありません。
プライバシーに対する意識と課題
ChatGPTは、多くのユーザーにとって、メールの下書き、症状の相談、ビジネス戦略の構築、あるいは個人的な思索の場として利用されており、その内容が第三者に公開されることは極めてセンシティブです。
OpenAIのCEOであるサム・アルトマン氏も、過去のインタビューにおいて「ChatGPTとの会話内容は、従来の法的なプライバシー保護の対象ではない」と発言しており、法制度の整備も急務とされています。
「再現攻撃」のリスクとAIの記憶性
また、セキュリティ研究者たちは、AIモデルにおける「reconstruction attack（再構成攻撃）」のリスクにも警鐘を鳴らしています。これは、過去の会話情報を巧妙なプロンプトで引き出す手法で、AIが完全に「白紙状態」であるとは限らないことを示唆しています。
利便性の裏に潜むリスク
AI技術、とりわけChatGPTのような大規模言語モデルは、私たちの情報収集・創作・対話のあり方を大きく変えました。しかし同時に、個人情報やセンシティブな会話内容の取り扱いについての注意喚起も必要です。
今回の一件は、「便利さ」と「プライバシー」の間にある微妙なバランスに光を当てると同時に、ユーザー一人ひとりが情報の公開範囲を正しく理解し、慎重に操作する必要性を改めて示したと言えるでしょう。
