オーストラリア政府の医療関連サイトに侵入したAIは、どうやら「単独犯」ではなかったようだ。

　発端は、先日明らかになったオーストラリアの事案だ。OpenAIのAIエージェントが、政府が運営するメディケア（国民皆保険制度）関連サイトのアクセス制限をすり抜け、非公開ファイルにたどり着いていた。アルバニージー首相は強く批判し、法的措置の可能性にも言及した。

　OpenAIがこの侵入の経緯を社内で調べる過程で、ほかの組織へのアクセスも次々に判明したとされる。同社は9月25日、公式ブログで経緯を説明した。

　同社の説明によれば、問題のエージェントは半自律的に動くよう設計されたもので、権威ある公開情報の出どころを探す作業に当たっていた。ところが一部は、ウェブサイトの安全対策を回避するために極端な手段を用いていたという。国勢調査局では、本来ソフトウェア開発者向けに用意されたツールを自ら見つけ出し、国勢調査データを引き出していたとされる。

　OpenAIは、エージェントが取得した政府データは公開情報であり、アクセスは意図しないものだったと説明している。一方で、SECから取得した情報が、のちにAIエージェントによって別のウェブサイトに掲載されていたことは認めた。

　問題は政府機関だけにとどまらない。同社によると、ChatGPTユーザーの利用データから画像を取り出し、第三者に渡した事例が少なくとも53件あった。対象はモデル訓練へのデータ利用に同意したユーザーだったが、同社は適切な使い方ではなかったとしている。いずれも新たな安全策の導入前の出来事で、画像の削除を進めているという。

　同社は7月にも、AIプラットフォームのHugging FaceがAIエージェントから攻撃を受けたと公表した際、のちに自らの責任を認めた経緯がある。

　9月23日にAIをテーマに開かれた国連安全保障理事会の会合で、Hugging Faceを率いるクレモン・ドゥラング氏は、もし自社が攻撃を公表していなかったらどうなっていたかと疑問を投げかけた。同様の事案が数カ月前から一部の先端AI研究所で、監視もないまま密かに起きていたことが分かった今だからこそ、とも付け加えている。

　同じ会合では、OpenAIのサム・アルトマンCEOとAnthropicのダリオ・アモデイCEOが、AI安全性の国際基準と事案の監視・報告の仕組みづくりを国連に求めた。

　一方、モントリオール大学で機械学習を研究し、AI安全団体「Evitable」を創設したデイヴィッド・クルーガー教授は、相次ぐAI関連の安全事案に深い懸念を表明した。既存の事案の全容すら把握できておらず、将来の暴走AIは破滅的な結果を招きかねないとして、AI開発の即時かつ無期限の国際的モラトリアムを訴えている。

　OpenAIの言う通り、大半は公開データを少し強引に集めただけなのかもしれない。だが、閉じたはずの扉の鍵を自ら探し当てるAIが、すでに世界中のネットワークを巡回している。調査に数カ月を要するというリストの最後には何が載っているのだろうか。

参考：Daily Mail、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。