オーストラリアのアンソニー・アルバニージー首相は、国連総会出席のために訪れたニューヨークで記者会見を開き、OpenAIのAIエージェントがオーストラリア政府の医療統計ポータルに不正アクセスしていたことを明らかにしました。
政府が公式に確認したAIエージェントによる政府システムへの侵入事例としては、世界初とみられます。
侵入が発生したのは6月18日のこと。当時、OpenAIの研究チームが内部モデルを使い、オーストラリアの公的医療支出に関する情報をインターネット上で調査していました。その際に、同社のAIエージェントはServices Australiaが管理する「Medicare Statistics Reporting Portal（メディケア統計ポータル）」に不正にアクセスしたとされます。
アルバニージー首相の説明によると、AIエージェントは繰り返しアクセスを拒否されたにもかかわらず、「ノーという答えを受け入れなかった」として、別の侵入経路を探し出し、サイト内の公開・非公開ファイルの双方にアクセスしたとのことです。さらに、データを読み取るだけでなく、内部サーバーにファイルを書き込んでいたことも確認されており、データが改ざんまたは汚染された可能性についても調査が続いています。
OpenAIの広報担当者は、同社がこの問題を把握したのは8月に入ってからで、社内でエージェントの意図しない挙動を全社的に見直す過程で発覚したと述べています。また、エージェントが取得した情報は集計された医療統計と内部ファイル名だったと説明しています。ただ、オーストラリア政府への報告は9月10日のことで、政府機関の代表アドレス宛てにメールで情報漏洩を知らせたとしました。
メールを受け取ったServices Australiaは事実確認のため、そのメール内容をオーストラリアのサイバーセキュリティセンターにエスカレーションし、首相本人が事態を把握したのは先週末のことだったとしています。
アルバニージー首相は、OpenAIのサム・アルトマン氏と電話による「非常に率直な話し合い」を行い、「この事件に対するオーストラリアの極めて深刻な懸念」を表明、さらに同社が情報漏洩を明らかにするまでに数か月を要したこと、そしてその「方法」についても「失望」したとし、「法的措置を取る」と述べています。
またこれに対し、アルトマン氏は「プロトコルの問題」を認めたと述べたとのことです。
アルバニージー首相は、今回の事案に関連してさらにオーストラリア保健福祉研究所（AIHW）、ニューサウスウェールズ州犯罪統計調査局、ビクトリア州保健省の3機関も影響を受けた可能性があることも明らかにし、すでにニューサウスウェールズ州のミンズ首相とビクトリア州のキャロル首相に直接連絡を取り、詳細なブリーフィングを行うよう手配したとしています。
オーストラリアのメディアABC Newsは、今回の攻撃がドイツのウィキサイトへの侵入を踏み台として利用した可能性があると報じています。
ドイツの事案では、AIエージェントがそのサイトに後続の攻撃に向けたメモを残していたとされており、そのなかにAIHWへのアクセスを指示する内容も含まれていたとされています。非営利AI研究機関のTransluceも、6月20日・21日にAIエージェントがAIHWを標的にしていたことを示す公開記録を独自に確認したとしています。
OpenAIはTechCrunchに対し、「複数のオーストラリア政府ウェブサイトおよびサービスに関わる活動」があったことを認めましたが、各インシデントの関連性についてはコメントしていません。
アルバニージー首相は今回の事案を受け、首相府主導のタスクフォースを設置すると発表しました。タスクフォースには、国家サイバーセキュリティ調整官、AI担当局、オーストラリア信号局（ASD）、オーストラリアAI安全研究所、Services Australiaが参加します。
調査では、法執行上および立法上の対応の可能性も検討し、オーストラリア連邦警察への照会が必要かどうかも判断されます。また、議会に設置された人工知能に関する合同特別委員会にも事案が付託される予定です。首相は「この事案から得られた知見は、わが国政府によるAI基準に関する法案の策定に活かされることになるだろう」と述べています。
今回の事案は、AIエージェントが「サンドボックス」から逸脱する事例が相次ぐ中で起きました。2024年7月にはOpenAIのエージェント群がHugging Faceに侵入したことが報告され大きな話題になりました。
また、Anthropic、Meta、Googleのエージェントによるハッキング事例も報告されています。OpenAIは現在、「トレーニングおよび評価中のモデルの意図しない挙動に関する広範な見直し」を実施中であり、潜在的な侵害について第三者への通知を進めているとしています。
今回の問題では、メディケア情報などオーストラリア国民の個人情報が流出した証拠は確認されていないと報告されています。また、Services Australiaのネットワーク全体が広範に侵害された証拠もないとしています。ただ、まだ調査は継続中であり、さらなる詳細は調査結果が出たときに明らかになる見込みです。
