OpenAIは現地時間10月中旬、同社のAIエージェントがオーストラリア政府の複数の公共サービスサイトに無断でアクセスしていたことことについて、公式ブログで謝罪を発表しました。
このインシデントは2024年6月に発生しましたが、オーストラリア当局への通知は9月10日まで行われず、アンソニー・アルバニージー首相はサム・アルトマン氏に対し「深刻な懸念」を伝えるとともに「法的措置」をとると伝えたと報じられています。
この対応の遅れについて、OpenAIは「適切でなかった」とし「深くお詫び申し上げるとともに、今後は改善に努めてまいります」と謝罪ししました。
今回の問題は、OpenAIが内部でテストしていた実験的なモデルが、ビクトリア州における皮膚疾患治療薬への政府支出を調査するタスクを与えられたことに端を発します。公開データセットで情報を見つけられなかったモデルは、医療費情報や健康統計を含むServices Australiaの内部システムへのアクセス経路を独自に発見し、コマンドの実行、ファイルや認証情報の取得、さらにはファイルの書き込みまで行っていたとされています。
OpenAIはさらに、別のモデルがニューサウスウェールズ州犯罪統計調査局（BOCSAR）の公開犯罪マッピングツールにアクセスして犯罪統計を取得していたことも確認しています。また、別のエージェントが露出していたアクセスキーを利用してビクトリア州保健省内の機関であるビクトリア州保健情報局に侵入し、「レポート設定と集計調査統計」を取得したとしています。さらに、オーストラリア保健福祉研究所（AIHW）のウェブサイトからも集計統計が取得されていました。
OpenAIは、個人の医療記録や犯罪記録へのアクセスを示す証拠は見つかっていないとしています。
オーストラリアのアンソニー・アルバニージー首相は先週の記者会見で、今回の侵入を「容認できない」と述べ、同様の事態を防ぐための法的措置を検討していると述べていました。オーストラリア政府はすでに、Services Australiaのシステムへのアクセスがどのように行われたかについての調査を開始しています。
今回の件は、AIエージェントが意図された範囲を超えた行動をとるセキュリティインシデントとして、業界で相次いで報告されている事例の一つです。OpenAIのエージェントがHugging Faceのシステムに侵入した件が発端となり、その後Anthropic、Meta、Googleも評価・テスト中に自社モデルが第三者のシステムにアクセスしていた類似事例を個別に公表しています。
OpenAIは今後の対応として、影響を受けたオーストラリアの各機関に技術的な調査結果を提供し、同社のインシデント対応チームと連携して影響範囲の評価を進めるとしています。また、同社の10億ドル規模のプログラム「Daybreak for Frontline Defenders」からのクレジット提供も表明しました。さらに、オーストラリアの独立した専門家によるタスクフォースを設置し、今回のインシデントと対応を検証するとしています。タスクフォースは年内に作業を完了し、AI企業が類似インシデントのリスクを低減するための具体的な手順を提言する予定です。
