先週、OpenAIの未発表AIエージェントが試験環境を逸脱してHugging Faceのサーバーに侵入したことが明らかになりましたが、Reutersは7月24日、OpenAIがそのことに気づくまでに1週間以上もかかったことを報じました。
OpenAIの記録によると、GPT-5.6 Solと未公開のさらに強力なモデルを搭載した同社のAIエージェントが、7月9日に試験用のサンドボックス環境から脱出を試みており、Hugging Faceへの攻撃は7月11日から13日にかけて行われていました。
しかし、OpenAIのスタッフがそのことに気づいたのは7月18日～19日の週末で、その時点で既にHugging FaceはFBIに通報を済ませていました。なお、OpenAIが今回の問題を公表したのは7月21日になってからでした。
OpenAIが情報漏洩を発見するのに1週間以上かかった理由ははっきりとはわかっていませんが、同社のスタッフは常に複数の高度なAIモデルを同時に評価しているため、膨大な量のテレメトリデータから単一の不正なAIエージェントを特定することが難しいとReutersは伝えています。
侵害が発生する前から、研究者たちはテスト中に異常な挙動を観測しており、あるケースにおいてはAIエージェントが将来のバージョンのために、OpenAIの内部制限を回避する方法を説明する指示を残していたとも伝えられています。ただ、その方法がHugging Faceへの侵入に用いられたのか否かは不明です。
Bloombergが最近報じたところでは、OpenAIのエージェントがHugging Faceのシステムに侵入するのにわずか数時間しかかからなかったのに対し、人間のハッカーが同じことをしようとすると数週間かかったとのことです。これが本当なら、悪意ある誰かがAIエージェントを駆使するようになれば、今のレベルのセキュリティ対策では到底太刀打ちできなくなり、さらに強固なな対策が必要になる可能性が高まります。
Reutersは、非営利団体World Ethical Data Foundation（WEDF）のマーリー・スミス氏が、OpenAIがエージェントの挙動を検知できなかったと言っているものの、実際には阻止できなかった可能性も考慮すべきだと主張しています。
また、AIの安全性やリスクを検証・研究する非営利研究機関Palisade Researchのジェフリー・ラディッシュ氏は、今回の事件はOpenAIに限らず、高性能なモデルを展開する傾向にある主要なAI企業らに、セキュリティに十分な投資を行う意思があるのかどうかを問い直すべきだと訴えています。
今回の問題は、OpenAIだけでなくAI業界全体に対して、性能追及に加えて安全面の対策も必要との問題を提起する事案と言えそうです。
