NVIDIAは、このところ報告が相次いでいる、AI企業の制御から逸脱したAIエージェントが他所のウェブサイトなどに侵入し粗相をおかしてしまう事案を防止するためのセキュリティレイヤーとなる「Open Agent Safety Platform」を発表しました。
Open Agent Safety Platformは、オープンソースソフトウェアであるNVIDIA OpenShellと、インフラやセキュリティ処理の分離、隔離、高速化を行う専用データ処理ユニットであるNVIDIA BlueField-4上で動作する「Sentry」と呼ばれる独立した監視システムで構成されます。
OpenShellは、AIエージェントの周囲にソフトウェア的な境界を設定し、SentryはAIエージェントが動作するCPUやGPUとは別のプロセッサで動作させることで、エージェントの活動を隔離された状態で継続的に監視できるとNVIDIAは説明しています。
NVIDIAのジェンセン・フアンCEOは、この新しいプラットフォームは本質的に「エージェント用のブラウザ」であり、エージェントがその業務を遂行するために必要なものへのアクセスのみを許可する封じ込めシステムを提供すると述べています。
さらに同社の広報担当者は、7月に発生したOpenAIのAIエージェントによるHugging Faceへの侵入事件は、Open Agent Safety Platformがあれば防げた可能性があると述べました。
NVIDIAは、Cisco、Microsoft、Oracle、CoreWeave、Dell、HPE、Lenovo、ARM、Intelなどがすでにパートナーとなっているとし、さらにAnthropicと協力し、クラウド管理型エージェントをOpenShellに統合する取り組みも進めているとしています。
フアンCEOは、「世界の人々が、AIが安全に構築・展開されていると認識し、信頼していなければ、AI産業の成功はあり得ない」と述べています。
