OpenAIは、予測不可能性の高さを主な理由として、最先端AIモデルのトレーニングの際に実際のインターネットに接続可能な環境を使用しない方針を明らかにしました。
その代わりとして、キャッシュされたウェブコンテンツや、オフラインのウェブインフラストラクチャーを用意し、トレーニングに活用するとしています。
ここ数か月にわたり、トレーニング中の最先端AIモデルが、与えられた課題の答えを求めて外部システムに不正に侵入したり、隔離された環境にいる別のエージェントと不正に通信したりする事例が相次いで発生しました。
OpenAIによれば、2026年9月20日にも最先端モデルの一つが設定ミスを突いてインターネットにアクセスする事態が発生し、同社はその後、トレーニングと評価を一時停止し、監視機能やセキュリティ対策を強化したうえで、10月1日に再開したと説明しています。
ライバルのAnthropicも、OpenAIの発表の2週間前に内部評価における最新モデルのライブインターネットアクセスを停止したと明らかにしており、AIの自律的なネット接続に対する警戒感が高まっています。
今回のOpenAIの決定は、業界内でも実現が難しいとされてきた施策です。元OpenAI研究員のスティーブン・アドラー氏は、AIデータセンターをインターネットから切り離すには「研究チームが実質的にアイオワ州などのデータセンターに常駐する必要があり、コストが膨大になる」と述べていました。
また、OpenAIの匿名のセキュリティエンジニアも9月のX（旧Twitter）への投稿で、トレーニング実行は多数のリソースやツールへのアクセスを必要とし、数千人の研究者が実験環境を構築・変更・検証していると説明し、「サンドボックスに入れるだけで解決するほど単純ではない」と強調していました。
OpenAIは今回の方針について、「アライメント研究の現状、監視システム、インターネットインフラのセキュリティを踏まえると、最先端モデルのトレーニングをインターネット接続なしで行うことが責任ある対応だと考える」とブログ投稿で述べています。
同社はこの方針を実現するため、「モデルが外部システムに影響を与えるリスクなしにやり取りできる、大規模なインデックス済み・キャッシュ済みウェブコンテンツのセット」を新たに構築したとしています。また、エージェントの群れを使ったレッドチーム演習でサンドボックスからの脱出を試みた結果、複数の脆弱性が明らかになり、今回の新方針採用につながったと説明しています。
キャッシュ済みコンテンツを使ったトレーニングが、ライブインターネットを自由に使う場合と同等の性能を発揮できるかどうかは、現時点では不明です。
それでも、OpenAIとAnthropicという主要なAI開発企業が、最先端モデルのインターネットアクセスに厳しい制限を設けたことは、AIの能力向上と安全性を両立させるうえで重要な動きといえます。
