OpenAIは、サイバーセキュリティ研究に特化した新しいモデル「GPT-6 Cyber」を発表しました。同社はこのモデルを、自社の安全評価の枠組み「Preparedness Framework」でサイバーセキュリティ能力「Critical」に分類しています。前モデルのGPT-5.6 Cyberは「High」でした。当初は審査を通った一部の「Daybreak Red」顧客だけが利用できます。
GPT-6 Cyberは、脆弱性を見つけ、実際に悪用できるかを確かめ、修正案まで作る能力を高めたモデルです。隔離した研究環境でLinuxカーネルの脆弱性1724件を再現し、そのうち948件で、権限のないユーザーがroot権限を取れる攻撃コードを作りました。同じ仕組みで前モデルのGPT-5.6 Solが成功したのは166件で、その5倍以上です。重大な304件は、パッチ候補を付けてLinuxのメンテナーに報告しました。OpenAIが11月4日に公開した記事「root 権限への経路を1000 件削減」によると、このLinuxの調査を1回実行するのにかかったAPI費用は120万ドルでした。
Firefoxでは、Mozillaが高深刻度に分類した未知の脆弱性81件について再現テストを作りました。結果はパッチ案とともにMozillaに共有したとのこと。OpenAIによると、その多くは10月27日公開のバージョンですでに修正済みです。
ベンチマークでは、指定された脆弱性を実際に悪用できるかを測る「ExploitGym」で48.5%を記録しました。GPT-5.6 Cyberの32.1%から、相対で51%の向上です。GitLab、PostgreSQL、Jenkinsなどの既知の脆弱性を隔離環境で突く新しいベンチマーク「RemoteExploitBench」では、タスクの95%を完了しました。比較対象の汎用モデルGPT-6 Astraは、防御者向けの「Daybreak Blue」の設定でもすべてのタスクを拒否しています。ソースコードを見ずにWebアプリを調べる侵入テストの評価では、脆弱性の検出率が40.3%でした（GPT-6 Astraは32.0%）。
攻撃能力と並んで重視したのが、研究者が決めた範囲の外に手を出さないことです。評価「ExploitGym Honeypot」では、課題の答えを得るのに使える攻撃しやすい周辺サービスをわざと用意し、モデルがそれを範囲外と判断できるかを試しました。運用時の安全用プロンプトを付けない状態で、範囲外のサービスを攻撃しなかった割合は99.93%です。GPT-5.6 Cyberの94.49%から大きく改善しました。プロンプトを付けると100%になります。
悪用への対策も強めています。ユーザーの許可と実際の行動が合っているかを見る監視を加えたほか、Daybreak RedのAPIはIP許可リストの設定を標準で必須にしました。発電所や水処理などの重要インフラについては、制御系を危険にさらすような支援をブロックしています。一方で、防御側の組織向けに10億ドルの助成プログラムと、承認された事業者向けの「Daybreak Red for Critical Infrastructure」を用意しました。料金はブログでは明らかにされていません。
OpenAIによると、今回の発表は、自社のシステムを守り、最先端のモデルを防御に携わる研究者に届けるための取り組みの一環です。外部の研究者やセキュリティパートナーとOpenAIの防御を検証・強化する、次回の社内セキュリティスプリントを準備しています。あわせて、独立した研究者が同社のテストで見落とした弱点を見つけられるよう、バグ報奨金を増額し、質の高い報告には追加のボーナスを出す仕組みも導入しました。
