フロリダ州のェームズ・ウスマイヤー司法長官は、独立した安全監視体制が整うまでOpenAIによる新モデルの開発禁止すること、および未成年者をChatGPTから遮断するための差止命令を州裁判所に申請しました。
同州は2025年のフロリダ州立大学での銃乱射事件を受けてOpenAIへの刑事捜査を開始しており、今回の申請はその延長線上にあります。
この問題の発端は、2025年に発生したフロリダ州立大学での銃乱射事件です。事件の容疑者が犯行前にChatGPTを使用していたとされたことから、フロリダ州はOpenAIへの刑事捜査を開始。今年6月には正式に提訴していました。今回の差し止め申請は、その訴訟の中で提出された新たな動きです。
つまり、「AIが犯罪に加担したのではないか」という問題意識が州レベルの法的行動にまで発展したわけです。州司法長官はOpenAIのCEOサム・アルトマン氏が自らAI開発のペースを落とすべきと発言していた点を逆手に取り、「本人がそう言うなら、裁判所の命令に異論はないはずだ」と主張しています。AIの安全性をめぐる議論が、法廷という具体的な場に持ち込まれた形です。
ウスマイヤー氏がX上で公開した動画では、以下の5点を裁判所に求めると表明しています。
・独立した安全ガードレールなしの新モデル開発の禁止
・未成年者のデータ収集の禁止
・製品を「安全・正確・信頼できる」と称することの禁止
・AIが人間であるかのように振る舞うことの禁止
・ユーザーを危険な状態を超えて会話に引き込む仕掛けの禁止
申請の法的根拠として、ウスマイヤー氏の事務所はOpenAIが公表した最近のセキュリティ開示（Hugging Faceへのハッキング後の開示を含む）や、アルトマン氏自身がフロンティアモデル開発のペースを落とすよう業界に呼びかけた発言を挙げています。申請書の中では「被告自身が公の場でこの申請を支持する発言をしている。差し止め命令が求められるケースとして異例だ」と述べています。
一方、OpenAIは、フロリダ州が刑事捜査を開始した際にテクノロジーニュースサイトEngadgetへのコメントとして、「昨年のフロリダ州立大学での銃乱射事件は悲劇だが、ChatGPTはこの犯罪に責任を負うものではない。ChatGPTは毎日数億人が正当な目的で使用する汎用ツールであり、有害な意図の検知や悪用の防止、安全リスクへの適切な対応に向けて継続的に取り組んでいる」と語っています。ただ、記事執筆時点では、今回の州司法長官による差し止め申請に対しては、コメントしていません。
OpenAIが銃乱射事件と結びつけられるのは今回が初めてではありません。今年2月には、ウォール・ストリート・ジャーナルの報道を受けて、カナダの規制当局がOpenAIに対し、危害の脅威への対応方針の見直しを求めました。同報道によれば、OpenAIはタンブラー・リッジ銃撃事件の容疑者とされるジェシー・ヴァン・ルーツェラールのアカウントを把握していたにもかかわらず、当局に通報しなかったとされています。この件を受け、OpenAIはカナダの法執行機関との連携方針について新たな取り決めに合意しています。
今回の差し止め申請はフロリダ州の裁判所に提出されており、今後は裁判所がこれを認めるかどうかが焦点となります。申請が認められた場合、OpenAIは独立した監視体制が整うまで新モデルの開発を停止しなければならなくなる可能性があります。
￥98,000
(価格・在庫状況は記事公開時点のものです)
