OpenAIのロボティクスおよび消費者向けハードウェア開発リーダーあるケイトリン・カリノフスキー氏は、3月7日に退職したことを明らかにしました。
退職の理由は、OpenAIと米戦争省（DoW。米国防総省の現政権での呼称）との合意において「大規模な国内監視」および「自律型兵器システム」の運用に同社のAI技術が使用される可能性について懸念したからとのことです。
カリノフスキー氏は、OpenAIを去る決断においてSNS上で「AIは国家安全保障において重要な役割を担っている。司法の監督なしにアメリカ国民を監視したり、人間の許可なしに致死的な自律性を実現したりするという点については、これまで以上に慎重に検討されるべきだった」と述べました。
そしてさらに「誤解のないようはっきりさせておくと、私が問題視しているのは、ガードレールが明確に定められていないまま発表が急がれたことだ。これは何よりもまずガバナンスの問題であり、取引や発表を急ぐべきではないほど重要なことだ」と続けました。
上記2点はこれまで唯一、DoWの機密ネットワークシステムにAI技術を展開していたAnthropicが、かたくなに拒んだ条件でした。しかしその結果、DoWはAnthropicとの契約を打ち切り、さらに同社を、通常なら敵対国の組織や機関に適用される「サプライチェーンリスク」に指定するといった、報復とも執れる措置を発表しました。
交渉の決裂を受け、間髪入れずにDoWとの契約を発表したのがOpenAIでした。同社CEOのサム・アルトマン氏は、前日にはAnthropicが譲らなかった2つの事項に関して、志をAnthropicと共にすると取れる内容の話を、社内向けのメモで語ったと伝えられていました。ところが、AnthropicがDoWと物別れに終わった途端に、空いた席に滑り込んだわけです。しかも驚くべきことに、OpenAIは新しい契約で、Anthropicが拒否された2つの事項を盛り込んだと主張しました。
アルトマン氏はSNSへの投稿で「私たちの最も重要な安全原則は二つある。国内の大規模監視の禁止と、自律型兵器システムを含む武力行使における人間の責任だ」「DoWはこれらの原則に同意し、法律と政策に反映させ、私たちの協定にも盛り込んでいる」と述べ、さらに契約文言だけでなく技術的な安全策を講じることで、レッドライン（最後の一線）を守ると主張しました。
ただ、このOpenAIの行動はあきらかに性急に見え、特に消費者に対しては同社の評判を落とす格好になったようです。アルトマン氏も後にこのことを認め、DoWとの契約を修正し、同社のAIシステムを米国民に対する大規模監視に使用することを明確に禁止したことを報告しました。
しかし、消費者のイメージは簡単には戻らないようで、ChatGPTのモバイルアプリは先週、アンインストール数が突然、295％も増加したと報じられたほか、長くトップの座をキープしていたアップルApp StoreのランキングでもAnthropicのClaudeに抜かれてしまいました。記事執筆時点でもClaudeアプリは首位を維持しています。
ちなみにカリノフスキー氏は、退職の決断に至ったのは「人ではなく原則の問題」によるものだと述べ、アルトマン氏および自身のチームに対しては「深い敬意を抱いている。共に築いてきた者を誇りに思っている」と述べています。
