トランプ政権時、大統領の個人弁護士兼フィクサーとして活動したマイケル・コーエン氏が、12月はじめに裁判所に提出した公式書類に存在しない判例を記していたことを裁判所から追求され、それがAIで生成したものであることを認めました。
コーエン氏は2018年末にトランプ政権における選挙資金法違反や脱税などで3年の実刑判決を受け、約13か月半の服役と1年半の自宅監禁を経て、その後3年間の監視付き釈放となっています。
今回問題になったのは、この監視付き釈放の早期終了を求める申し立てのため、コーエン氏の弁護士デビッド・シュワルツ氏が提出した書類でした。
米連邦地裁判事のジェシー・ファーマン氏は、この書類に記載されている3つの裁判所の判例が裁判所の記録に見当たらないとシュワルツ氏に指摘し、どこからの引用かを示すよう指示。さらにこの申し立て書類の草案を記すにあたり、コーエン氏が関わっているのであればどのような役割を果たしたかをたずねました。
これに対し、コーエン氏は返答の陳述書のなかで、自身がすでに弁護士資格を剥奪され、正式な法律調査用情報源へのアクセスができなくなったため、オンラインで公開されている情報を主に利用しているとし、問題の判例はGoogle Bardを使って探し、記載したことを認めました。また、コーエン氏はGoogle Bardを「強力な検索エンジン」だと認識しており、正確な情報を手際よく見つけることを目的として使用していたとしています。そして「もはや弁護士ではない私は、法律に関するテクノロジーの新たなトレンドや関連するリスクに疎くなっており、Google Bardが ChatGPTと同様、あたかも本物のように見える引用や説明を生成するようなサービスだとは知らなかった」と釈明しました。
また、コーエン氏は引用した3件の判例をチェックしないまま提出したシュワルツ弁護士について「彼の申請が引き起こした可能性のある問題を深く遺憾に思う」としつつ「不注意からのものであり(判事を)騙す意図はなかった」として、酌量を求めました。
なお、シュワルツ氏は問題の引用についてはコーエン氏の代理人であるE・ダーニャ・ペリー弁護士が確認したものと認識していたと述べ、すでに他の弁護士が調べたと思われるものを再びチェックしたことはないとしています。一方、流れ弾が飛んできた格好のペリー氏は、自分はこの申し立ての書類のやりとりにまったく関与しておらず、提出された書類を見て初めて引用判例が存在しないものであることを知ったとしています。
ちなみにファーマン判事は、今回の件における制裁の可能性について議論する中で、今年初めにマンハッタン連邦裁判所で発覚した、別の裁判における存在しない事件の引用事例に言及しています。この事例では、AIチャットボットのChatGPTによってでっち上げられた偽の事件を引用したとして、弁護士2人に5000ドルの罰金が科せられました。
