デジタル権利、児童の安全保護、女性の権利などに関する合計28の擁護団体が、AI生成による大規模な性的虐待に関し、アップルとGoogleにGrok AIとXを各アプリストアから削除するよう要請する公開書簡を送付しました。
この擁護団体連合は、イーロン・マスク氏が所有するX上のGrok、またはその単独アプリが、アップルおよびGoogle両社の利用規約に違反する違法なコンテンツを生成しているのにもかかわらず、両者が然るべき対処を怠っていると非難しています。Grokは最近、女性や子供を含む実在の人物を、本人の合意なく性的で品位を損ね、あるいは暴力的な画像を生成し始めたことが問題視されています。
同意ない実在人物のディープフェイクは、今月初めからGrokで生成可能になっていることが発見され、問題発覚から24時間のあいだに、「性的暗示的または裸体化」された画像が「1時間あたり約6700枚」も生成・投稿されたとも報じられており、Grokが生成した全画像の推定85％が性的な内容だったとのことです。さらに、同様の「脱衣」ディープフェイクを生成する主要サイト群も、同時期に1時間あたり平均79枚の新規画像を投稿していたと報じられています。
公開書簡には「これら統計情報はAIチャットボットとソーシャルメディアアプリが、同意なしの（特に未成年者を頻繁に描写する）性的ディープフェイクのツールおよびプラットフォームへと急速に変貌しつつあるという、恐ろしい実態を浮き彫りにしている」と記されています。
Xはさしあたっての対応として、GrokのAI画像生成機能を有料サブスク会員に限定し、生成された画像がXの公開タイムラインに流れないようにチャットボットの動作を調整しています。しかしその後も、無料ユーザーが依然として実在人物の写真から際どいビキニ姿の画像を限定数ながら生成できているとも報じられています。
マレーシアとインドネシアでは今週月曜日に、露骨なコンテンツを生成しているとして即座にGrokを使用禁止とする措置をとりました。また英国の規制当局であるOfcomもこの問題を調査し始め、xAIなどに問題について説明するよう要求しています。米国では、カリフォルニア州が水曜日に調査を開始しており、米国議会上院は水曜日に、同意なしに作成された露骨なディープフェイクの被害者が民事訴訟を起こすことを認めるディープフェイク性搾取物関連法案を可決しました。
今回の公開書簡に関してXはコメントを拒否、Grokを開発するxAIは「レガシーメディアによる嘘だ」とだけ返答しました。一方、XおよびGrokアプリをアプリストアで配布しているアップルとGoogleは、Reutersにからのコメント要請に応じていません。
￥149,800
(価格・在庫状況は記事公開時点のものです)
