画像生成AIサービスを提供するMidjourneyは、今後1年間、同社のサービスで政治的な画像を作成すること、特にジョー・バイデン氏とドナルド・トランプ氏の画像生成を禁止することを検討しています。
米国では今年11月に大統領選挙が予定されており、現職のバイデン氏(民主党)と、前職のトランプ氏(共和党)の対決になる可能性が高いとみられています。
Bloombergによると、MidjourneyのCEOであるデビッド・ホルツ氏は、Discordのチャットルームでユーザーに対し、同社は今後12か月間でバイデン氏やトランプ氏の画像などを禁止する予定だと述べました。
ホルツ氏は「トランプ氏の写真を作るのが楽しいのはわかっている」としつつ「しかし、この選挙期間中は、おそらく少し控えた方がいい」と述べました。ただし、もし禁止令を出すにしても、公にそれを発表することはせず「ただ禁止するだけ」になるだろうと、その考えを述べています。
Midjourneyはコミュニティガイドラインで「本質的に失礼、攻撃的、憎悪的、またはその他の虐待的な画像」を作成することを禁止しています。ただ、こうした制限はユーザーが画像生成に使うプロンプトの記述のしかたを工夫すれば、ある程度回避できてしまうものです。
Bloombergは、Midjourneyのバージョンによっても出力できる場合とできない場合があるとして、旧バージョン(Ver.5.2)のシステムで、トランプ氏がスパゲティまみれになっている画像を生成することができた一方で、Midjourney 6.0ではそれができないなどといった違いがあったと伝えています。
結局のところ、Midjourneyが大統領候補やその他公人の画像生成を禁止したとしても、それは何かの拍子にMidjourneyが批判の的に晒されるリスクが減る程度の意味合いしかないかもしれません。
とはいえ、他のAI・テクノロジー企業も、政治的な偽情報の生成や拡散を防ぐため、あるいは少なくともそれがAI生成だと特定しやすくするための措置を講じています。
たとえばChatGPTはDALL-E 3を使って生成された画像に、それがAIで生成されたものであることを示すタグ付けを行うと述べています。
Metaもまた、Facebook、Instagram、Threadsに投稿される画像や動画、音声クリップなどがAI生成によるものかどうかを検出し、その旨をラベル付けする予定です。
