1週間の気になる生成AI技術・研究をいくつかピックアップして解説する連載「生成AIウィークリー」から、特に興味深いAI技術や研究にスポットライトを当てる生成AIクローズアップ。
今回は、依頼主とクリエイターの直接取引で絵師を騙す、AIを用いた詐欺事案を取り上げます。
一見すると通常の依頼主として接触してくる詐欺師たちは、さまざまな方法でクリエイターの成果物を搾取しています。AIの精度向上でその詐欺手口も巧妙になってきました。
この詐欺の手口は計画的です。まず依頼主を装った詐欺師が、イラストの制作を依頼してきます。そして、作品が完成する前に報酬を先払いすると申し出ます。多くの絵師にとって、前払いは安心材料となるため、この提案を受け入れやすくなります。
報酬を受け取った絵師は、依頼内容に沿って制作を開始します。ラフや線画の段階で、進捗確認のために途中経過を送ることは一般的な商習慣です。ここで絵師は、まだ完成していないウォーターマーク（透かし）のないラフを、依頼主に送ります。
ところがこの段階で、依頼主は突然態度を変え、「イメージと違った」「事情が変わりキャンセルしたい」などと理由をつけて、依頼の中止を申し出ます。そして、先払いした報酬の返金を要求します。誠実な絵師は、依頼者の都合を考慮し、受け取った報酬を返金します。
しかし問題はここから。しばらくすると、インターネット上やSNSで自分が制作した線画ラフを下敷きにしたとしか思えない完成イラストが登場するのです。それらは生成AIを使って、絵師の線画をベースに着色や仕上げが施されたものでした。
▲絵師を騙す詐欺手口の4コマイラスト（絵：おね）
詐欺師の目的は最初から、プロの絵師が描いた質の高い線画ラフを無料で入手し、それをAIで完成させることだったのです。今の生成AIは雑な絵でも高品質な絵に仕上げます。そのため、詐欺師は質の高いラフでなくても、ざっと描いたメモ書き程度の構図だけでもいいわけです。
対策はいくつか考えられます。まず、途中経過を送る際には必ずウォーターマークを入れること（ウォーターマークを消される可能性はあります）。また前払いであっても、キャンセル時の条件を明確に契約書や合意文書に記載しておく。途中段階までの作業に対する対価は返金しないなどです。
