AppleがApp Storeの審査ガイドラインを改訂し、人物の画像をAIで裸や下着にする「脱衣(ヌーディファイ)」アプリなど、「同意のない性的画像」(NCII)を生成できるアプリへの規制を強化しました。
画像や動画を生成できるAIアプリ全般に「同意のない性的画像」を防ぐ責任を課し、審査通過後に問題の機能を加える抜け道も新しい条項で禁じました。
■ 汎用AIアプリにも性的画像対策の責任
露骨な性的画像は、もともとApp Storeのガイドラインで禁止されています。今回の改訂についての告知では、実在人物の性的画像を本人の同意なく作るアプリもこの禁止に含まれると明言しました。
(ただし、写っているのが実在の人物か、本人が同意しているかをアプリ側で確かめる手段はなく、生成アプリにとっては事実上、性的画像を作らせないことと同じ意味です。)
大きく変わったのは、ユーザー生成コンテンツを扱う項目である1.2部分。対象をSNSなどから、ユーザーがコンテンツを作成・生成できるアプリ全般に広げ、例に「AIコンテンツ生成アプリ」を挙げました。想定する被害にも、新たに「同意のない性的画像」を加えています。
ユーザーがコンテンツを生成できるアプリには、
・不適切な生成や投稿を防ぐフィルター
・通報への迅速な対応
・悪質なユーザーのブロック機能
が求められます。汎用のAI画像編集アプリでも、たとえば同級生の写真から服を消すといったことが可能なら、ポルノ目的のアプリでなくても是正の対象です。
通知後も直さない開発者は行動規範違反とみなされ、開発者アカウント停止の可能性もあります。
▲審査後の「すり替え」も明文で禁止
新設の2.5.19は、コードの難読化などで機能を隠すことを、アプリ削除と開発者アカウント停止の理由になると定めました。
Appleは、審査中は目的を偽り、承認後に脱衣のような有害な機能を出す手口を「おとり手法(bait-and-switch)」と呼び、この条項の対象としています。
■ Grok騒動や削除要求、App Store広告で誘導の批判も
AIによる性的画像をめぐるApp Storeへの批判はこの1年だけでも多数の例があります。
2025年末から、xAIのAI「Grok」で実在の女性や子どもの写真を性的に加工する投稿がX上で拡散。米上院議員3人は2026年1月、XとGrokのアプリ削除をAppleとGoogleに求めていました。
テック企業を監視する非営利団体Tech Transparency Project(TTP)は1月、App Storeで脱衣が可能なアプリ47本を確認したと発表し、4月にはApp Storeの検索候補や検索広告がそうしたアプリへ誘導していると指摘しました。
(▲画像：App Storeで、性的フェイク画像を生成できるアプリ広告が表示される例。Tech Transparency Projectによる)
7月には、サンフランシスコ市のデビッド・チウ市検事がApp Storeの8本などの削除を要求。
8月には、FacebookとInstagramで広告を出していた生成AIアプリ「Kromix」をAppleが削除。WIREDによると、Appleは審査通過後に禁止された機能が加えられたと説明しており、これは今回の改訂で加わった項目2.5.19が想定する手口です。
米国では5月、同意のない性的画像を依頼から48時間以内に削除するよう義務づけるTAKE IT DOWN法の規定が発効し、FTCはAppleを含む15社に順守を促す書簡を送っています。
国内では、警察が把握した18歳未満の性的ディープフェイク被害が2026年1～6月で123件と、前年同期の約2倍になりました。うち約9割が中高生で、加害者の約7割が同じ学校の生徒とされています。
(警察が把握した事案のみの集計。発覚しない被害はもちろん、成人の被害は含まない)。
■ AI画像系アプリ全般に対策責任 代替配信にも影響
ガイドライン5章では、「人身売買や児童搾取を助長するアプリ」を、App Storeだけでなく他社が運営する代替配信からも締め出すと明記。日本でも2025年12月からApp Store以外でのアプリ配信が始まっています。
今年2月の改訂では、ランダムチャットや匿名チャットも、SNSに類するものとして1.2の対象になることを明確化しました。
改訂の影響を受けやすいのは、写真を入力に使うAI画像・動画生成アプリや顔入れ替えアプリ、画像生成を備えたAIチャットやSNSなど。
主な用途がポルノでなくても、実在の人物の性的画像を作らせない仕組みと通報・ブロックの手段が前提になります。
Appleは昨年、安全上の問題がある15万本超のアプリの公開を止め、19万3000超の開発者アカウントを停止したとしています。改訂版の日本語訳は1か月以内に公開予定です。
