Twitterの元安全性責任者が語る、モデレーション軽視が招くアプリストア追放のリスク

テクノロジー Other
Kiyoshi Tane

Kiyoshi Tane

フリーライター

  • X

著書に『宇宙世紀の政治経済学』(宝島社)、『ガンダムと日本人』(文春新書)、『教養としてのゲーム史』(ちくま新書)、『PS3はなぜ失敗したのか』(晋遊舎)、共著に『超クソゲー2』『超アーケード』『超ファミコン』『PCエンジン大全』(以上、太田出版)、『ゲーム制作 現場の新戦略 企画と運営のノウハウ』(MdN)など。

特集

Twitterの元安全性責任者が語る、モデレーション軽視が招くアプリストア追放のリスク

実業家のイーロン・マスク氏は、Twitterを徹底した「言論の自由」プラットフォームにすべしと主張していました 。そして同社を買収した後、実際にコンテンツモデレーション(投稿管理)を担うスタッフを減らしています(大量リストラの一部として)。

こうしたモデレーション軽視は、収益の大半をもたらしてきた広告主の Twitter離れを招くだけでなく、アップルとGoogleのアプリストアの審査を通らなくなり、ユーザーがアプリを入手できなくなるリスクがあると、Twitterを辞職した元Trust and Safety 責任者が指摘しました。

つい数日前までTwitterの信頼・安全責任者(主に投稿の管理)を務めていたヨエル・ロス氏は米The New York Timesに寄稿し、同社から離職するまでの経緯を振り返っています。

ロス氏はマスク氏による買収が完了した直後、人種差別や反ユダヤ主義的な荒らしが相次ぎ、大手のクライアントが広告を引き上げる危機のなか、ヘイトスピーチを取り締まることに奔走したとのこと。実際に、ヘイト行為を95%減らしたとのグラフを開示したこともありました。

しかし最終的に退社を決めたのは「一方的な天の声で方針が決められるような会社には、原理原則に基づいて進めるための信頼と安全の機能は必要ない」と判断したためだと述べています。天の声、つまりマスク氏の思いつきでモデレーションの基準が変わる中に自分の居場所はない、というわけです。

そしてロス氏は、マスク氏が「言論の自由絶対主義」プラットフォームを目指す上で、大手の広告主や米国・EUなどの公的機関がどのようなモデレーション基準を求めてくるかを説明。

たとえばGARM(広告主やメディア、ハイテク企業が参加し、ネットの安全基準を目指す団体)はブランドの安全性に対する既定路線を遵守するよう公開要請書を発表し、FTC(米連邦取引委員会)も最近のTwitterに懸念を示しているという具合です。

その中でも最も重要な歯止めとされるのが、要約すれば「アップルとGoogleがアプリストアを通じて及ぼす影響力だ」と述べています。

それを端的に示していたのが、Twitterによる2021年度の年次報告書です。そこでは同社の新製品リリースは、ガイドラインを決定および実施する「デジタル・ストアフロント・オペレーター(アプリストア)に依存し、影響を受ける可能性がある」、さらにアプリストアによる「審査プロセスは予測が困難であり、特定の決定が当社の事業に損害を与える可能性もある」と述べています。

ロス氏はこの表現が控えめすぎるとして、もしもアップルとGoogleのガイドラインに従わない場合は「Twitterは両社のアプリストアから追放され、何十億もの潜在的なユーザーがTwitterのサービスにアクセスが困難になるリスクがあり、壊滅的な打撃を受けることになる」とまで言っています。アップルとGoogleはTwitterの意志決定を左右する巨大なパワーを持つ、ということです。

アプリの審査チームからTwitterに連絡があり、公式アプリで「#boobs(女性の胸)」を検索したら……と困惑気味に語られたこともあったそうです。またメジャーアップデートの前日に、数日前にあった人種差別を含むツイートのスクリーンショットが送られてきて、表示を許可すべきかどうかを尋ねられたとのこと。どちらのアプリストアか特定されていませんが、「実際に」起こった出来事だと強調されています。

そのとき、先方の審査チームは問題が満足に解決されない場合は、アプリの承認が遅れたり、場合によっては完全に保留される可能性をちらつかせたそうです。そうした権限を持っているアップルやGoogleは「企業の計画を狂わせ、数週間~数ヶ月におよぶ全面的な危機のひきがねを引く力がある」とのことです。

そしてロス氏は「私が会社を去ったとき、アプリ審査チームからの電話はすでに始まっていた」と締めくくっています。マスク氏は19日現在、トランプ前米大統領のアカウント復活を認めるべきかどうかTwitter上で投票を呼びかけていますが、今もアップルやGoogleからTwitterへの電話は鳴り続けているのかもしれません。

《Kiyoshi Tane》
Kiyoshi Tane

Kiyoshi Tane

フリーライター

  • X

著書に『宇宙世紀の政治経済学』(宝島社)、『ガンダムと日本人』(文春新書)、『教養としてのゲーム史』(ちくま新書)、『PS3はなぜ失敗したのか』(晋遊舎)、共著に『超クソゲー2』『超アーケード』『超ファミコン』『PCエンジン大全』(以上、太田出版)、『ゲーム制作 現場の新戦略 企画と運営のノウハウ』(MdN)など。

特集

BECOME A MEMBER

テクノエッジ友の会に登録しませんか?

今週の記事をまとめてチェックできるニュースレターを配信中。会員限定の独自コンテンツのほか、イベント案内なども優先的にお届けします。