2001～2011年にかけてGoogleでCEOを務めたエリック・シュミット氏は、人工知能が人々に「危害を加えたり、殺害したり」する「実存的リスク」を孕む可能性があると述べています。
ロンドンで開催されたイベントで、シュミット氏は「実存的リスクとは、非常に多くの、多くの、多くの人々が危害を加えられたり殺されたりすることとして定義される」と説明し、そう遠くない未来においてはAIがソフトウェアのセキュリティ上の欠陥や新しい種類の生物学の発見に役立つ可能性を見込みつつ、高度に成長したAIシステムが「邪悪な人々によって悪用」されないようにすることが重要だと述べています。
一大ブームとなっているジェネレーティブAIは、ChatGPTが先頭を走り、世界中の大手企業がこれに対する競合製品を発売。それぞれが自社AI製品の機能をアピールし、世界の人々の人工知能に対する認識を高めています。
シュミット氏は、米国がAIへの対応に特化した新たな規制当局を設立する可能性は低いと指摘しています。シュミット氏は米国のAIに関する国家安全保障委員会のメンバーで、この委員会が2021年にまとめた調査報告書でも、米国はその技術からの影響に対する準備を整えられていないと述べていました。
現在のAIの隆盛について、何人かの業界著名人は慎重なアプローチをすべきと主張しています。たとえばGoogleのスンダー・ピチャイCEOは「AIがあらゆる企業のあらゆる製品に影響する」だろうと述べ、社会がAIに適応する必要があるとしました。
またOpenAIのサム・アルトマンCEOはアルゴリズムが悪用される可能性に懸念を示し、規制当局と社会がこの技術に関与する必要があると述べています。3月には、イーロン・マスク氏やスティーブ・ウォズニアック氏を含む多くの業界関係者が署名した、AIの開発を半年間停止すべきとの公開書簡も発表されていました。
ジェネレーティブAIに対しては、たとえば大学における論文の生成などといった不正行為に対する懸念やAIが返す回答に、それとなく誤情報や不正確な内容が含まれる”クセ”が含まれることが指摘されています。またAIを鍛えるためのデータセットに、もしも機密や個人情報が紛れ込んでいたりすれば、それがAIによってどこかで出力されてしまう単純なリスクもあります。さらに長期的な面では、AIの進歩やそれにともなうロボットの進歩によって、これまで人間が働いていた業務の多くが急速に置き換えられ、経済的な混乱が生じることも考えられます。
これらの事柄を踏まえると、シュミット氏のコメントはすでにあちこちで述べられている警告を総合した延長線上にあるものとも言えそうです。今はまだSFの範疇かもしれませんが、しだいに現実味を帯びつつあるようにも思えます。
