ChatGPTの登場以来、生成AIは幻覚などの問題を抱えつつもしだいに精度を増してきており、一般的な文書だけでなくソフトウェアコードの生成などにも使い道を拡大しています。
一方、サイバーセキュリティ業界でも、最近はハッカーとセキュリティ業界の双方でAIを活用した脆弱性の発見やその対策をすることが増えつつある模様です。米NBCは、「過去数か月のあいだに、サイバー犯罪者、やスパイからセキュリティ研究者や企業のセキュリティ担当者まで、あらゆるタイプのハッカーがAIツールを業務に取り入れ始めている」と報じました。
もちろん、ChatGPTなどの背後にある大規模言語モデル（LLM）には、依然として誤情報を生成する問題が残されています。しかしそれも、以前のバージョンに比べれば精度も向上しており、自然言語による命令の処理や、ユーザーの指示をコンピューター用のコードに変換する能力、あるいは文書を解釈し要約する能力が大きく進歩しています。
そして最近では、セキュリティ企業が未知のマルウェアや攻撃、不審な動作を検知するためにAIを活用するようになるなど、サイバーセキュリティ企業や研究者によるAIの活用も始まっています。
Googleは2024年に、同社のLLMであるGeminiを活用してハッカーよりも先に重要なソフトウェアの脆弱性を発見するプロジェクトを開始しました。そして今月はじめには、このプロジェクトを通じて一般的に使用されているソフトウェアから、数十件の重要なバグを発見し、企業に修正を促したと発表しています。
Googleのセキュリティエンジニアリング担当副社長、ヘザー・アドキンス氏によれば、このプロジェクトで発見された脆弱性は、どれも既知の方法で見つかっており、AIは「私たちが既に知っているやり方を使っているだけ」だとしました。とはいえ、将来的には「それは進歩していくでしょう」と述べています。
定期的に重要な脆弱性を特定したハッカーを評価し、その番付を作成しているHackerOneによる今年6月のランキングでは、AIを使ったハッキングを専門とする新興セキュリティ企業のXbowが初めて首位にランク付けされました。そして現在では、HackerOneはAIハッキングツールを使用するグループ用のランキングを新設し、従来のセキュリティ研究者と区別するようになっています。
一方で、サイバー犯罪者らもAIを活用したハッキングツールを使い始めており、それが以前に比べ「はるかに優れたものになっている」との専門家の見解をNBCが伝えています。
サイバーセキュリティ企業CrowdStrikeの上級副社長アダム・マイヤーズ氏は、同社もハッキング被害者の手助けとしてAIを使っているが、同社が追跡する中国、ロシア、イランなどの犯罪組織に協力するハッカーらがAIを使用していることを示す証拠も増えていると述べています。とくに2024年以降、誰かになりすまして標的となる相手を騙したり、巧妙なフィッシング用文章を作成するといった用途で、以前よりもAIが使用されているとのことです。
現在のところは、AIが初心者ハッカーを簡単にエキスパートレベルに上達させるようなことはありませんが、すでに熟練しているハッカーが使う際にそのスキルや作業を補助するのに貢献している模様です。
いまはまだ、スパイ映画に出てくるような、完全に自律的に標的をハッキングして機密情報を奪うようなAIは存在しません。しかし、NBCはロシアのハッカーがウクライナ攻撃に使用されたマルウェアに埋め込まれたAIが「被害者のコンピューターを自動的に検索し、モスクワに送り返す機密ファイルを探す」ようになっていると報じています。またCrowedStrikeやGoogleは北朝鮮の工作員が生成AIで履歴書やSNSのアカウント、その他資料を作成し、欧米のテクノロジー企業に雇用され、を得ようとしていると報告しています。
AIの活用が、最終的に攻撃側と防御側のどちらにより合っているのかはまだわかりません。ただ、現時点では防御側のほうが高い効果を示しているようです。ホワイトハウス国家安全保障会議の上級サイバーディレクター、アレクセイ・ブラゼル氏は、先週ラスベガスで行われたハッキング・セキュリティイベントDefConで「AIは攻撃側よりも守備側にとって有利になると私は強く信じている」と述べました。
サイバーセキュリティ分野におけるAI活用は、セキュリティ企業や研究者と、脆弱性を発見・悪用しようとする者たちの間で、今後はいたちごっこになっていくのかもしれません
