現実となりつつある「AIを利用したサイバー攻撃」の脅威

2023.01.02

サイバーセキュリティ会社とフィンランド国家緊急供給庁が作成したAIとサイバー攻撃に関するレポート

現在のサイバー攻撃における人工知能 (AI) の利用は未だ限定的ではあるが、ウィズセキュアは同社が発行した新しいレポートで、これが近い将来に変化する可能性があると警鐘を鳴らしている。

ウィズセキュアがフィンランド国家緊急供給庁 (NESA) と共同で作成したこのレポートは、AIとサイバー攻撃の両者が重なる領域における現在の動向と今後の展開を分析したものだ。

AIを利用したサイバー攻撃は、現在のところはまだ稀であるものの、ソーシャルエンジニアリングの応用 (なりすましなど) や、バックエンドシステムのデータ解析などのリサーチャーやアナリストが直接観測できない方法で利用されているとしている。

しかし、レポートではそれと同時に、量と質の両方におけるAIの進歩によって、より高度なサイバー攻撃が近いうちに起こりうるであろうことが強調されている。

標的型攻撃、ソーシャルエンジニアリング、なりすましはAIを利用した脅威のうち、現在最も差し迫ったものであり、今後2年以内に攻撃の件数と巧妙さがともに進化すると予想されているのだ。

攻撃者たちは今後5年以内に、脆弱性の発見、攻撃作戦の計画と実行、防御を回避するステルス機能の使用、侵害されたシステムやオープンソースのインテリジェンスからの情報収集・マイニングを自律的に実行できるAIを開発するものと思われる。

ウィズセキュアのインテリジェンスリサーチャーであるAndy Patel (アンディ・パテル) は、こうした状況について次のように述べている。

「AIが生成したコンテンツはソーシャルエンジニアリングのために使用されていますが、攻撃キャンペーンの指揮、攻撃手順の実行、マルウェアのロジックの制御を目的としたAI技術は、まだ実際には観測はされていません。

こうした技術は、まず国家レベルの攻撃グループなど、十分な資金と高度な技術を持つサイバーアクターによって開発され、それらの技術の一部はそれより低いスキルを持つ攻撃者の手に渡り (トリクルダウン)、サイバー攻撃の世界でより広く使用される可能性があります」

攻撃者によるAIの利用がもたらすセキュリティ課題の一部は現在の防御で対応可能だが、その他の課題については防御側が適応／進化することが必要であると、レポートは述べている。

合成されたコンテンツを利用するAIベースのフィッシング、生体認証システムのなりすまし、その他の攻撃への対策として新しい技術が必要となる。

また、AIによる攻撃の脅威を管理する上で、情報共有、セキュリティ人材の確保、セキュリティ意識向上のトレーニングなど、テクノロジーに依らないソリューションの重要性についても触れている。

ウィズセキュアでシニアデータサイエンティストを務めるSamuel Marchal (サミュエル・マルシャル) は、今後取るべきアプローチについて、以下のように締めくくった。

「セキュリティは、他の多くのAIアプリケーションと同じほどのレベルの投資や進歩が見られないため、最終的には攻撃者が優位に立つ可能性があります。正当な企業／組織、開発者、リサーチャーはプライバシー規制や法律に従っていますが、攻撃者はそうではないことを忘れてはいけません。

政策の立案者が、安全で信頼性の高い倫理的なAIベースのテクノロジーの開発を期待するのであれば、AIを利用したサイバー脅威との関係で自分たちのビジョンを確立する方法を検討する必要があるでしょう」

構成／Ara