＜Kaspersky Security Bulletin(その3)： AIがサイバーセキュリティに及ぼす影響＞脆弱性の増加と防御の必要性の増大、より信ぴょう性の高い詐欺コンテンツの生成、しかしサイバー脅威の状況を画期的に変える原動力にはならない

[本リリースは、2023年12月11日にKasperskyが発表したプレスリリースに基づき作成したものです]

Kasperskyのセキュリティエキスパートは、毎年、主要なサイバー脅威についてまとめた年次のレポート「Kaspersky Security Bulletin（セキュリティブリテン）」シリーズを発表しています。その一つである「Story of the year: the impact of AI on cybersecurity（今年の話題：サイバーセキュリティにおけるAIの影響）」では、生成AI（人工知能）がサイバーセキュリティに与える影響をもとに、2024年以降の変化について予測しています。

技術の進歩や社会の変化が急速に進む中、「AI」という言葉は、世界中の会話の最前線にしっかりと位置付けられています。ChatGPTに代表される大規模言語モデル（LLM）の普及が進むにつれて、セキュリティとプライバシーに関する懸念も急増しています。レポートでは、2023年のサイバー犯罪者による悪意のある活動にAIがどのように利用されていたか、また、この技術を防御にどう応用できるかを解説しています。さらに、エキスパートたちは、2024年以降にAIがサイバーセキュリティに及ぼす影響について以下のように予測しています。

■ 2024年、サイバーセキュリティにおけるAI関連の変化の予測

・複雑な脆弱（ぜいじゃく）性の増加
指示実行型のLLMがより多くの消費者向け製品に統合されるにつれて、ランダム性や確率の概念を組み込んだ確率的生成AIと、従来の予測可能で確定的な結果を生み出す決定論的技術が交わる部分に複雑な脆弱性が新たに出現することになり、サイバーセキュリティ担当者が保護すべき攻撃対象領域も拡大します。このため、開発者はLLMエージェントによって開始される処理に対するユーザー承認など、新しいセキュリティ対策を検討する必要が出てきます。

・サイバーセキュリティ専門家を補助する総合的なAIアシスタントの登場
組織のサイバーセキュリティを強化する目的で、実際のサイバー攻撃と同様の模擬攻撃を行うレッドチームのメンバーや調査担当者は、革新的なサイバーセキュリティツールに生成AIを活用しており、LLMや機械学習（ML）を用いたアシスタントが登場する可能性が考えられます。レッドチームのタスクを自動化し、侵入テスト環境で実行されたコマンドに基づいたガイダンスを提供するといったことが可能になるかもしれません。

・詐欺の画像や動画の生成にニューラルネットワークの使用が増える
2024年は、ニューラルネットワークによって詐欺師の戦術が増強されるかもしれません。AIツールを利用することで、より信頼性のある詐欺コンテンツを作ることが可能になります。信ぴょう性のある画像やビデオを手軽に生成できるため、詐欺や不正行為に関連するサイバー脅威をエスカレートさせるリスクが高くなります。

・AIは2024年のサイバー脅威を取り巻く状況を画期的に変える原動力にはならない
上述のような傾向があるにもかかわらず、当社のエキスパートたちは依然として、AIが近い将来に脅威を取り巻く状況を大きく変えることには懐疑的です。生成AIがサイバー犯罪に使用されていても、サイバー攻撃を防御する側でも同じことが言えるからです。同様の、あるいはより高度なツールを使ってソフトウェアやネットワークのセキュリティ強化を試しているため、攻撃の状況が劇的に変わるということはないでしょう。

・増加するAI関連の規制の取り組みと民間セクターの貢献
急速に成長する技術の発展により、政策の策定や規制が問題になっています。AI関連の規制の取り組みは増加傾向にあります。ハイテク企業といった民間の団体は、AIの開発と利用に関する専門知識を持っているため、グローバルおよび国内のプラットフォームでのAI規制に関する議論において貴重な知見を提供することができます。

・AIで生成したコンテンツへのウォーターマーク（透かし）追加
合成コンテンツにフラグを立てたり識別したりするためには、規制はもちろん、サービスプロバイダーのポリシーも必要になります。また、サービスプロバイダーは検知技術に継続的に投資を行います。開発者や研究者も、合成メディアにウォーターマークを入れて識別しやすくし、そのコンテンツの出所が分かるような手法に貢献するでしょう。

Kasperskyのセキュリティエキスパート、ウラディスラフ・トゥシュカノフ（Vladislav Tushkanov）は、次のように述べています。「サイバーセキュリティにおけるAIはもろ刃の剣です。その適応能力は防御を強化し、進化する脅威に対してプロアクティブな盾を提供してくれます。一方で、危険をもたらすのもこれと同じ能力です。攻撃者もAIを利用してより巧妙な攻撃を生み出します。機密データを過剰に共有することなく責任を持って使用するという、適切なバランスを取ることが、デジタルフロンティアを保護する上で何よりも重要です」

・当レポート全文は、「Story of the year: the impact of AI on cybersecurity」（英語）でご覧いただけます。
・「Kaspersky Security Bulletin」シリーズは、サイバーセキュリティに関する主要な変化を毎年予測および分析し、まとめたものです。そのほかの予測は「Kaspersky Security Bulletin 2023」（英語）でご覧いただけます。
・2023年11月22日に発表済みの「Kaspersky Security Bulletin(その1)：2024年の高度な脅威に関する動向予測」はこちらを、12月12日に発表済みの「Kaspersky Security Bulletin(その2)：数字で振り返る2023年のサイバー脅威」はこちらをご覧ください。