人工知能は安全でしょうか？今、テクノロジーの世界で最も注目を集めている話題であり、大きな議論を呼んでいます。
2025年2月にパリで開催された世界サミットでは、AIの安全性に関する見解が各国首脳の間で分かれました。例えば、フランスのエマニュエル・マクロン大統領はAIの発展を支援するための規制強化を求めましたが、アメリカのJ・D・ヴァンス副大統領は、安全性への懸念よりも「成長促進型のAI政策」を優先すべきだと述べました。
正当な企業、当局、そして人々がAIを責任を持って安全に活用する方法を模索している一方で、サイバー犯罪者がAIを利用して悪意のある活動をさらに強力かつ成功させるという脅威も存在します。
AIサイバー犯罪は、デジタル環境全体のセキュリティを根本的に変えるものであり、誰もがリスクと安全を保つために必要な行動を認識することが不可欠です。このガイドでは、AIを利用したサイバー攻撃の様々な種類、セキュリティの観点からこれらの攻撃が何を意味するのか、そして防御を強化するために今すぐできることについて解説します。
AIを利用したハッキング成功例
AIが生成したマルウェアやその他の犯罪行為のリスクは理論上のものではなく、既に世界中で発生し、被害者を出しています。ここでは、膨大な数の例の中から3つをご紹介します。
なりすまし：Guido Crosetto
2025年初頭、詐欺師たちはAI生成の音声技術を使用して、イタリアのグイド・クロゼット国防大臣になりすました。そして、イタリアの裕福な起業家たちに連絡を取り、中東で誘拐されたイタリア人ジャーナリストの無料に役立てるという架空の資金援助を嘆願した。少なくとも1人のビジネスマンが騙されて、詐欺アカウントに送金してしまった。
マルウェア：DeepSeek ClickFix詐欺
あるサイバー犯罪者集団が、中国の新しいAI DeepSeekを模倣した検証ウェブページを開設した。Captcha検証だと思って入力した内容を完了したユーザーは、ログイン情報や銀行口座の詳細などの大切な情報を盗み出し、最終的にはインターネットバンキング詐欺につながるマルウェアであるVidar StealerとLumma Stealerのインストールを指示する。
ユーザーエラー：SamsungのChatGPT漏洩
厳密にはAIウイルスやマルウェア攻撃ではないが、この注目を集めた事件は、AI攻撃への扉がうっかり開かれてしまう可能性があることを浮き彫りにした。2023年春、韓国のテクノロジー大手サムスンの従業員は、ChatGPTを使って自社のソースコードの一部をチェックしましたが、そのデータがAIモデルのさらなる学習のために保持されることに気づいていませんでした。これにより、サムスンの機密性の高い知的財産の一部が、事実上、誰でもアクセスできるパブリックドメインになってしまいました。
AIサイバー攻撃の種類
AIは、直接的に、あるいは他の犯罪組織を支援するために、悪意のある活動に利用される方法が既にいくつか存在します。
ソーシャルエンジニアリング
ソーシャル エンジニアリング攻撃とは、犯罪者が人間の行動に影響を与え、ユーザーが自発的に情報や資産を手放すように仕向ける攻撃です。対象となるのは、機密の個人データ、銀行アカウント情報、金銭または暗号通貨、特定のデバイスや定義データベースへのアクセス権など、あらゆるものになります。AI はこの種の攻撃で非常に役立っており、サイバー犯罪者がターゲットを特定し、説得力のあるペルソナとメッセージを作成し、詐欺にもっともらしさを加える音声および動画録画を作成するのに役立ちます。
フィッシング攻撃
フィッシング攻撃は、受信したメッセージ、リンク、メールの添付ファイルが本物であると信じ込んで、マルウェアであることが判明したものをクリックさせることにつけています。これまでは、適切なユーザー教育によってこれらの攻撃の成功率が低下しましたが、現在では AI を利用してフィッシング攻撃をこれまで以上に説得力のあるものにしています。WhatsApp メッセージやソーシャル メディア通信などのリアルタイム通信や、顧客が自分のアカウントの詳細を実際のスタッフと共有していると思う偽のカスタマー サービスチャットボットにも AI が使用されています。
AIランサムウェア
AIは、ランサムウェア攻撃の技術的能力を大幅に向上させました。これには、システムの脆弱性を評価して悪用される可能性が最も高い脆弱性を特定するといった標的調査や、サイバーセキュリティソリューションによる検知を回避できるようにランサムウェアファイルを適応させる能力が含まれます。
敵対的AIと悪意のあるGPT
多くのサイバー犯罪者は、不正確なデータを入力したり、AIモデルの設定を改ざんしたりすることで、AIが生成した出力を歪めます。こうした不正確な情報によって、ハッカーの目的に合致する危険なバイアスや指示が生成される可能性があります。これと並行して、偏見や悪用に対する安全策を一切講じていない悪意のあるAI ツールの使用が増加しています。GhostGPTは、AIマルウェアの作成に使用できる無修正のチャットボットの最近の例です。
ディープフェイク
ディープフェイクは、顔や声を架空の、信用できない人物に偽装するだけの問題だと思われるかもしれませんが、すべての人にとっての脅威は現実です。ディープフェイク技術は、動画、音声、またはその両方を使用して、任意の人物になりすますために使用できます。これらは、セキュリティおよび検証手順を欺いて、大切な情報や銀行口座にさえアクセスするために使用できる可能性があります。
火に火で対抗する: AI を利用したサイバー犯罪はセキュリティにとって何を意味するのか?
AI サイバー脅威に対抗するための最善のツールは、人工知能そのものです。ただし、標準的なセキュリティ ソリューションが AI 支援の攻撃を防ぐのに無力というわけではありません。多くの種類のマルウェアやハッキングから保護することは可能です。ただし、セキュリティ ミックスに AI を取り入れると、次のようなさまざまなセキュリティ方法に新たな次元を追加できます。
インシデントレスポンス
AIはインシデント対応活動を自動化するために活用できます。例えば、 Kaspersky Incident Responseは悪意のあるアクティビティをブロックし、システムアラートに人間が対応するよりもはるかに迅速に、影響を受けたシステムを隔離できます。対応と解決にかかる時間を大幅に短縮することで、攻撃の影響を最小限に抑え、最終的には混乱、費用、データ損失の規模を抑えることができます。
脅威の検知とプロアクティブな脅威ハンティング
脅威があまりにも多く存在するため、セキュリティチームがあらゆる脅威に対応し、すべてのアラートを調査するのは困難です。ここでAIが役立ちます。ユーザーの行動やネットワークトラフィックを詳細に分析し、潜在的な脅威をより迅速に特定し、セキュリティチームの貴重な時間を浪費する誤検知を除外します。AIはまた、脅威検知をプロアクティブ化し、サイバー攻撃が始まる前に追跡することもできます。
マルウェア解析
AIが生成するできる洞察により、セキュリティチームはさまざまな種類のマルウェアが実際にどのように動作するかをより深く理解できます。この分析を自動化できるということは、セキュリティチームがこれらの洞察に迅速にアクセスし、防御をどこにどのように設計および展開するかについて、より情報に基づいた意思決定ができることを意味します。
ぜい弱性スキャン
AIツールはシステムとインフラストラクチャを評価し、最大の脆弱性がどこに存在するかを特定できるため、セキュリティチームはそれらの脆弱性を解消するための時間とリソースをより適切に優先順位付けできます。この情報は、パッチとアップデートの管理を改善するために不可欠であり、最も緊急性の高いアップグレードを最初にインストールすることを保証します。
個人情報とアクセス管理（IAM）
個人情報とアクセス管理の強度は、AIによって大幅に強化されています。AIは、様々な場所からのアクセス試行、入力速度、マウスの動きなどから、ユーザーアクティビティの異常なパターンを検知する能力を備えています。これらの異常はリアルタイムでフラグ付けされ、潜在的な不正アクセスをブロックしたり、正当な使用を確認するための追加検証レイヤーを生成するたりできます。
倫理的ハッキング
倫理的ハッキングと侵入テストは、脆弱性を発見し、積極的に排除するための重要なツールです。しかし、関連する作業量の大きさから、時間がかかり、時間がかかる作業になる可能性があります。しかし、AIは、チームの作業負荷を低下させる単純で反復的なタスクを自動化し、その結果を分析して実用的な洞察を提供することで、これらのタスクの管理負担を軽減できます。
リスク評価
倫理的なハッキングに対する AI のメリットは、リスク評価の開発や危険度に応じた脅威の優先順位付けにも応用できます。これは、単調で時間のかかるタスクになることもありますが (重要ではありますが)、AI を使用してプロセスを高速化し、反復的なジョブを処理し、より詳細な洞察を導き出すことは非常に役立ちます。
AI によるサイバー攻撃から身を守る方法
上記の AI ベースのセキュリティ機能に加えて、AI ハッキングが成功する可能性を最小限に抑える方法は数多くあります。専門家の視点から見ると、最善の方法は、人、計画、テクノロジーを結集することです。
インシデント対応プランを作成する
インシデントへの対応が速ければ速いほど、影響を緩和し、被害が広範囲に及ばないようにすることができます。消火訓練と同様に、セキュリティインシデントが発生したときに何をすべきかを正確に知っておく必要があります。プランには、準備（予防と対応）、検知と分析（攻撃の性質と深刻度の確認）、攻撃の封じ込めと根絶（システムの隔離、修復、パッチ適用）、そしてインシデントの再発を防ぐ復旧戦術が含まれる必要があります。
カスペルスキーのインシデント対応ソリューションを活用して効果的な戦略を構築する方法について詳しくは、こちらをご覧ください。
利用可能な最強のセキュリティプラットフォームをご利用ください
AI サイバー犯罪に基づく既存の脅威と新たな攻撃から身を守るために、最も包括的なセキュリティ保護を確実に実施してください。たとえば、 カスペルスキー プレミアム は、攻撃を防ぐために即座に行動を起こすリアルタイムのウイルス対策保護を提供します。また、機密性の高い個人データをさらに保護する個人情報 Protection も含まれています。
セキュリティ体制を定期的に評価する
AI とサイバー犯罪はどちらも急速に進化しているため、現在実施しているセキュリティ対策は 12 か月後 (あるいはそれよりも早く) には十分でない可能性があります。つまり、セキュリティは定期的に監査およびレビューする必要があります。AI は、ユーザーアクティビティのリアルタイム分析と、前回の監査期間と比較した異常なアクティビティの検出を通じてこれをサポートできます。
ユーザーと従業員のセキュリティ意識を維持する
AI を使用して開発されたかどうかに関係なく、フィッシング攻撃が継続的に成功していることは、優れたセキュリティはユーザーから始まるという事実を強調しています。今こそ、AI ハッキングや関連攻撃のリスク、特に AI が生成したテキスト、音声、動画がどれほど説得力のあるものになるかについて、ユーザーに認識させるべきときです。これにより、ユーザーは常に細心の注意を払い、100%安全であると確信できる場合を除き、いかなる活動も行わないよう注意喚起することができます。Kasperskyのサイバーセキュリティトレーニングが、 AIを活用した攻撃に対するチームの警戒をどのように強化するかをご覧ください。
関連記事：
関連製品：
