生成 AI とサイバーセキュリティ: リスクとメリット

現在の問題

生成 AI は、組織を保護するセキュリティチームにとって強力なツールですが、悪意のある人物によって使用される可能性もあります。また、フィッシング関連の攻撃は増加傾向にあり、懸念される脅威となりつつあります。

調査で危険度を増している脅威について尋ねたところ、最も多かった回答は「フィッシング」で 45% に上っています。

攻撃者は現在、生成 AI を使用して、被害者を誘い込むための信憑性の高いコンテンツを作成しています。しかも、それらはすべて大規模かつ低コストで実現されています。 攻撃者は、公開されているデータに基づいてフィッシング メッセージをパーソナライズしつつあり、この脅威はさらに強力なものになっています。

これが重要な理由とは？

AI を活用したソーシャル エンジニアリングは、攻撃者にとって最も強力な武器となります。 多層的なサイバー防御においてトレーニングは重要な位置を占めますが、AI を活用した脅威を盛り込んだトレーニング戦略を取り入れている組織は多くありません。

組織内の人的要素を悪用する新しい手法を繰り出す脅威アクターに、生成 AI は強力なパワーを与えています。 AI を活用したサイバー脅威から組織を守るためには、従業員が教育を受けていることが (それだけでは不十分であっても) 非常に重要であることには変わりありません。

57% は、高度なソーシャル エンジニアリング攻撃から組織を保護するためのフィッシング対策トレーニングを採用していると回答しています。 これは他の方法と比較して最も多く用いられる方法ですが、

AI を活用したソーシャル エンジニアリング攻撃から身を守るためにトレーニングが「非常に効果的」だとする回答は、わずか 32% でした。 (新たな現実に対処するためにトレーニングを継続的にアップデートできていないことが、原因の 1 つとなっている可能性があります。)

生成 AI は現在、AI 機能を悪用してフィッシング攻撃の改良を続ける脅威アクターに有利な状況を生み出しています。

攻撃者は、より多くのリソースと時間をかけて、より執拗な攻撃を仕掛けています。 脅威の性質、そしてそれがいかに動的で複雑であるかを考えると、私たちはセキュリティ コミュニティとして協力し、知識を共有して、こうした非常に複雑で組織化された敵から身を守らなければなりません。

ブルック・ジョンソン
Ivanti 上級副社長兼最高法務責任者

とはいえ、生成 AI は防御する側にとっても重要なツールとなります。組織がシステムの弱点を特定し、攻撃者に悪用される前に脆弱性に積極的に対処するのに役立つのです。

AIを活用した脅威の急増に備える

個別のレイヤーでは、AI を活用した攻撃が企業に侵入するのを防げなくなっています。 生成 AI は、攻撃者の手に渡るとネットワークサーバーおよびレイヤーを同時に侵害して防御を突破します。 脅威アクターは、即座に規模を拡大して高速で攻撃することができ、...そしてはるかに高いレベルのインテリジェンスを備えているのです。

より多くのデータ、高速なスピード、機械知能を備えた脅威に対抗するために、組織は防御を進化させなければなりません。 悪意ある AI の歯止めが効かなくなるのを防ぐには、まったく新しい戦術が必要になります。 前進するには、人的な要素を排除するのではなく、AI アシスタントを用いて人間にパワーを与えなければなりません。 これらのアシスタントは、他の AI アシスタントと連携することで、組織についてより総合的かつ分野横断的な視点を得ることができます。

セキュリティツールスイートを最新化

攻撃者は長年にわたって AI を利用してきました。2025 年は防御する側が AI の機能を活用する番です。 セキュリティ専門家は、生成 AI の機能を効果的に活用して、さまざまなシステムに由来する膨大な量のデータを分析します。 これにより、潜在的な脆弱性に関する洞察が得られ、システムの弱点を特定できるようになります。 セキュリティ専門家が緊急に行うべきこと、それは、自己保護機能および自己診断機能の見地からソフトウェア ソリューションとツールを評価し、これらの機能を備えた最新のプラットフォームへのアップグレードを提案することです。

エクスポージャー管理とリスク定量化を総合的に捉える

ビジネス戦略と持続可能性にとってセキュリティはますます重要になっています。組織はサイバーセキュリティのリスクについて、状況に応じた総合的な視点を採用するようになっています。 たとえば「攻撃対象領域」の概念は拡大され、有形資産と無形資産の両方を広範囲にカバーするようになっています。 エクスポージャー管理は、ビジネス上の重要な目標であり、パフォーマンス指標とみなされます。 また、サイバーリスクの定量化は、主観的な評価から、機械学習を活用したデータ主導の客観的な測定へと進化しています。

成熟した組織では、サイバーセキュリティ戦略が経営上の投資と優先順位に直接的な影響を及ぼし、より広い視点を持つ経営幹部が包括的な意思決定を下すことになります。 私たちは、サイバーセキュリティリスク管理について、経営幹部が十分な情報に基づいて一貫性と透明性を備えた意思決定を行えるようにしたいと考えています。

進化する AI セキュリティの脅威に対応するために社内トレーニングをアップデートする

継続的な学習プログラムがあればよいというものではありません。プログラムは、セキュリティチームが新たな脅威や防御手法について学ぶためにきわめて重要です。 セキュリティ専門家は、安全で安心な環境で対応戦略を実施するために、実践的なシミュレーションベースのトレーニングを必要としています。 トレーニング内容は、動的かつパーソナライズされたものとし、チームメンバーの個々のスキルレベルや学習ペースに合わせます。

現在、業界では、特定のプログラミング言語における優れたスキルの開発に加えて、AI と機械学習に関する専門知識に重点が置かれています。 脅威の状況は変化を続けており、スキルもそれに応じて進化する必要があります。 セキュリティ専門家は、AI を活用したさまざまな攻撃について把握しておかなければなりません。

高度な AI を導入する際に人間を蔑ろにしてはいけません

AI と自動化は、予測分析を使用して洞察を導き、潜在的な脅威を特定することによってセキュリティ チームを支援しますが、 意思決定については、重要な意思決定を下す能力を備えた人間が行うべきです。 AI は大量のアラートや反復的なタスクの処理に大きな価値をもたらしますが、調査、根本原因の分析、予防措置の実施など、人間の介入を必要とする複雑なインシデントも依然として存在します。 企業は自動化と人間による分析をバランスよく両立させなければなりません。