生成AI誕生に伴って変化するサイバーセキュリティ対応とは？概要と生成AIが持つリスク・活用方法について解説！

企業のセキュリティ担当者は、常に新しい脅威と向き合いながら対策を立てて、企業をサイバー攻撃から守る役割があります。日々、サーバ攻撃が巧妙になっている中、注目を集めている新技術「生成AI」によってサイバーセキュリティの在り方が変化しているのです。

以下では、「生成AI」の具体的な概要から、「生成AI」誕生によって起こるサイバーセキュリティリスク、生成AIをサイバーセキュリティに活用する方法などを紹介します。

ぜひ、最後までご覧下さい。

 

 

近年社会に浸透しつつある「生成AI」とは？

生成AIとは「ジェネレーティブAI」とも呼ばれており、学習済みのデータを活用してオリジナルデータを生成するAIのことです。身近なサービスとしてテキスト生成AI「ChatGPT」や画像生成AI「DALL-E」などが注目されています。

 

生成AIの仕組み・特徴

生成AIがコンテンツを生み出すための準備として、大量の学習データを与える必要があります。

主に「ディープラーニング(深層学習)と呼ばれる機械学習の手法を採用しており、与えられた学習データを元にAI自身が最善の回答を探し出してくことによって「0から1を生み出す」ことが可能となり、より高度なコンテンツを創造できるようになるのです。

 

従来の「AI」と「生成AI」の違いとは？

従来のAIは「過去に学習したデータの中から適切な回答を検索して提示する」という特徴を持っていました。

しかし、生成AIは「大量のデータを組み合わせることで0→1を生み出す」というのが特徴的です。

これまで0から1を生み出す作業は人間にしかできないことと思われていましたが、生成AIにより「アイディア創出」も任せられるようになり、創造性の高い作業も自動化できるようになりました。

 

 

「生成AI」登場におけるサイバーセキュリティのリスクとは？

「生成AI」におけるサイバーセキュリティリスクには、主に以下があります。

・利用者としてのリスク

・生成AIサービス提供者のリスク

・社会のリスク

それぞれを、以下で具体的に解説します。

 

利用者としてのリスク

具体的に「生成AIを利用する人」が直面するリスクを指します。

起こり得る問題として「情報漏洩」「権利侵害(加害)」の他、生成AIが出力した誤った情報をそのまま鵜呑みにして利用することで発生する問題も含まれます。

 

生成AIサービス提供者のリスク

生成AIを提供している事業者が一般利用者に対して生成AIサービスを提供する際に直面するリスクのことです。

法令違反に関連するケースだけでなく、「権利侵害」「誤った情報の提供によって事業者のブランドイメージが損なわれる」等も含まれます。

 

社会のリスク

生成AIに関わらない人々を巻き込んだ広範囲なリスクを指します。

具体例として、誰かが生成AIを利用することで、「権利侵害」「犯罪に巻き込まれる」等の確率が高まるのです。欧米諸国においては、社会的なリスクに警戒の目を向けられており、一部の人々はAIの利用を制限すべきと主張しています。

近年は「ディープフェイク」と呼ばれる既存の画像と映像を重ね合わせることで、嘘の情報を生成することで風評被害を作り出すことも問題です。

 

 

生成AIをサイバーセキュリティに活用する方法

「生成AI」がサイバー攻撃に悪用されるリスクがある反面、「生成AI」を利用してセキュリティを高めていく方法も考えられています。以下で、具体的に活用する方法を押さえておきましょう。

 

情報管理

過去の大規模なセキュリティ関連情報を利用して生成AIに情報を与えることでトレーニングを行います。

これによって増え続ける有用な情報を抽出、要約を生成することが可能です。

従来のRSSフィードと比べて、情報の選別作業を自動化できるメリットがあります。

 

マルウェア分析

マルウェアの特徴パターンと検出方法を情報として与えることで、コードの異常を検出することができます。

さらに、難読化解除の外部ツールを使用できるようにトレーニングすることで、生成AIの精度を強化することも可能です。

 

ツール開発

生成AIは複雑なコーディング作業を自動化できる可能性を持っています。

開発者を支援するコードを作成することが可能であり、最先端のモデルを利用すると、コードのデバッグを自動化することが可能です。

 

リスク評価

生成AIに適切なケースを与えることでモデルの焦点と動作に特定のバイアスを掛けることができます。

そこに複数の利用者をエミュレートさせることでさまざまなリスクシナリオを評価して、洞察を得ることが可能です。

 

インシデント対応

組織のインシデント対応を支援するツールとして生成AIを使用できます。

インシデントに関連するペイロード分析を行うための洞察を含むワークフローを作成することで、解決時間を短縮可能です。すべてのシナリオに対応したトレーニングは現実的ではないため、検索拡張を用いることが重要です。

 

脅威インテリジェンス

セキュリティ侵害インジケーター、マルウェアのサンプル、悪意のあるURLなどの膨大な量の構造化データと日構造化データを分析して、「現在の脅威状況」「新たな傾向」「潜在的な脆弱性」について洞察力の富んだレポートを生成することができます。

 

テーブルトップ

最新のセキュリティ事案に関連したニュースを入力することで、組織へのリスクと議題を生成することで、組織内のさまざまな議論・会議に活用できます。

 

 

「生成AI」など新たなトレンドに目を向けて、対策を行おう！

この記事では、生成AIの概要と「生成AI」登場に伴って懸念されるリスク、生成AIをサイバーセキュリティに活用する方法などを紹介しました。

新しい技術が誕生して注目を集めた際には、「どのような影響がセキュリティ面で起こるのか」を考えて対策を設計することが求められます。