サイバー攻撃での生成AIの使い方には、人が攻撃の準備に使う場合と、攻撃中に動くプログラムがAIを呼び出して処理に使う場合があります。AIへの質問や試作が観測されただけの報告もあるため、記事を読むときは、何を使って何が起きたと確認できたのかを見ます。Microsoftの調査・GTIGの調査
準備・実行・試作で、AIが担ったことを比べる
| 段階 | AIにさせたこと | 調査機関が確認した範囲 |
|---|---|---|
| 準備 | シンクタンクや専門家を調べ、文面を作る | Microsoftは、Emerald Sleetと呼ぶ攻撃主体の言語モデル利用を調査しました。文面については、標的に合わせたフィッシングに使うとみられるものと説明しています。Microsoftの報告 |
| 実行 | 端末の情報や文書を集める命令を作る | GTIGは、実際の攻撃で使われた不正プログラムPROMPTSTEALを分析しました。プログラムが実行中に言語モデルへ命令の生成を求め、その結果を端末で実行する仕組みでした。GTIGの2025年報告 |
| 実行 | 脆弱性を探す処理を進め、認証情報の収集を支援する | Mandiantは、攻撃者がすでに侵害したクラウド環境で、AIを組み込んだ仕組みで探索や認証情報の収集を行った例を観測しました。GTIGの2026年報告 |
| 試作・試験 | 検知を逃れるため、不正プログラムを書き換える内容を生成する | GTIGはPROMPTFLUXの仕組みを調べ、観測した活動を開発または試験段階と評価しました。被害者の端末に侵入した事例としては扱っていません。GTIGの2025年報告 |
準備にはコードを書く作業もあります。GTIGは別の例として、ある攻撃グループが、脆弱性を悪用するプログラムを書いたり、エラーを解消したりするために複数の言語モデルを試したと報告しています。GTIGの2026年報告
AIが使われたという情報から、どこまで分かる?
文面を作るためにAIを使ったことが分かっても、その文面を相手に送ったか、相手が開いたか、情報が盗まれたかは、別の根拠で確かめる必要があります。実行中にAIを使った報告でも、たとえばMandiantの例は侵害後のクラウド環境での利用です。そのAIが最初の侵入を行ったと結論づけることはできません。Microsoftの報告・GTIGの2026年報告
「自動化」と書かれていたら、攻撃者が工程を用意したうえでプログラムが作業を進めたのか、実行中の一部の処理を言語モデルが担ったのかを確かめます。調査機関が見つけた一部の事例だけで、すべての攻撃にAIが使われる頻度や、AIによって被害がどれだけ大きくなったかは分かりません。
国内の公表事例は、確認された手口と被害を読む
東京農工大学の事例では、不正にログインされた教職員のアカウントからフィッシングメールが送信されました。大学の公表は不正ログインとメール送信を説明し、AIの使用には言及していません。見慣れた送信者からのメールや自然な文面を見ても、AIの使用や連絡の真偽は判断できません。東京農工大学の発表
メールやメッセージの仕組みはフィッシングの解説、侵入から被害が生じる例はサイバー攻撃の侵入経路で確認できます。
