[レポート]敵対的AIの進化:脅威インテリジェンス最前線からの物語 - CODE BLUE 2026 #codeblue_jp #codeblue2026

[レポート]敵対的AIの進化:脅威インテリジェンス最前線からの物語 - CODE BLUE 2026 #codeblue_jp #codeblue2026

CODE BLUE 2026で行われた「敵対的AIの進化:脅威インテリジェンス最前線からの物語」というセッションのレポートです。
2026.11.17

こんにちは、臼田です。

みなさん、セキュリティ対策してますか?(挨拶

今回はCODE BLUE 2026で行われた以下のセッションのレポートです。

敵対的AIの進化:脅威インテリジェンス最前線からの物語

生成AI(GenAI)のサイバー脅威環境への統合は、急激な革命ではなく、段階的な進化である。思惑ばかりが先行する「スーパーマルウェア」の幻想を脱し、現在のインテリジェンスが示すのは、脅威アクターがセキュリティ業界と歩調を合わせるようにして着実に成熟を遂げているという現実である。

本セッションでは、国家支援型のAPTグループや金銭目的の攻撃者が、業務のプロフェッショナル化(高度化)に向けていかにAIを活用しているかを追究する。当初はソーシャルエンジニアリングなどの戦術をスケールさせる目的で使われていたが、2026年のインテリジェンスは重大な転換を浮き彫りにしている。すなわち、AIは今やゼロデイ脆弱性の発見や新たなエクスプロイト生成におけるフォースマルチプライヤー(戦力倍増因子)となっている。さらに、オーケストレーションレイヤーやAPIを含むAIエコシステム自体が、初期侵入(イニシャルアクセス)のために極めて狙われやすいアタックサーフェス(攻撃対象領域)と化している。

エージェント型の自動化やジャストインタイム(JIT)でのコード改変など、2025年から2026年にかけて「野生(イン・ザ・ワイルド)」で観測された実際のユースケースを分析することにより、この脅威を追跡するための実践的なコンテキストを提供する。我々のゴールは、防御者がリアルタイムで攻撃者に先んじるための戦略的先見性を備えられるようにすることである。

Speakers: Daniel Kapellmann Zafra ダニエル・カペルマン・ザフラ

レポート

  • リラックスできるときのことを考えて
  • 最近はAIに関するニュースが大量にあってリラックスできない
  • 休暇を取ってオフィスに戻ってくるとリラックスできない
  • 1/4の問題がセキュリティの問題
  • 敵対的なAIについて
    • これまでもいろんな対応があった
    • Mandiantの研究などもある
  • 最初は全般的なAI脅威の進化の話から
  • より大きなトレンドやユースケースなども
  • 進化
    • 様々な脅威アクターがAIをつかって色々している
    • 実際に起きている問題
    • 侵害の際にはデバイスがどうなっているのか、どこにあるのか調査をしないといけない
    • これ自体はプロンプトを入れて見つけるわけだけど、早くなっている
    • スクリプトキディだけではない
    • いろんなことが起きているから新しいように見えて実は既存のものと同じ
  • AIのイベントタイムライン
    • チャットが出てきてAI利用が活発になった
    • 脆弱性の発見に使われていた
    • 最近では攻撃と防御両方で使われる
    • 防御AIを組み込んでサービスをリリースすることも
    • 産業規模の生成AIも使われる
  • Agentic AI
    • エージェント型
    • 複雑なことをやらせている
    • 意思決定もやらせている
    • あんまり人の手がかからなくてもできるように
  • AIアシスタント自動化
    • 攻撃者は最近ナレッジファイルを共有するようになってきた
    • ツールの共有などではない
    • LLMに依存しないで使い回せる
    • オーケストレーションしていろんなモデルを組み合わせて攻撃できる
  • エージェンティックハーベスティング
    • 情報収集
    • ダッシュボードを用意して収集した情報を表示している
    • 販売もできる
    • 裏側で収集が自動化されている状態
  • 実環境への影響
    • いろいろでている
    • 水道に対する影響もあった
    • 305台のOTに対して影響
    • 様々な組織にこれが展開されていった
    • バイブコーディングでアプリが作られていた
  • 状況が変わった
    • また攻撃者が使うツールが変わってきたニュースも出ていた
  • 実際どういう機能を持つのか?
    • 動的な検出回避
      • Promptflux
      • APIの侵害
    • 動的なEvasion
      • 正規のプロンプトで見分けられない
    • 動的ではない検出回避
    • エージェンティックな動作
      • ESETが確認したもの
      • Androidの携帯でも影響があった
      • 消そうとすると東名なボタンが上がるような悪質な作り
  • 攻撃者がどのように悪用できるか
  • 攻撃をするには沢山のリソースが必要
    • 最初はモデルを壊そうとしていた
  • AIエコシステム
    • いろんなガードレール回避がある
    • few-shotで回避するとか
  • 蒸留(Distilation)
    • いろんなモデルを取得して抽出される
    • 攻撃者にフロンティアモデルを使わせてはいけない
  • ダークウェブ側
    • 欲しいものは何でも手に入る
    • 目的に合わせたモデルを展開できる
    • 認証情報の窃取を狙う
    • 更に追加の攻撃ができるので
  • グレーマーケット
    • 自動登録
    • プロキシリレー
    • カスタムミドルウェア
    • 使っているツールにもアクセスできるようになる
  • LLMジャッキング
    • 最終的にはリソースへのアクセス
  • 守る
    • ポリシー、ガバナンス、脅威分析
    • アクセス制御をちゃんとするなど
    • 脅威インテリジェンスを活用する
  • 攻撃の間隔が短くなる

感想

昨今のAIを利用した攻撃の状況が綺麗にまとまっているセッションでした。

攻撃の進化をキャッチアップしていかないとですね。

この記事をシェアする

関連記事