[レポート]Antigent: An Autonomous Counter-Agent Against Agentic AI Attacker - CODE BLUE 2026 #codeblue_jp #codeblue2026

[レポート]Antigent: An Autonomous Counter-Agent Against Agentic AI Attacker - CODE BLUE 2026 #codeblue_jp #codeblue2026

CODE BLUE 2026で行われた「Antigent: An Autonomous Counter-Agent Against Agentic AI Attacker」というセッションのレポートです。
2026.11.17

こんにちは、臼田です。

みなさん、セキュリティ対策してますか?(挨拶

今回はCODE BLUE 2026で行われた以下のセッションのレポートです。

Antigent: An Autonomous Counter-Agent Against Agentic AI Attacker

近年、脅威アクターによってAIが悪用され、自律的な攻撃が行われる事例が観測されている。AIによる攻撃は、その速度とスケールから、防御側においてもAI活用を不可欠にしている。一方で防御側は、AIによる検知・対応の自動化は進展しているものの、攻撃シグナルに反応するものであり、相手がAIであることを積極的に防御策に活用するアプローチは、十分に検証されていない。すなわち、攻撃主体がAIであることを逆手にとって、その意思決定過程に働きかける対抗策が考えられる。

本研究は、自律的に攻撃を行うAIを相手に、動的に対抗するエージェント「Antigent」の実現を目的とした。発表者はこれまで、ペネトレーションテスト用のAIやAI駆動型のマルウェアなど、攻撃者目線でのAIの開発・検証経験があり、攻撃側AIの特性を把握した上で、防御側AIの設計に活用している。

本講演では、攻撃側AIに対抗する防御側AIのアプローチを、動作デモを通じて実演する。攻撃側AIには、誰でも構築できるエージェント環境(オープンウェイトLLM・公開されているペネトレーションテスト用スキル)を用い、守る対象には独自に構築した検証環境を用意する。Antigentは、観測したコマンドや挙動のパターンから攻撃側AIの次のアクションを推定し、その意思決定に使用される入力を動的に汚染して行動計画を狂わせ、自組織内での封じ込め・無力化を図る。あわせて、Antigent自身もまた攻撃側から新たな標的となりうることを示し、実運用に投入する前に不可欠となるレッドチーミングの観点を提示する。

この講演を通じて参加者は、攻撃側AIの意思決定に働きかけて動的に対応するというアプローチの有効性と限界を理解し、自組織内で完結する形でこれを実装するための設計指針、そして実運用に投入する前にAntigent自身の安全性をどう検証すべきかという要点を理解することができる。

Speakers: Hiroaki Toyota 豊田宏明

レポート

  • Antigentという攻撃エージェントを騙すもの
  • 攻撃エージェント研究に関する報告
  • AIの進化が激しくてどう防御するかが重要
  • 成果の一部はOSSで公開しているがよく理解して利用するように
  • Antigentとは
    • AntiAgentという意味がある
    • Antigenというbiologicalのダブルミーニング
    • 攻撃する側も想起されるがかっこよくした
  • Antigent全体像
    • 3つのプレーン
    • アタックのプレーン、攻撃が実行される
    • ターゲット、脆弱な環境
    • DefenseプレーンがAntigentが動く
    • ターゲットはDockerで動く
    • 通信ログなどをセンサーから取って集約する
    • 攻撃者から実行されたコマンドなどを拾って対応
    • MCPでAntigentを動かす
    • 全体を可視化している
    • アタッカーの情報はAntigentには直接入れていない
  • 背景と研究目的
    • AIアタッカーが実際に利用されている
    • ARTEXなどが実環境で使われている
    • どう防御するか
    • 攻撃が起こる前にどうするか、起きている時にどうするか
    • 脆弱性を見つけてくる場合には脆弱性対応をしていく
    • AIによって速く対応していく必要がある
    • 一方アタック最中もどうやればいいか?
    • 今回はここにフォーカス
  • Deception
    • 偽の情報を用いて遅延等させる
    • LLMは返す情報を元に次のアクションを決定している
    • しかし限界もある
    • ハニートークンを置いたとしても無視される可能性がある
    • 信じ込ませる必要がある
    • AIアタッカーもこの手法を前提に行動することができる
    • 実際にその場合に上手く行かないケースも研究で報告されている
    • 適用的にDefendする必要がある
  • 関係するもの
    • 攻撃者の人に対してハニーポット
    • AIアタッカーにはStatic decoysがきかない
  • 似たようなもの
    • AgentSnare
    • AgentTrap
  • リサーチ
    • 攻撃者の次の手を予測する
    • 置いたデコイをどう読ませるといいのか、検討して設置
    • いかに信じさせて攻撃者の行動を決めさせるか
  • 脅威モデル
    • ハックバックや初期侵入の防止などはスコープ外
  • Antigentアーキテクチャと動作
    • AGENTSとSkillsを最適化するのが基本
    • シナリオに対するアダプタやゲートウェイなども
  • どうやって動くか
    • センサーがデータを収集
  • カウンターの定義
    • 攻撃者を騙す
    • 次見る場所に本物らしい嘘の情報を入れる
  • 動作skillsが複数ある
    • 様子見だけのものも
  • 構成
    • CI/CD goat
    • 攻撃をして最後は評価するのを繰り返す
    • Optimizerで改善する
  • 計測
    • どの程度攻撃を抑制できたかなど
    • 攻撃者の行動予測がどれくらいあたったか
    • などなど
  • デモ
    • 偵察から始める
    • コンソールの画面
    • 偵察アクションからファイルを列挙すると予想
    • 予測結果に対処が必要かも判断がされる
  • 結果
    • 2回やると精度が良い
    • 設置したデコイによって攻撃者のコントロオールができた
  • 失敗したこと
    • 予測した結果が違ってコントロールできないなど
      -まとめ
      • 攻撃者の次のアクションの予測はある程度できる

感想

面白いアプローチですね。実際の調査結果も興味深いです。

守る側もいろんな手法やサービスやツールで守っていかなければですね。

この記事をシェアする

関連記事