[レポート]基調講演:フロンティアAI時代のサイバーセキュリティと能力構築 - CODE BLUE 2026 #codeblue_jp #codeblue2026

[レポート]基調講演:フロンティアAI時代のサイバーセキュリティと能力構築 - CODE BLUE 2026 #codeblue_jp #codeblue2026

CODE BLUE 2026で行われた「基調講演:フロンティアAI時代のサイバーセキュリティと能力構築」というセッションのレポートです。
2026.11.17

こんにちは、臼田です。

みなさん、セキュリティ対策してますか?(挨拶

今回はCODE BLUE 2026で行われた以下のセッションのレポートです。

ENISA(欧州連合サイバーセキュリティ機関)の登壇者が、このAI時代にどう対処していくかを深堀りしたり実際にやっている取り組みについて紹介されたセッションでした。

基調講演:フロンティアAI時代のサイバーセキュリティと能力構築

Frontier AIは、サイバーセキュリティにおける攻撃の速度と規模を根本から変え始めています。これまで高度な専門知識と時間を必要としていた脆弱性の発見、分析、悪用が、高度なAIモデルによって自動化され、複数の脆弱性を組み合わせた攻撃まで可能になりつつあります。

その結果、従来の脆弱性管理や攻撃のライフサイクルは急速に短縮されています。脆弱性が発見されてから悪用されるまでの猶予は、数日、数時間から数分へ、さらにはほとんど存在しなくなる可能性があります。一方、防御側は、急増する脆弱性やAIによって生成される報告、迅速なパッチ適用が困難なレガシーシステム、そして依然として「人間の速度」で動く組織の意思決定プロセスに直面しています。

攻撃者が「機械の速度」で動くようになったとき、サイバーセキュリティはどう変わるべきなのでしょうか。

本講演では、Frontier AI時代のサイバーセキュリティに関するENISAの最新の取り組みをもとに、脆弱性管理、インシデント対応、セキュアなソフトウェア開発、セキュリティ運用に生じる構造的な変化を考察します。さらに、リスクに基づく迅速な優先順位付け、自動化、AIを活用した防御、侵害を前提としたアーキテクチャ、そして「Cybersecurity as Code」といった考え方を通じて、防御側がどのように対応できるのかを紹介します。

サイバーセキュリティの基本原則そのものは変わりません。しかし、それを実践する「速度」は、大きく変えなければならないかもしれません。

Speakers: Christian Van Heurck クリスチャン・ヴァン・ホーク、Ioannis Agrafiotis ヤニス・アグラフィオティス

関連資料

講演で触れられたENISAのレポートです。

レポート

  • オックスフォード大学での研究を報告する
  • AI型の攻撃に関するレポート
  • しかし私は予測が得意ではない
  • Agentic AIのシステムについて同僚はプロパゲートについて関心を持っていた
    • 私はLLMはハルシネーションもあってジェイルブレイクもあって、本当にAgentic AIの仕組みが必要か懐疑的だった
    • しかし実際には変わった
    • 今はAgentic AIがよく使われている
    • LLMだけではなくToolsが組み合わさり協調して共通の目的に向かうことができるようになった
  • 脅威モデル
    • Agentic AIのセキュリティに関する脅威モデル
    • 伝統的なサイバーセキュリティの項目もある
    • いろんな活動もある
    • LLM自体の攻撃も気にする必要が出てきた
  • OWASP TOP 10
    • LLMも脅威やプロンプトインジェクションなどもある
    • こちらも伝統的なサイバーセキュリティの懸念もある
  • 見落としていたのは人がAIを使ってより良い攻撃を探している
    • 我々の対応が遅れていく
    • セキュリティにもAIを統合していく必要が出てきている
    • 脅威の状況は悪い
    • 侵入の75%はログで見つけられるが分断化されているのでビジビリティが良くない
    • 当時のENISAのレポートからは様々な攻撃が迅速化していることが分かった
    • そしてキルチェーンも変わっている
  • サイバーキルチェーンの分類
    • 伝統的なものもある
    • AIキルチェーンや偵察などもある
  • ECHO-LEAK ATTACK
    • マイクロソフト Copilotに対する攻撃
    • 最終的にデータを搾取する
    • Teamsに文章をあげる指示だった
    • この漏洩をブロックする仕組みはあった
  • これを既存キルチェーンでどうプロットするか
    • メールを作って送って受けて、Copilotがどう処理するか
    • プロンプトの実行がどう起きるのか、データがどう取れるのか
    • キルチェーンに適切にマッピングできなくなっている
    • そこでAIキルチェーンを活用する
    • 攻撃準備やAIシステムへのアクセスなどが含まれる
    • 既存だとデリバリー部分でいろいろやっていることになる
    • キルチェーンを2Dマッピングするとよくわかる
  • McKinsey Lili AI Platform Compromise
    • SQLインジェクションされた
    • そのデータベースにプロンプトがあった
    • 攻撃の流れ
      • APIのドキュメントにアクセスする
      • そのような流れは既存でマッピングしづらい
      • 調査になる
    • AIの攻撃は従来的なキルチェーンでマッピングしづらい
    • APIのエンドポイントを見つけて確認していく流れになる
    • AIシステムのコントロールで前半部分が忘れがちになる
  • Agentic AI脅威のコントロールをする
    • 確定論的なコントロールは良くない
    • アクセス制御などは決定論的にやる
    • Agentic AIに対する個別のコントロールも必要
    • 両方のビジビリティを確保するかが重要
    • どうするか?アーキテクチャの判断をしないといけない
      • 決定論的にポリシーを強制できるのか?
      • データセットに対するアクセスに対するアクセス許可どうするのか?
      • RAGのインフォメーションをどうするか?
    • 最近はAgentic Hubを利用することが多くなっている
      • どれだけ沢山のログが生まれてくるか
      • どうログを扱うのか
      • AIツールは使わなければならないかログの集め方と解釈の仕方が課題
  • 危機を解決する手段は常にチームワークである
  • AIのセキュリティには決定論的な仕組みが欲しい
  • 我々は以前からある問題にまだ対応していて、その対応が遅れている
  • 最新の脆弱性でWebサイトを落とす事象がある
  • パッチ適用をして対応していく機運が増えているのは良いこと
  • あらゆる仕組みがスーツを着て攻撃してくる
    • 使われているCVEは2014年のもの
    • 6時間以内に侵害されている
    • 従来型のサーバーセキュリティの時代は終わった
  • パニックだけれどもそのうち安定化する
    • Google/Microsoftがいろんなパッチを出してきている
    • こういった組織には予算がある
    • 人的資産も投入できる
    • しかしOSS側は状況が違う
    • セキュリティコミュニティでは従来から指摘されていたが、十分に対応できてきていない
    • OSSにはハイリスクな欠陥が含まれている
  • 一方でいろんなことは加速している
    • 誰もがToolboxとしてAIを活用できる
    • しかしパッチを適用するのは多くの場合は人間
    • そして多くの組織がパッチ適用に追いつけない
  • 脆弱性のライフサイクル
    • 脆弱性の検出数は増えている
    • ゼロデイの検出は少し抑えめになった
  • OSSの対策
    • 低品質のAIが大量に来て対策しなければいけなくなった
    • メディアはAIを攻撃者がどう使うかに注目している
    • しかし我々はいい方向にAIを使うことを考えなければいけない
    • 当時はそういうリスクは無かったがフロンティアモデルが活用できるようになった
    • 守るためにもこれを利用していくべき
    • バイブコーディングを活用するといろんな脆弱性が組み込まれるところは気をつけなければいけない
    • 新しい脆弱性が組み込まれる危険性も考慮しなければいけない
    • アプローチを変える必要がある
  • EUの状況について
    • EU AI Action Planがある
      • EUが何をしようとしているのか?
      • ハンズオンのプログラムを実行している
      • セキュアなテスティングプログラムを提供
      • AIチームを使ってガイダンス・勧告・ベストプラクティスを提供
      • OSSサポートキャンペーンをしている
  • AI関連のグラウンドチャレンジをしている
    • フロンティアモデルに対するアクセスができる
    • Mistralから連絡があって枠組みに加わった
  • 7ステップのテストサイクル
    • Agenticハーネス
    • AIディスカバリー
    • 人の介在
    • AIエクスプロイト
    • パッチ適用
    • コストの評価
  • 脆弱性に対する対応
    • 脆弱性によって世界が終わったわけではない
    • CVSSスコアが極めて高くてもそれだけでは情報が足りない
    • ENISAのレポートにはその報告がある
    • 68の脆弱性が報告されたが到達が可能か、エクスプロイトが可能か、このあたりも必要
  • リスクベースのアクション
    • AIの時代にも有効
    • 効率的にやっていこう
    • カナリアテストやバックアッププランもやっていく
  • 10のパッケージについての調査
    • 重要度が高いものに集中していくが、偽陽性が高いかは気にするところ
  • トークンコストも気にすること
    • KEYCLOAKの事例
  • 賢い演習をやっていこう
    • 組織全体としてどう危機に対処していくか
    • 個人情報の漏洩があってはいけないのでテクニカルなチームだけ頑張ってもだめ
    • 演習のFIRST LIGHT 2027を作った
    • ドキュメントの内容は公開されている
  • ソーシャルエンジニアリング
    • これも一緒にやっていく
  • フロンティアAIに対する独自のセキュリティもやっていく必要がある
  • ENISAはOSSに対して強く支持している
    • 彼らも助けを求めている
  • AIは本来の目的に使っていこう

感想

やっていくことは山積みですが、全方位やっていく必要がありますね。

レポートの内容は有益だと思うので、AIを使って理解して活用していきましょう(これからやります

この記事をシェアする

関連記事