ごあいさつ

みなさまはじめまして、NOP ビジネス開発部の山田 晟（あきら）です。
日頃はFortinet製品担当SEとして業務に従事しております。
……が、今回は少し視点を変えて「AIとセキュリティ」に関するトピックをお届けしたいと思います！

というのも先日、RSA Conference 2025（以下、RSAC 2025）に参加してきました。
なので、イベントで収集してきたサイバーセキュリティの最新トレンドを共有いたします。

上記のように、既に公開されているブログ記事にもありますが、
セキュリティの最前線は、とにかくAIの話題で持ちきりでした。
今回は、「AIとセキュリティ編」と題して、
AIを取り巻くセキュリティの最新動向についてわかりやすくご紹介いたします。

AIの用語についてざっくり整理

本題に移る前に、AIに関する前提知識についてのおさらいをしておきましょう。

加えて、トレンドについてもちょっとだけフライングします。
RSAC 2025 では、「Agentic AI」が一番の注目ワードでした。
なのでまずは、AIに関する用語の整理をしつつ、
そのまま続けて「Agentic AI」の紹介をします。

　　ご紹介するAI関連ワードの包含図

AI（Artificial Intelligence）
人工知能です。
記事作成にあたって改めて調べると定義は様々でしたので、今回はAI君自身の回答を引用します。
“人間のように「学習」「推論」「判断」「認識」などの知的な活動をコンピュータに行わせる技術や仕組みのことを指します” （by Microsoft Copilot君）

機械学習（Machine Learning）
大量のデータを読み込ませることでAIに学習させる手法です。
データから規則・パターンを学習させ、それを基にAIが予測や分類を行えるようになります。

深層学習（Deep Learning）
人間の神経細胞の仕組みを模倣した「ニューラルネットワーク」を使った機械学習の一種で、
機械学習よりも人間の認識と近い過程を経て回答を導き出せます。
複雑な表現を学習することができ、画像や音声、自然言語処理が得意です。
※厳密にはディープラーニングの中の一つの手法がニューラルネットワークのようですが、
　本記事では一旦割愛させてください。

生成AI（Generative AI）
学習したデータを基に新しいコンテンツを生成可能なAIです。
ニューラルネットワークを使用して大量のデータを分析し、パターンや特徴を抽出した上で、
これらのパターンを利用して新しいデータを生成することができます。

AIという概念に触れていく中で、聞いたことのある単語がいくつも登場してきました。
こうして包含関係として整理してみると、
AIに関する各用語は独立している訳ではなく、結構地続きでつながっていることが分かりますね。
「なんだか難しそう」と、必要以上に身構えなくとも大丈夫そうです！

そして次は、注目のAgentic AIです！

Agentic AI
生成AIの中でも、目標達成のために継続的・自律的に意思決定・行動するAIを指します。
人間から命令を受けなくとも、与えられた目標に必要なアクションを自ら考え実行できます。

Agentic AI ＝ RPGでよくある、”王様から指示されて、魔王を倒す使命を託された勇者”
をイメージしてみてください。

勇者が「魔王を倒す」 という使命を遂げるには、
「たたかう」「どうぐ」「にげる」を選択しながら、
立ちはだかるスライムや中ボス、四天王を乗り越えて魔王城まで辿り着く必要がありますよね。

・魔王城までの道のり：目標達成に必要な道筋・戦略を考える
・「たたかう」「どうぐ」「にげる」を選ぶ：随時状況に応じた適切な判断・意思決定
・立ちはだかるスライムや中ボス、四天王も倒す：目標に付随した小タスクの実行、阻害要因の排除

これらのタスクをこなしながら、最終的に「魔王を倒してゲームクリア！」
……ここまでを一貫して担えるのが、勇者 ＝ Agentic AIなのです。凄い。

「Agentic AIについて知って欲しい！　伝わってくれ！」
という思いからいろいろと言い換えてみましたが、
改めて特徴を抽出すると、
与えられた”目標達成のために”、”継続的”・”自律的”に行動出来るAI です！

「AI for Security」？　「Security for AI」？

今回の記事はAIとセキュリティ編と題しました。
ご存知の方も多いかもしれませんが、
「AIとセキュリティ」と言っても、大きく2つのカテゴリに分かれています。
「AI for Security」と「Security for AI」です。
ざっくりですが、それぞれの意味を以下のように整理してみます。

○AI for Security（セキュリティのためのAI）
→ AIを活用することでより高度なセキュリティを実現しよう
例：SOC(Security Operation Center)の以下オペレーションに対するAIの活用
・フォレンジック調査・分析
・インシデントのトリアージ
・インシデントの自動応答
・潜在的なリスクの発見・予防

○Security for AI（AIのためのセキュリティ）
→安心・安全にAIを利用するために、AIを脅威から守ろう
例：
・AI利用時におけるユーザの個人情報漏洩リスク
・AIを標的とした攻撃からの保護
・ハッカーによるAIの悪用防止

RSAC 2025全体のトレンドについても、この2つを軸にお届けします。

AI for Securityのトレンド

まずは「AI for Security」のトレンドについてです。
特にお伝えしたいこと３つに絞ってご紹介します。

①AI for Securityはもはや死語！
②Agentic AIの台頭
③プロアクティブなセキュリティの必要性

それぞれ説明していきます！

①AI for Securityはもはや死語！

RSAC 2025ではさまざまなベンダがブースを出展しておりまして、
各社の製品・サービスを見て、聞いて、触れて学ぶことができます。
RSAC 2025のブースを一通り見て回った第一印象は
「ほぼ全てのソリューションがAIを標準搭載しているぞ……!!」
セキュリティの最前線は既に「AIの無いセキュリティなんてありえない」 時代に突入しています。
AI for Security ≒ Security、と言っても過言ではありません。
そういう意味で、「AI for Securityはもはや死語」という訳です。

②Agentic AIの台頭
前のパートで触れたAgentic AIです。
AI for Security ≒ Security の分野ではAgentic AI君が大活躍です。
Agentic AI君に与えられた目標は「セキュリティリスクが無い状態」です。
セキュリティリスクが無い状態を達成・維持するために、
Agentic AI君は継続的・自律的に活動します。
インシデントが大量に発生したのであれば、優先順位を決めて対処しますし、
セキュリティを評価し続け、脆弱性やセキュリティの穴を発見したら修復・対策を実行します。
凄い。

③プロアクティブなセキュリティの必要性
※プロアクティブ = 積極的に促すさま。また、事前に対策を講じるさま（出典：デジタル大辞泉）

RSAC 2025 を通じて、”セキュリティ”のニュアンスが変わってきているような印象を受けました。
今までの”セキュリティ対策”は、どんと構えて防御するような、
いわば受動的なイメージでしたが、
Agentic AIが担うセキュリティは、とても能動的ですよね。
「継続的にセキュリティを評価し続ける」「セキュリティリスクが無いか探し回る」
といった、防御というよりはむしろ、攻撃者側のスタンスに似ています。

Agentic AIを搭載しているソリューションは、
レッドチームやペネトレーションテストといった機能も兼ね備えているものが多かったです。

セキュリティそのもののスタンスが受動的→能動的、防御≒攻撃、に変わりつつあるなぁ、
という話でした！

Security for AIのトレンド

次のパートは「Security for AI」です！

おさらいのため再掲：
○Security for AI（AIのためのセキュリティ）
→安心・安全にAIを利用するために、AIを脅威から守ろう

Security for AIにはざっくり2つの種類があります。

①ユーザがAIを安全に利用できるようにする
AIを利用している中で、ユーザの個人情報や企業の機密情報が意図せず漏洩してしまうことを防ぐ
イメージとしては「AIが何か手違いを起こさないようにする」といった感じです。

②AI自身を脅威から守る
AIというプラットフォームは、新しい攻撃対象でもあります。
企業がAI基盤を自社内で開発・運用することを検討する背景としては、
「AIを導入したいが、社内の機密情報は流出させたくない」というのが
というのが一番の理由だと思います。
つまり「機密情報を沢山学習したAI君。ちゃんと守らなきゃ」というわけです。

テーマの深堀り：①ユーザがAIを安全に利用出来るようにする
このテーマに関しては、
「ガバナンス・フレームワーク的なトピック」と「技術的なトピック」の観点に分けて整理します。

ガバナンス・フレームワーク的なトピック

・法律やガイドラインによるAIの規制
国家や経済組織全体で、AIの使い方や、そもそも利用しても良いAIアプリケーション
に関するきまりごとを作る取り組みが動き出しています。
世界初のAI規制法　「EU AI Act」の策定に携わる方々がスピーカーを務めたセッションは、
非常に注目を集めていました！

・3rd Party AI リスク管理の重要性
3rd Party AIには以下が該当します。
①自社の取引先やサプライチェーン全体で利用されているAI
②企業が正式に導入したAIではなく、社員が個人的に利用しているAI（＝シャドーAI）
③企業が自社で構築したのではなく、外部ベンダが開発・運用するAIツール / モデル / サービス
※「え、③も対象なんですか！？」と思ったのは私だけではないはずです。

3rd Party AIのリスクは主に、情報漏洩やAIによる誤回答・バイアスが挙げられます。
①②は言わずもがなですが、③については、3rd party AIのセッションで
「外部ベンダから調達して社内に導入したAIのシステムが、
　内部的にどういったデータをやり取りしてるか、ちゃんと全部把握していますか？
　何かあった時に、誰がどうやって対処するか、準備出来てますか？　責任の所在は？」
と指摘していました。リスク管理の重要性がよく分かりますね。

EU AI Actや3rd Party AIのリスク管理については、
・国家や企業、サプライチェーン全体という大きな枠組みで考える必要がある
・立法者や経営者、関係各部署とAI技術の専門家が協力して取り組む必要がある
・組織全体のAIリテラシーの向上が求められる
誰か一人ではなく皆でAIと向き合わないといけない、という課題が浮き彫りになっていました。
ITリテラシーと同様にAIリテラシーが求められる時代は、実は既に始まっているんですね……！

技術的なトピック

・DLP（Data Leak Prevention)）、DSPM（Data Security Posture Management）
→情報漏洩防止、データの可視化、識別、リスク評価、保護。
　AIによるデータの編集履歴やデータフローを監視・制御する。

　
・NHI（Non-Human Identity）管理
→人ではないアプリケーションやAIをID（プロセスの主体）として、
　アクションやデータリソースへのアクセス権を制御する。必要最低限の権限を付与する。
　Agentic AIの台頭によって、NHIの数が膨大に増えてきている。

いずれも従来からあるソリューション・概念なので、ここでは控え目にご紹介しました。
これらのトピックは、AIと直接関係している訳ではありません。
ただ、AIの登場によって、情報漏洩のリスクやデータの監視・保護に対する意識が高まったこと、
AIをプロセスの主体として捉え、リソースへのアクセス権限や行動を管理する必要性が出てきたことから、
結果として、これまで以上に重要性が増してきている、という印象でした！

従来のソリューションだけでなく、AIと密接に関わりのあるソリューションもご紹介します。

・AI / LLM Guardrails
個人情報（PII,PCI,PHI等）のマスキング、非識別化（de-identification）、
データポイズニングやプロンプトインジェクション等、悪意のある攻撃を防ぐ。

※情報漏洩を防ぐ、という意味では、DLPと似たような機能も含まれていますが、
DLPはデータ自体のInput / Outputを監視しているのに対して、
AI / LLM GuardrailsはAIのInput / Outputを監視しています。

AI Guardrailsのイメージ図

AI Guardrailsの一例）出典：Enkrypt AI 公式サイト

AI / LLM Guardrailsは、AIを導入するにあたっては必須ですね！

テーマの深堀り：②AI自体を脅威から守る

前段としてAIを脅かす様々な攻撃手法も紹介したいのですが、
ここでは詳細を割愛します。

参考として以下のフレームワークをご紹介します。

OWASP Top 10 for LLM Applications 2025
OWASP（Open Worldwide Application Security Project：オワスプ）
が提唱するセキュリティフレームワークで、
LLMアプリケーションに特化した10種類のセキュリティリスクをまとめたもの

出典：OWASP公式サイト

ATLAS Matrix | MITRE ATLAS™
サイバー脅威や攻撃手法に関するMITREフレームワークの中でも、
人工知能（AI）システムに特化したもの。

出典：MITRE ATLAS 公式サイト

AI自体を守るセキュリティは、一般的にはAI Securityと呼ばれ、
モデルセキュリティ、データセキュリティ、推論セキュリティ等が例として挙げられます。
AIモデルの盗用・改ざんや、 学習データのポイズニング、
出力からの情報漏洩等を防ぐソリューションなどがあります。

​​​​​​​

AI Securityの一例）出典：HIDDENLAYER(AIモデルの保護等)公式サイト

侵入・攻撃は完全には防げない前提で、「侵入 / 汚染を受けてしまったLLMをどう修復するか？」
といった観点のソリューションも登場し始めていました。
※EPP（Endpoint Protection Platform）とEDR（Endpoint Detection and Response）の対比、
という文脈におけるEDRの考え方と似ていて面白いですね！

AIに学習させてしまった個人情報や誤ったナレッジを取り除く「アンラーニング」機能については
データポイズニング対策のみならず、AIの推論を最適化するためにも活用が見込まれますので、
今後は必須になってくる気がします！

まとめ

最後に、今回のトピックを簡単に振り返ります。

AI for Security
①「AI for Security」はほぼ死語でした。
AIの搭載されていないSOCソリューションはほとんど見当たりませんでした。
AI時代に乗り遅れるな！

②Agentic AIの台頭
継続的・自律的に活動するAIです。
人間から逐一指示を受けずとも仕事をしてくれます。
自律的に仕事をしてくれるのは嬉しいですが、
AIをどこまで信頼出来るか、そのための仕組みづくりが課題ですね。
AIのアクティビティに関する監査ログや、
実行したタスクについて人間に理解可能な説明が求められると思います！

③プロアクティブなセキュリティの必要性
セキュリティのニュアンスがプロアクティブなニュアンスに変わってきている印象を受けました。
受動的→能動的、防御≒攻撃、という感じです！

Security for AI

○ガバナンス・フレームワーク
AIの技術的革新が早過ぎて立法者側が苦労している印象です。
専門家だけがAIに詳しくても、事は進まないものだな、と思いました。
みんなでAIリテラシーを向上させていきましょう！

○テクノロジー
AIの台頭によってDLP、DSPM、NHIなど、従来のソリューションの重要性が増してきています。
また、AI / LLM GuardrailsやAIセキュリティのような新しい領域も非常に盛り上がっていました！
まだまだ発展が見込めますし、今後の動向が楽しみですね！

それでは！