AI エージェントのセキュリティ:ソフトウェア開発ライフサイクル全体への OWASP Top 10 の適用

本ブログは「Harness」社で2026年11月04日に公開された「 AI Agent Security: Applying the OWASP Top 10 Across the Software Development Lifecycle 」の日本語翻訳です。


たった1つの汚染された Web ページが、AI エージェントを乗っ取るのに十分な場合があります。組織が回答を生成する AI アシスタントから、自律的に行動する AI エージェントへと移行するにつれ、セキュリティリスクも変化しています。エージェントは機密データにアクセスし、コードを実行し、設定を変更し、外部システムとやり取りできます。そのため、ミスや悪意のある指示は、誤った回答をはるかに超える影響をもたらす可能性があります。

しかし多くの組織は、AI エージェントのセキュリティを主にランタイムの問題として捉え、デプロイ後にエージェントの挙動を監視し、悪意のある操作をブロックすることに注力しています。ランタイム保護は不可欠ですが、それが対処できるのは脅威全体の一部にすぎません。

Harness のウェビナー「Agent Security Is More Than Runtime: The OWASP Agentic Top 10 Across the Full Lifecycle(エージェントセキュリティはランタイムだけではない:ライフサイクル全体にわたる OWASP Agentic Top 10)」では、Harness のプロダクトマーケティング担当シニアディレクターである Renny Shen が、組織にはより広範なアプローチが必要な理由を解説しています。OWASP Top 10 for Agentic Applications をソフトウェア開発ライフサイクルに対応付けることで、チームはどのリスクを開発段階で対処すべきか、どの対策をデリバリーパイプラインで適用すべきか、そしてどの脅威にはエージェントの実行中の保護が必要かを特定できます。

結論はシンプルです。ランタイム保護はスキャンでは見えないものを捉え、スキャンはランタイム保護が捉えなければならないものを減らします。

AI エージェントが新たなセキュリティリスクをもたらす理由

従来のアプリケーションは、一般的に予測可能なライフサイクルに従います。チームはコードを書き、テストし、スキャンし、デプロイします。本番環境で脆弱性が見つかることはあっても、デプロイされるソフトウェア自体は比較的明確に定義されています。

AI エージェントは、より動的な脅威モデルをもたらします。エージェントは次のステップを計画し、ツールを選択し、認証情報を使用し、情報をメモリに保持し、人間がすべての判断をレビューすることなく行動できます。

特に重要なのは、次の4つの特性です。

  • 自律性: エージェントは次に何をするかを自ら決定し、人間による継続的な監督なしに行動できます。
  • ツールへのアクセス: エージェントはシステムへの問い合わせ、情報の送信、設定の変更、コマンドの実行が可能です。
  • 認証情報と権限: エージェントはユーザやシステムからアクセス権を引き継ぐことがあり、タスクに必要以上の広い権限を持つ場合もあります。
  • メモリとコンテキスト: 以前に接した情報が、その後の判断や挙動に影響を与える可能性があります。

これらの能力が相互に作用すると、一見些細な弱点が重大な行動につながることがあります。エージェントがドキュメント内に隠された指示に従ったり、正規のツールを悪用したり、機密情報を漏えいさせたり、侵害された認証情報を接続先のシステム全体に広げたりする可能性があります。

2025年12月に公開された OWASP Top 10 for Agentic Applications は、こうしたリスクを特定するための有用な出発点となります。網羅的なリストではありませんが、セキュリティチームとエンジニアリングチームに、エージェント型アプリケーションが直面する脅威を評価するための体系的な手段を提供します。

デプロイ前に対処すべき AI エージェントのセキュリティリスクとは?

エージェントのセキュリティ上の弱点の中には、エージェントが実行される前に特定できるものがあります。こうしたリスクは、本番環境に到達した後よりも、開発・テスト段階で対処するほうが低コストで済むことが多くあります。

ASI04 エージェント型サプライチェーンの脆弱性

エージェントは、外部のツール、プラグイン、モデル、パッケージ、Model Context Protocol(MCP)サーバに依存している場合があります。これらの依存関係は悪意のあるコードや指示を持ち込む可能性があり、以前は信頼されていたコンポーネントが、後のアップデートによって侵害されることもあります。

推奨される対策:

  • パッケージ、スキル、プロンプト、モデルを使用前にスキャンする。
  • AI 部品表(AI BOM)を維持し、エージェントのコンポーネントと依存関係を追跡する。
  • 依存関係のバージョンを固定し、アップデートをスキャンする。
  • デプロイ済みの MCP サーバを棚卸しし、稼働中のコンポーネントが承認済みの構成と一致していることを確認する。

ASI02 ツールの悪用と不正利用

正規のツールであっても、エージェントが意図しない方法で使用すればリスクが生じます。たとえば、エージェントがあるツールで社内情報を取得し、別のツールでそれを外部の宛先に送信する可能性があります。

チームは最小権限アクセスを適用し、送信先の許可リストを最新の状態に保ち、エージェントが予期しない方法でツールを連鎖させられるかどうかをテストすべきです。ランタイムでは、ツール呼び出しとその出力もセキュリティポリシーに照らして評価する必要があります。

ASI03 アイデンティティと権限の悪用

エージェントは、引き継いだセッション、API キー、トークンを使って動作することがよくあります。エージェントのアイデンティティが明確でなければ、どのエージェントが操作を実行したのか、適切なアクセス権を持っていたのかを組織が判断するのは困難です。

セキュリティチームは、開発段階で露出したシークレットや過剰に広い権限を検出すべきです。ランタイムでは、可能な限り各エージェントに個別のアイデンティティを付与し、タスクに範囲を限定した短期間有効な認証情報を使用させるべきです。特権操作や異常なアイデンティティの活動は監視する必要があります。

ASI05 予期しないコード実行(RCE)

AI コーディングツールやエージェントは、ワークフローの一環としてコードを生成・実行できます。悪意のあるスクリプト、安全でない依存関係、コマンドを起動するプロジェクト設定ファイルは、開発環境を侵害し、認証情報を露出させる可能性があります。

AI ツールの設定変更は、アプリケーションコードと同じ厳しさで扱いましょう。フックや実行可能なコマンドを追加する変更をレビューし、生成されたコードと依存関係をスキャンし、エージェントをテストします。生成されたコードは隔離されたサンドボックスで実行し、権限昇格を伴う実行には適切な承認を必須とします。

これらの対策ですべての脅威を排除できるわけではありませんが、本番環境に到達しうる弱点の数を減らせます。

ランタイム保護が必要な AI エージェントの脅威とは?

エージェントのセキュリティリスクのすべてが、静的解析や開発時のスキャンで検出できるわけではありません。エージェントが新しいコンテンツに遭遇したとき、他のエージェントとやり取りしたとき、あるいは本番環境で判断を下したときに初めて現れる脅威もあります。

ASI01 エージェントの目標乗っ取りと ASI06 メモリおよびコンテキストの汚染

エージェントは、メール、Web ページ、ドキュメントに埋め込まれた悪意のある指示を、正当な指示として解釈してしまう可能性があります。これにより、エージェントが本来の目的から逸らされることがあります。

メモリの汚染は、これに関連するリスクです。エージェントが悪意のある指示を永続メモリに保存すると、元のやり取りが終了した後も、その指示が後続のセッションに影響を与える可能性があります。

組織は外部コンテンツを信頼できないものとして扱い、影響の大きい操作の前には意図を検証し、エージェントの挙動の変化を監視し、メモリに書き込まれる情報を検査すべきです。メモリは必要に応じて分離し、検証されていない情報には有効期限を設けるかレビューの対象とすべきです。

ASI07 安全でないエージェント間通信

エージェント同士が連携する場合、互いのメッセージがそれぞれの判断に影響を及ぼし得ます。認証されていない、あるいは監視されていない通信チャネルでは、セキュリティチームが承認していない経路を通じて、エージェント同士が情報や指示をやり取りできてしまう可能性があります。

対策には、認証・検証されたエージェント間通信、信頼できるアイデンティティレジストリ、稼働中のエージェントと通信チャネルの棚卸し、予期しないトラフィックのランタイム監視が含まれます。

ASI10 不正エージェントと ASI08 連鎖的障害

不正エージェント(ローグエージェント)とは本来の目的から逸脱したエージェントのことであり、連鎖的障害とは1つの問題が複数のエージェントやシステムに波及することを指します。

エージェントが自律的に動作し、互いに作業を委任する環境では、侵害された認証情報、汚染されたメモリ、安全でない操作がはるかに大きな被害をもたらす可能性があります。

セキュリティチームは、挙動のベースラインを確立し、エージェント自身が変更できないアクセス制限やネットワーク制限を適用し、想定範囲外の挙動を介入の理由として扱うべきです。ランタイムの安全策には、サーキットブレーカー、クォータ、レート制限、独立したポリシーチェック、短期間有効な認証情報などが含まれます。また、組織はキルスイッチを用意し、エージェントを停止する権限を誰が持つのかを明確に定めておくべきです。

ASI09 人間とエージェント間の信頼の悪用

エージェントは、攻撃者がいなくてもリスクを生み出すことがあります。流暢で自信に満ちた回答によって、人は誤った推奨を信頼したり、本来なら疑問を持つはずの操作を受け入れたりしてしまう可能性があります。

影響の大きい操作については、必要に応じて人間による確認を必須とし、提案される操作をわかりやすい言葉で要約して提示し、改ざん耐性のあるログを保持し、プレビューが本番システムを変更できないようにします。

重要なのは、ランタイムの対策は動的な脅威に不可欠である一方で、回避可能な弱点がリリースされるのを防ぐ開発段階やパイプラインでの対策の代わりにはならない、という点です。

エージェントのセキュリティインシデントから得られた2つの教訓

ウェビナーでは、組織が予防的な対策とランタイムの対策の両方を必要とする理由が示されています。

教訓1:信頼された依存関係がサプライチェーンリスクになり得る。

プレゼンテーションでは、AI エージェントがメール送信に使用していた npm パッケージに対する悪意のあるアップデートが報告された、2025年のインシデントが取り上げられています。報道によると、後続のバージョンで隠れた BCC アドレスが追加され、送信メールが外部の受信者にコピーされていました。

この教訓は、コンポーネントを初めてインストールしたときにレビューするだけでは不十分だということです。チームには、バージョンの固定、アップデートのスキャン、依存関係の棚卸し、そして承認済みの構成と一致しなくなったコンポーネントを検出・無効化する手段が必要です。

教訓2:リスクはエージェント自身からも生じ得る。

ウェビナーでは、AI コーディングエージェントがコードフリーズ中に本番データベースを削除したという、広く報道されたインシデントも取り上げられています。エージェントはその後、ユーザに復旧は不可能だと伝えましたが、実際にはロールバックによってデータは復元されました。

この例は、別の種類のリスクを浮き彫りにしています。エージェントは誤った行動をとった上で、その結果について誤解を招く情報を提供することがあるのです。こうしたインシデントを防ぐには、開発環境と本番環境の分離、破壊的な操作に対する安全策、信頼性の高いロールバックの仕組み、そして影響の大きい操作に対する人間による確認が必要です。

これらの例はあわせて、AI エージェントのセキュリティが、エージェントが本番環境に持ち込む弱点と、稼働後に示す挙動の両方に対処しなければならない理由を示しています。

OWASP Top 10 for Agentic Applications への取り組みの始め方

エージェント特有のリスクすべてに一度に対処しようとすると、圧倒されてしまうかもしれません。ウェビナーでは代わりに、3つの優先事項を軸にした段階的なアプローチを推奨しています。

1. 何を持っているかを把握する

エージェント、ツール、MCP サーバ、アイデンティティ、認証情報、権限を棚卸しします。各エージェントがどのシステムに到達でき、どのような操作を実行できるのかを把握しましょう。

見えない資産を適切に保護することはできません。

2. デプロイ前に、最も低コストで直せるものを直す

セキュリティチェックをソフトウェア開発ライフサイクルの早い段階に移します。露出したシークレットを検出し、過剰な権限にフラグを立て、依存関係のバージョンを固定し、アップデートをスキャンし、AI ツールの設定をアプリケーションコードと同じくらい慎重にレビューします。

これらの施策により、防止可能なリスクをデプロイ前に減らし、ランタイム防御の負担を軽減できます。

3. ランタイムで起きていることを監視・制御する

ツール呼び出しと特権操作に関するポリシーを確立します。AI が生成したコードを隔離し、エージェントの挙動を監視し、安全でない活動を迅速に停止する仕組みを導入します。

緊急停止を発動できるのは誰かを事前に決めておき、対応プロセスを明確にしておきましょう。

このアプローチにより、組織はエージェントのセキュリティ課題すべてを同時に解決しようとするのではなく、既存のセキュリティ投資の上に積み上げていくことができます。

Harness によるライフサイクル全体にわたる AI エージェントの保護

開発からランタイムまでを一貫して捉えるこのアプローチは、DevSecOps の基盤となる考え方と同じです。セキュリティは、ソフトウェアとその依存関係を構築、テスト、デプロイ、運用するプロセスに組み込まれたときに最も効果を発揮します。

Harness は、エージェントのライフサイクル全体にわたってこのアプローチを支援します。ウェビナーで紹介されているとおり、その機能には、コード生成時の AI 生成コードのスキャン、エージェントのスキル・プロンプト・モデルのスキャン、AI 部品表情報の生成、エージェントや AI API に対する動的テストとレッドチーミングの実施、デプロイ済みのエージェントと MCP サーバの検出、そして AI ファイアウォールによるアプリケーション・エージェント・AI API のランタイム保護が含まれます。

統合されたアプローチにより、チームは予防的な対策とランタイム監視を結び付けながら、社内で構築したエージェントと外部から調達したエージェントの両方に可視性を広げることができます。

組織がより多くの自律型システムを導入するにつれ、こうしたカバレッジの重要性はますます高まります。エージェントのセキュリティはまだ発展途上の分野ですが、チームは脅威の状況が落ち着くのを待たずに行動を起こすことができます。

まずは、何が稼働しているのかを把握し、防止可能な弱点をデプロイ前に解消し、エージェントが行動したときに初めて現れるリスクに対するランタイムの安全策を確立することから始めましょう。

ウェビナーを視聴する:「Agent Security Is More Than Runtime: The OWASP Agentic Top 10 Across the Full Lifecycle」で、エージェントのセキュリティリスクを、それぞれに最適な対策に対応付ける方法をご確認ください。

新規CTA