AIエージェントを安全に展開
開発時のテストから実行時の保護まで ― TrojAI by A10 Networks

生成AIは、質問に「回答する」だけのツールから、外部のデータや業務システム、各種ツールと接続し、自ら判断して「行動する」AIエージェントへと進化しています。

一方、AIエージェントの企業利用が広がることで、プロンプトインジェクションや機密情報の漏えい、接続ツールの悪用、MCPサーバーやツールの改ざんなど、従来のセキュリティ対策だけでは捉えにくい新たなリスクも生まれています。

TrojAI by A10は、企業がAIアプリケーションやAIエージェントを安全に開発・展開・利用するためのAIセキュリティプラットフォームです。

• 開発・導入前のAIリスクをテスト
  自己学習型の敵対的エージェントによる自動レッドチーミングを実施し、AIアプリケーションやモデルのリスク、脆弱性、コンプライアンス上の問題を可視化します。
• 実行中のAIアプリケーションをリアルタイムに保護
  プロンプトインジェクション、脱獄、有害コンテンツ、機密データや個人情報の漏えいなどを検出し、ポリシーに応じてブロック、警告、マスクします。
• AIエージェントとMCPの利用を可視化・制御
  MCPサーバーやツールを検出・登録し、未承認ツールへのアクセス、ツールポイズニング、データ持ち出しなどのリスクを監視・防御します。

本資料では、TrojAI Detectによるエージェント主導の自動レッドチーミングと、TrojAI Defendによる実行時保護を中心に、MCP、従業員による生成AIサービスの利用、AIコーディングエージェントなど、企業におけるAIセキュリティ対策を詳しくご紹介します。