详细介绍
Agentic Radar 是一款专门用于分析和评估 AI 代理系统(agentic systems)的安全性和操作洞察的工具。它通过扫描代码库中的代理工作流,生成包含安全报告、工具识别、漏洞映射等内容的 HTML 报告,帮助开发者、研究人员和安全专家理解代理系统的工作流程并识别潜在漏洞。
核心功能
Agentic Radar 提供了多项核心功能,以增强 AI 工作流程的透明度和安全性:
- 工作流可视化:生成代理系统工作流的图形化表示,帮助用户直观理解系统结构。
- 工具识别:列出系统中使用的所有外部和自定义工具,便于审查和管理。
- MCP 服务器检测:识别代理系统中使用的 MCP 服务器,确保通信安全。
- 漏洞映射:将识别到的工具与已知漏洞关联,提供全面的安全概览。
- 提示增强:自动改进检测到的系统提示,遵循最佳工程实践。
- 漏洞探测:运行时测试代理工作流中的关键漏洞,提供实时反馈。
安装方法
Agentic Radar 可以通过 pip 安装,支持本地环境和 Google Colab 等多种部署方式。
pip install agentic-radar如果希望在隔离环境中运行,可以使用虚拟环境:
python -m venv env
source env/bin/activate # 在 Windows 上使用 `env\Scripts\activate`
pip install agentic-radar使用方法
Agentic Radar 提供了多种命令行工具,用于扫描和测试代理工作流。
agentic-radar scan langgraph -i ./my_project -o report.html该命令将扫描 LangGraph 框架下的项目,并生成 HTML 报告。
agentic-radar probe openai-agents "examples/openai-agents/basic/lifecycle_example.py"该命令用于测试 OpenAI 代理工作流中的漏洞。
使用示例
以下是一个完整的使用示例,展示如何初始化项目、扫描工作流并生成报告:
radar init
radar scan --path ./workflow/
radar report --output ./results/此外,也可以通过 Python API 调用 Agentic Radar:
from agentic_radar import Radar
radar = Radar()
report = radar.scan("my_workflow")
print(report)适用场景
Agentic Radar 适用于需要评估基于 AI 代理的工作流安全性的场景,特别是在使用 LangGraph、CrewAI、n8n 或 OpenAI Agents 等框架开发的应用中。
注意事项
目前 Agentic Radar 不支持所有代理框架(如 LlamaIndex、AutoGen 等),且部分高级功能(如提示增强)需要 OpenAI API 密钥。此外,对某些自定义工作流的检测可能不够全面。
Agentic Radar 通过自动化分析和修复功能,帮助开发者在早期阶段识别潜在风险,从而构建更可靠、更安全的 AI 系统。