开源库
通过PyPI和GitHub分发的开源Python包,用于为基于LLM的应用添加可编程护栏。
- 输入、检索、对话、执行和输出护栏
- YAML和Colang配置
- 自定义Python操作
- Python SDK和护栏服务器
- 框架集成(LangChain、LangGraph)
AI 智能体构建工具

产品概览
NVIDIA NeMo Guardrails是一个开源Python包,用于为基于LLM的应用添加可编程护栏。它让开发者无需重写应用或模型后端,即可阻止、修改或验证不安全、偏离主题、恶意或违反策略的用户输入和模型响应。该库围绕输入、检索、对话、执行和输出护栏组织控制逻辑,通过YAML文件和Colang流程进行配置,并支持自定义Python操作和运行时接口。团队将其用于内容安全、越狱防护、主题控制、PII检测与掩码,以及工具调用验证等代理安全场景。它可通过Python SDK、兼容OpenAI的护栏服务器,以及LangChain和LangGraph等框架进行集成。配置可移植到NeMo Guardrails微服务,用于Kubernetes部署。
按照官方安装指南,从PyPI安装开源nemoguardrails Python包。
在YAML文件中定义模型、提示、护栏和运行时设置,并在Colang中描述对话流程和护栏逻辑。
使用Python函数、工具或外部API扩展护栏,以实现应用特定的检查。
通过Python SDK调用该库,运行护栏服务器以提供OpenAI风格聊天补全,或使用LangChain/LangGraph集成。
在Kubernetes上使用Helm,将相同的YAML和Colang配置复用于NeMo Guardrails微服务。
为LLM输入和输出添加内容安全检查
检测并阻止越狱尝试
将对话限制在预定义主题内
检测并掩码个人身份信息
验证基于LLM的代理中的工具调用
将护栏集成到Python、LangChain或LangGraph应用中
它是一个开源Python包,用于为基于LLM的应用添加可编程护栏,让开发者能够阻止、修改或验证输入和模型响应。
护栏是在LLM交互不同阶段运行的防护环节:输入、检索、对话、执行和输出。
配置使用YAML文件定义模型、提示、护栏和运行时设置,并使用Colang流程描述对话流程和护栏逻辑。
可以。自定义Python操作、LangChain工具和第三方API集成可通过应用特定的检查扩展护栏。
你可以直接使用Python SDK,运行提供OpenAI风格聊天补全端点的护栏服务器,或使用LangChain和LangGraph集成。
支持。它提供工具调用验证、使用LangGraph的代理工作流保护,以及针对使用工具的基于LLM的代理的操作监控。
相同的YAML和Colang配置可与NeMo Guardrails微服务一起使用,该微服务是使用Helm在Kubernetes上部署的容器镜像。
记录的用例包括内容安全、越狱防护、主题控制、PII检测与掩码,以及代理安全。
该库被描述为开源且可免费使用;页面未列出付费计划或价格。检查日期:2026-11-19。
通过PyPI和GitHub分发的开源Python包,用于为基于LLM的应用添加可编程护栏。
用户评价
暂无评论。