✳ainav.

AI 智能体构建工具

NVIDIA NeMo Guardrails

访问官网
产品简介
用于为基于LLM的应用和代理添加可编程安全与控制护栏的开源Python库。
收录时间
2026/11/20
价格类型
免费
NVIDIA NeMo Guardrails 截图
NVIDIA NeMo Guardrails 网站预览

产品概览

NVIDIA NeMo Guardrails 是什么?

NVIDIA NeMo Guardrails是一个开源Python包,用于为基于LLM的应用添加可编程护栏。它让开发者无需重写应用或模型后端,即可阻止、修改或验证不安全、偏离主题、恶意或违反策略的用户输入和模型响应。该库围绕输入、检索、对话、执行和输出护栏组织控制逻辑,通过YAML文件和Colang流程进行配置,并支持自定义Python操作和运行时接口。团队将其用于内容安全、越狱防护、主题控制、PII检测与掩码,以及工具调用验证等代理安全场景。它可通过Python SDK、兼容OpenAI的护栏服务器,以及LangChain和LangGraph等框架进行集成。配置可移植到NeMo Guardrails微服务,用于Kubernetes部署。

如何使用 NVIDIA NeMo Guardrails

  1. 1

    安装该库

    按照官方安装指南,从PyPI安装开源nemoguardrails Python包。

  2. 2

    配置护栏

    在YAML文件中定义模型、提示、护栏和运行时设置,并在Colang中描述对话流程和护栏逻辑。

  3. 3

    添加自定义操作

    使用Python函数、工具或外部API扩展护栏,以实现应用特定的检查。

  4. 4

    与应用集成

    通过Python SDK调用该库,运行护栏服务器以提供OpenAI风格聊天补全,或使用LangChain/LangGraph集成。

  5. 5

    部署到生产环境

    在Kubernetes上使用Helm,将相同的YAML和Colang配置复用于NeMo Guardrails微服务。

NVIDIA NeMo Guardrails 核心功能

输入、检索、对话、执行和输出护栏

YAML配置和Colang流程

自定义Python操作和第三方API集成

内容安全和越狱防护

主题控制和PII检测/掩码

通过工具调用验证实现代理安全

Python SDK和兼容OpenAI的护栏服务器

LangChain和LangGraph集成

可移植到NeMo Guardrails微服务的配置

NVIDIA NeMo Guardrails 使用场景

  • 为LLM输入和输出添加内容安全检查

  • 检测并阻止越狱尝试

  • 将对话限制在预定义主题内

  • 检测并掩码个人身份信息

  • 验证基于LLM的代理中的工具调用

  • 将护栏集成到Python、LangChain或LangGraph应用中

NVIDIA NeMo Guardrails 常见问题

它是一个开源Python包,用于为基于LLM的应用添加可编程护栏,让开发者能够阻止、修改或验证输入和模型响应。

护栏是在LLM交互不同阶段运行的防护环节:输入、检索、对话、执行和输出。

配置使用YAML文件定义模型、提示、护栏和运行时设置,并使用Colang流程描述对话流程和护栏逻辑。

可以。自定义Python操作、LangChain工具和第三方API集成可通过应用特定的检查扩展护栏。

你可以直接使用Python SDK,运行提供OpenAI风格聊天补全端点的护栏服务器,或使用LangChain和LangGraph集成。

支持。它提供工具调用验证、使用LangGraph的代理工作流保护,以及针对使用工具的基于LLM的代理的操作监控。

相同的YAML和Colang配置可与NeMo Guardrails微服务一起使用,该微服务是使用Helm在Kubernetes上部署的容器镜像。

记录的用例包括内容安全、越狱防护、主题控制、PII检测与掩码,以及代理安全。

NVIDIA NeMo Guardrails 官方信息

公司
NVIDIA
官网
https://docs.nvidia.com/nemo/guardrails/about-nemo-guardrails-library/overview
文档
https://docs.nvidia.com/nemo/guardrails/about-nemo-guardrails-library/overview
联系
https://www.nvidia.com/en-us/contact/

NVIDIA NeMo Guardrails 价格方案

免费

该库被描述为开源且可免费使用;页面未列出付费计划或价格。检查日期:2026-11-19。

开源库

$0USD / 免费/开源

通过PyPI和GitHub分发的开源Python包,用于为基于LLM的应用添加可编程护栏。

  • 输入、检索、对话、执行和输出护栏
  • YAML和Colang配置
  • 自定义Python操作
  • Python SDK和护栏服务器
  • 框架集成(LangChain、LangGraph)

查看官方价格 ↗

用户评价

NVIDIA NeMo Guardrails 用户评论

读者评价

暂无评论。

分享你的 NVIDIA NeMo Guardrails 使用体验

登录后可发表评论。审核通过后,显示名称、评分及评论内容将公开,每个账号对同一工具只能评价一次。

你的评分