✳ainav.

AI 智能体构建工具

Azure AI Content Safety

访问官网
产品简介
Azure AI Content Safety 为生成式 AI 应用提供防护机制,可检测有害内容、提示攻击、无依据输出和受保护材料。
收录时间
2026/11/20
价格类型
暂未说明
Azure AI Content Safety 截图
Azure AI Content Safety 网站预览

产品概览

Azure AI Content Safety 是什么?

Azure AI Content Safety 是一项 Microsoft Azure 服务,通过面向负责任 AI 的高级防护机制,帮助开发者提升生成式 AI 应用的安全性。它监控文本和图像中的有害内容,涵盖仇恨、性、暴力和自残四个类别,并支持调整严重性阈值。其他功能包括:提示防护可防御直接和间接提示注入攻击;依据性检测可识别并纠正无依据的模型输出;受保护材料检测可识别文本和代码。可训练自定义类别以检测组织特有的不良内容。该服务与 Azure OpenAI 内容筛选集成,可通过 Microsoft Foundry 使用,并可通过 Azure 按需付费或免费试用账户访问。

如何使用 Azure AI Content Safety

  1. 1

    创建 Azure 账户

    注册按需付费的 Azure 账户或开始免费试用,以访问 Azure AI 服务。

  2. 2

    在 Microsoft Foundry 中预配 Content Safety

    在 Azure 门户或 Microsoft Foundry 中创建 Content Safety 资源,以获取终结点和 API 密钥。

  3. 3

    配置有害内容筛选器

    为仇恨、性、暴力和自残类别设置严重性阈值,或使用自己的示例定义自定义类别。

  4. 4

    将防护机制集成到应用中

    调用 Content Safety API 分析文本和图像,并根据需要启用提示防护、依据性检测或受保护材料检测。

Azure AI Content Safety 核心功能

跨仇恨、性、暴力和自残类别的有害内容检测

每个有害内容类别的可调整严重性阈值

针对直接和间接提示注入攻击的提示防护

依据性检测以缓解 AI 幻觉

针对文本和代码的受保护材料检测

用于组织特定内容筛选器的自定义类别 API

与 Azure OpenAI 内容筛选集成

在 Microsoft Foundry Control Plane 中可用

Azure AI Content Safety 使用场景

  • 筛选生成式 AI 应用输入和输出中的有害内容

  • 防御 AI 系统免受越狱和提示注入攻击

  • 确保 AI 响应基于提供的源材料

  • 阻止已知受版权保护的文本或代码出现在 AI 输出中

  • 为特定业务需求构建自定义内容审核筛选器

Azure AI Content Safety 常见问题

模型以英语、德语、西班牙语、日语、法语、意大利语、葡萄牙语和中文进行训练和测试。其他语言可能可用,但质量会有差异;自定义类别目前仅在英语中表现良好。

系统监控四个有害内容类别:仇恨、性、暴力和自残。

可以,您可以为每个有害内容类别筛选器调整严重性阈值。

可以,自定义类别 API 允许您使用自己的示例训练筛选器,以检测和阻止您定义类别特有的不良内容。

提示防护可防御生成式 AI 系统免受提示注入攻击,包括直接越狱尝试以及隐藏在文档或电子邮件等第三方内容中的间接攻击。

依据性检测通过根据提供的源材料评估声明,识别并纠正生成式 AI 模型的无依据输出,帮助防止捏造信息。

它可识别并阻止已知文本内容(如歌词、文章、食谱)和已知代码出现在 AI 生成的输出中,并针对代码检查公共 GitHub 存储库。

某些 Content Safety 功能仅在特定区域可用;请参阅官方区域可用性文档。

Azure AI Content Safety 官方信息

公司
Microsoft
官网
https://azure.microsoft.com/en-us/products/ai-services/ai-content-safety
文档
https://learn.microsoft.com/en-us/azure/
联系
https://azure.microsoft.com/en-us/support/

Azure AI Content Safety 价格方案

暂未说明

官方定价核查于 2026-11-10。所示 USD Web 层级估算来自官方定价页面。标准文本记录最多包含 1,000 个 Unicode 字符;免费层级每月包含 5,000 条文本记录和 5,000 张图像。区域和协议可能改变费率。

免费 Web 层级

$0USD / 每月,有限配额

    标准文本

    $0.38USD / 每 1,000 条文本记录

      标准图像

      $0.75USD / 每 1,000 张图像

        查看官方价格 ↗

        用户评价

        Azure AI Content Safety 用户评论

        读者评价

        暂无评论。

        分享你的 Azure AI Content Safety 使用体验

        登录后可发表评论。审核通过后,显示名称、评分及评论内容将公开,每个账号对同一工具只能评价一次。

        你的评分