✳ainav.

guides

在试点前如何评估 AI 安全运营助手

一份基于文档的指南,介绍如何试点 SOC 助手,并强制设置人工审批路径。官方 Security Copilot 文档称,查询以用户身份运行,且数据共享默认开启。官方 Cisco AI Defense 页面描述的是一个 AI 应用安全平台,因此它是一条边界,而不是第二个 SOC 核心工具。未测试任何检测,也未包含攻击或绕过指导。

在试点前如何评估 AI 安全运营助手

当安全运营助手能起草一份摘要、且分析师仍需接受、拒绝或重写时,它才有用。如果产品的官方职责是盘点 AI 应用、对模型进行红队测试、并为提示词设置护栏,那它就没用——而且这不是本次采购。两者都属于“AI 加安全”,但不可互换。

这份基于文档的指南于 2026 年 11 月 10 日(亚洲/上海)审阅。我们未连接 SOC 租户、未运行检测,也未测量驻留时间。描述来自当天打开的 Microsoft Security Copilot 和 Cisco AI Defense 官方页面。检测率、“分钟而非小时”及类似说法是厂商语言,不是 AINav 测试。本文仅为防御性采购指南。不包含攻击技术、利用步骤、规避或绕过指导。

SOC 助手、AI 应用防御和事件可观测性是不同工作

本次审阅中,SOC 或安全 IT 助手的目录核心是 Microsoft Security Copilot。Microsoft 官方文档描述的是一个生成式助手和多个代理,帮助进行事件调查、威胁情报、告警分诊、狩猎查询和态势任务,可在独立门户和 Microsoft 安全产品内使用,并有人工监督。

Cisco AI Defense 位于同一行业工具目录中,但 Cisco 官方页面描述的是另一款产品:发现 AI 资产和第三方 AI 应用、对模型进行验证和算法红队测试、供应链扫描,以及针对提示词注入和数据泄露等 AI 应用威胁的运行时护栏。那是一个 AI 安全平台,不是 SOC 摘要助手。本文将其视为一条边界,而不是第二个核心行,也不按它是否分诊 SIEM 告警来评分。

可观测性事件助手是另一项相邻工作,未从本未发布草稿系列中链接。员工 ITSM 工单机器人也不在范围内。

三个互斥安全工作示意图:带人工审批路径的 SOC 助手、AI 应用安全平台和可观测性事件助手,以独立列而非序列展示。

AINav 基于官方文档绘制的原创示意图。来源:Privacy and data security in Microsoft Security Copilot、Microsoft Security Copilot application card、Cisco AI Defense。非官方截图,也非测试结果。

Security Copilot:权限跟随用户,若干默认设置需要指定负责人

Microsoft Learn 官方文档称,Security Copilot“以用户身份运行查询,因此绝不会拥有超出该用户的提升权限”。响应仅限于用户有权访问的数据。官方应用卡片措辞补充说,底层系统中配置错误的权限仍可能影响完整性。因此,对用户和代理实施最小权限是推广控制措施,而不是后续加固任务。官方代理指南称,代理只能在配置的权限范围内执行限定操作,且重大或不可逆操作需要人工监督和批准。

数据共享默认设置很容易被忽略,且官方用途很具体。官方隐私文档指出,对于该页面描述的设置,数据共享默认开启,并注明 Microsoft 365 E5 和 E7 客户可能看到不同的默认设置,你必须在链接文章中确认。两个官方 Owner 设置不是通用的“与 Microsoft 共享”开关。一个允许 Microsoft 捕获客户数据并使用人工审阅来验证产品性能——官方示例包括 Security Copilot 能否回答请求以及能力缺口出现在哪里、客户运行的任务类型、可用性和质量指标,以及改进插件和 Microsoft Security Copilot 代理的响应。另一个允许 Microsoft 捕获并人工审阅数据,以构建和验证 Microsoft 基于 Azure OpenAI 基础模型或 Microsoft 构建模型的安全专用模型,包括来自你使用的 Microsoft 插件和代理的数据。官方文本称,共享数据不会与 OpenAI 共享,不会用于训练 Azure OpenAI 基础模型,不会用于销售,也不会与第三方共享。当共享保持开启时(文档默认值,除非你关闭,受 E5/E7 注意事项约束),官方语言称部分客户数据可能存储在租户所选 Workspace 地理区域之外;上传文件保留在 Workspace 中,但会话期间从中检索的内容可能存储在其外。共享评估数据和退出窗口应保留官方页面所述内容,不要合并为一个数字。在本文审阅的页面上,用于评估的共享数据保留 90 天。同一页面称,如果你退出,Security Copilot 会在 30 天内删除先前共享的客户数据,并且还称先前共享的数据保留不超过 180 天。将这些视为同一页面上的官方声明,并确认实时文章,而不是挑选单一删除窗口。会话数据以及删除所有已配置容量后的数据有单独的官方 180 天窗口;那些不是共享评估期。在分析师将事件文本粘贴到产品之前设置这些开关。

存储和评估位置也是不同的控制项。官方文档称,客户数据存储在创建 Workspace 时选择的位置,且该位置之后无法更改。提示词评估可以固定到文档化区域(澳大利亚、欧洲、英国或美国),或允许为容量“在任何地方”运行。官方指南建议在 GPU 容量可用的地方评估提示词,这可能不是存储地理区域。如果你还启用对 Microsoft 365 服务数据的访问(例如某些源自 Purview 的告警),官方隐私文档称,该数据随后将根据 Security Copilot 的政策和位置处理和存储,“无论数据在先前 EU Data Boundary 或核心在线服务驻留条款下处理和存储的位置如何”。这句话是采购条件。除非法务已接受新路径,否则关闭 Microsoft 365 访问设置。官方文本还指出,通过电子邮件或 Teams 进行的代理通信在传输过程中可能经过全球 Microsoft 网络基础设施。

容量以安全计算单元(SCU)计量,官方产品文档描述了预配和超额模式。此处省略确切标价;请确认当前官方计费,并注意官方应用卡片措辞称使用限制和延迟可能影响体验。官方限制还包括不准确或不完整的输出、预览功能、令牌和上下文限制,以及声明 Security Copilot“目前并非为在某些政府云环境中使用而设计”。生成的代码或 KQL 未经验证不得用于生产。

要写入试点计划的失败条件:分析师接受无依据的摘要;代理身份权限过高;数据共享在未做决定的情况下保持默认开启;Workspace 创建在错误地理区域且无法移动;Microsoft 365 数据访问悄然改变驻留;SCU 容量限制事件处理;预览代理被当作普遍可用。

Cisco AI Defense 保持为边界——不要将其作为 SOC copilot 试点

Cisco AI Defense 官方页面描述 AI 工作负载盘点、第三方 AI 应用访问策略、模型和应用验证,以及 AI 流量的运行时保护。官方语言是关于保护 AI 的使用和开发,而不是总结 SIEM 队列。如果你的实际缺口是“保护我们自己的模型并阻止不安全提示词”,请根据其官方文档将 AI Defense 作为该产品评估。如果你的缺口是“帮助分析师分诊检测”,那它就不是本文的核心工具。本审阅不描述如何测试或规避这些护栏。

从非生产工作区开始的试点

使用沙盒或非生产工作区、降低权限的分析师角色,以及已公开或虚构的告警文本。在数据共享、存储地理区域和插件范围设置好之前,不要上传实时案件文件。然后检查六件事:

  1. 工作匹配。SOC 助手、AI 应用防御或可观测性事件辅助——选择一个官方工作。
  2. 权限边界。确认助手不能看到或执行超出登录用户权限的操作,并且代理身份具有最小权限。
  3. 人工审批。要求指定分析师接受摘要,并批准任何重大代理操作。官方应用卡片措辞称,用户应在采取行动前审阅输出。
  4. 数据路径。有意设置共享、Workspace 存储地理区域、提示词评估区域和 Microsoft 365 访问。记录官方保留窗口。
  5. 容量和回退。了解 SCU 容量耗尽时会发生什么,并保留现有 SOC 工具链作为回退。
  6. 插件和预览代理范围。禁用你尚未审阅的内容。

如果操作可在未经批准的情况下完成,如果驻留或共享条款仍是你未接受的默认值,或者如果你邀请的厂商是你误认为 SOC 助手的 AI 应用护栏平台,请停止试点或让产品保持关闭。

本次采购适合谁,谁应另寻他处

本评估适合希望获得有文档记录、带人工审批路径的辅助型 copilot 的 SOC 负责人和 CISO 人员。

它不是 AI 应用安全对比评测,不是可观测性助手审阅,也不是检测准确性声明。

常见问题

为什么 Cisco AI Defense 不在相关工具中? Cisco 官方页面描述的是 AI 应用和模型安全平台。这与 SOC 助手是不同工作,因此本文将其作为边界,而不是填充的核心竞争者。

Security Copilot 是否会获得额外权限以便调查? 官方隐私文档称,它以用户身份运行查询,不会获得超出该用户的提升权限。

在我们选择加入之前,数据共享是关闭的吗? 官方文档称,对于该页面描述的设置,数据共享默认开启,某些 Microsoft 365 E5 和 E7 客户可能有不同默认值。在第一个真实案件之前审阅 Owner 设置。

我们之后可以更改 Workspace 存储国家吗? 官方文档称,存储位置在创建 Workspace 时选择,之后无法更改。

相关工具