跳到主要内容
带着挑战而来,带着无限可能而归。立即预留席位,参加 ESPC Microsoft 365 和人工智能大会!
现在注册

负责任的人工智能始于
清晰的护栏

在扩大规模之前,务必确保已建立完善的保障机制。在推广初期,更容易密切监控每个工作流程,但随着项目规模的扩大,这种程度的监管将变得越来越难以维持。.

清晰的指导原则能够确保扩展过程中的一致性。它们明确规定了人工智能可以访问哪些内容、哪些内容需要人工审核、工作需要满足哪些标准,以及哪些情况会导致暂停。有了这些指导原则,团队就能更高效、更自信地扩展规模。.

确定哪些地方需要护栏

作为人工智能领导者,您无需精通人工智能治理的方方面面。IT、安全和合规团队负责数据分类、访问控制、安全设置和保留策略等技术领域。您的职责是提供他们所需的业务背景信息。.

在扩大规模之前,请与合适的合作伙伴共同探讨以下四个问题:

  • 人工智能辅助工作可以访问哪些内容? 确定哪些类别的业务数据适合您正在扩展的工作流程,以及在哪些方面需要限制。.
  • 哪些部分仍然需要人工审核? 确定哪些输出结果在使用、共享或采取行动之前需要有人审核。.
  • 这项工作应该达到哪些质量标准? 明确员工在审核人工智能辅助输出结果时需要检查哪些内容。.
  • 什么情况下会触发暂停? 识别出表明工作流程需要暂停,以便相关负责人进行调查的信号。.

建立四项关键防护措施

尽早让你的治理伙伴参与进来。

人工智能规模化发展需要业务决策和技术管控。在决定如何扩展人工智能项目时,务必让IT、安全、合规和其他相关合作伙伴参与讨论。.

请详细说明工作流程的设计目标、所需数据、输出结果的用途,以及您已确定需要人工审核或其他限制的环节。您的管理合作伙伴随后可以识别相关要求,并确定所需的技术控制措施或策略。.

在将工作流程推广到更多团队之前,务必先让他们参与进来。在推广实施之前解决安全或合规性问题,远比在人们已经开始使用之后再重新设计工作流程要容易得多。.

检查您的规模化准备情况。

在扩展人工智能项目之前,请确保已解答以下问题:

  • IT和安全部门是否审查过工作流程所依赖的权限?
  • 每个代理商都有指定的负责人和相应的权限吗?
  • 哪些输出需要人工审核?审核人员需要检查哪些内容?
  • 哪些数据类别在研究范围内,哪些不在研究范围内?
  • 什么信号会触发暂停?谁有权采取行动?
  • 相关IT、安全、合规和业务利益相关者是否已审查过这些防护措施?

例子

销售团队的护栏

销售团队准备在全公司范围内推广三个成功的AI辅助工作流程。在扩展之前,团队决定客户合同数据包含在内,但定价和人事数据不包含在内。IT部门审查了工作流程使用的权限,发现有两个共享文件夹权限过高,团队随即进行了修正。.

团队的四个 agents 系统均设有指定负责人和明确的权限。项目负责人会在提案分享给客户之前审核其定价和合同的准确性。团队还同意,如果一个月内出现两个提案错误,则暂停该工作流程,由工作流程负责人负责将问题上报审核。.

有了这些护栏,团队就有了扩大 AI 使用范围的明确界限:工作流程可以访问什么,谁负责,什么需要审查,以及何时暂停。.

设置护栏

良好的防护措施不会减缓扩展速度。随着更多工作流程、用户和 agents 融入您的 AI 项目,它们会为人们前进提供清晰的界限。.

探索更多 Copilot 资源
Microsoft 365 采用 - 开始
人工智能收养之旅