負責任的人工智慧始於
清晰的護欄
在擴大規模之前,務必確保已建立完善的保障機制。在推廣初期,更容易密切監控每個工作流程,但隨著專案規模的擴大,這種程度的監管將變得越來越難以維持。.
清晰的指導原則能夠確保擴展過程中的一致性。它們明確規定了人工智慧可以存取哪些內容、哪些內容需要人工審核、工作需要滿足哪些標準,以及哪些情況會導致暫停。有了這些指導原則,團隊就能更有效率、更有自信地擴展規模。.
Microsoft Adoption
在擴大規模之前,務必確保已建立完善的保障機制。在推廣初期,更容易密切監控每個工作流程,但隨著專案規模的擴大,這種程度的監管將變得越來越難以維持。.
清晰的指導原則能夠確保擴展過程中的一致性。它們明確規定了人工智慧可以存取哪些內容、哪些內容需要人工審核、工作需要滿足哪些標準,以及哪些情況會導致暫停。有了這些指導原則,團隊就能更有效率、更有自信地擴展規模。.
身為人工智慧領導者,您無需精通人工智慧治理的各個層面。 IT、安全和合規團隊負責資料分類、存取控制、安全設定和保留策略等技術領域。您的職責是提供他們所需的業務背景資訊。.
在擴大規模之前,請與合適的合作夥伴共同探討以下四個問題:
明確每個AI輔助工作流程可以使用哪些類型的信息。例如,某個工作流程可能被允許使用客戶合約數據,但被限制存取人員資訊或其他敏感資訊。.
現有權限可能無法反映適當的邊界,因此請與 IT 和安全部門合作,審查每個工作流程所依賴的存取權限,並進行任何必要的變更。.
為每個人工智慧代理指定一位負責人,並由其對代理的使用方式負責。負責人應了解代理商的設計用途,並與IT和安全部門合作,確保代理商的存取權限和權限符合預期用途。.
如果代理人可以代表您的組織採取行動或完成工作,則不應未明確定義其職責和權限。.
為人工智慧輔助工作制定明確的品質標準,包括何時需要人工審核。審核的等級應反映輸出結果的用途以及錯誤可能造成的影響。.
例如,面向客戶的提案可能需要工作流程負責人或其他指定審核人員在分享之前核實價格和合約條款。而內部腦力激盪文件可能只需要較少的審核。.
將這些預期記錄下來,放在使用該工作流程的員工都能找到的地方。要具體說明哪些輸出需要審核、由誰審核、審核者需要檢查哪些內容。.
明確哪些訊號會觸發暫停,以便在問題升級之前加以解決。這些訊號可能包括反覆出現的事實錯誤、客戶投訴模式、意外的資料存取問題,或工作流程耗時比引入人工智慧之前更長。.
確定誰擁有工作流程並有權暫停它,誰需要收到通知,以及誰決定工作流程是否可以恢復或需要更改。.
事先設定這些預期,可以讓工作流程負責人有一個清晰的流程來應付出現的問題。.
人工智慧規模化發展需要業務決策和技術管控。在決定如何擴展人工智慧專案時,請務必讓IT、安全、合規和其他相關合作夥伴參與討論。.
請詳細說明工作流程的設計目標、所需資料、輸出結果的用途,以及您已確定需要手動審核或其他限制的環節。您的管理合作夥伴隨後可以識別相關要求,並確定所需的技術控制措施或策略。.
在將工作流程推廣到更多團隊之前,務必先讓他們參與其中。在推廣實施之前解決安全或合規性問題,遠比在人們已經開始使用之後再重新設計工作流程要容易得多。.
在擴展人工智慧專案之前,請確保已解答以下問題:
例子
銷售團隊準備在全公司範圍內推廣三個成功的AI輔助工作流程。在擴展之前,團隊決定客戶合約資料包含在內,但定價和人事資料不包含在內。 IT部門審查了工作流程使用的權限,發現有兩個共用資料夾權限過高,團隊隨即進行了修正。.
團隊的四個 agents 系統均設有指定負責人和明確的權限。專案負責人會在提案分享給客戶之前審核其定價和合約的準確性。團隊也同意,如果一個月內出現兩個提案錯誤,則暫停該工作流程,工作流程負責人負責將問題上報以供審核。.
有了這些護欄,團隊就有了擴大 AI 使用範圍的明確界限:工作流程可以訪問什麼,誰負責,什麼需要審查,以及何時暫停。.
良好的防護措施不會減緩擴展速度。隨著更多工作流程、使用者和 agents 融入您的 AI 項目,它們會為人們前進提供清晰的界限。.