Saltar al contenido principal
Trae tus retos. Llévate posibilidades. ¡Reserva tu plaza para ESPC Microsoft 365 y la Conferencia de IA!
Regístrate ahora

La IA responsable comienza con
barandillas de seguridad despejadas

Antes de escalar, asegúrese de contar con las medidas de seguridad adecuadas. Al principio de la implementación, es más fácil supervisar de cerca cada flujo de trabajo, pero a medida que la iniciativa crece, ese nivel de supervisión se vuelve más difícil de mantener.

Establecer límites claros genera coherencia a medida que la empresa se expande. Define a qué puede acceder la IA, qué requiere revisión humana, qué estándares debe cumplir el trabajo y qué podría provocar una pausa. Con estos límites establecidos, los equipos pueden escalar de forma más eficiente y con mayor confianza.

Decide dónde necesitas barandillas de seguridad.

Como líder en IA, no necesitas ser un experto en todos los aspectos de la gobernanza de la IA. Los equipos de TI, seguridad y cumplimiento normativo son responsables de áreas técnicas como la clasificación de datos, los controles de acceso, la configuración de seguridad y las políticas de retención. Tu función es proporcionarles el contexto empresarial que necesitan.

Colabore con los socios adecuados antes de ampliar el proyecto para responder a cuatro preguntas:

  • ¿A qué información puede acceder el trabajo asistido por IA? Decida qué categorías de datos empresariales son apropiadas para los flujos de trabajo que está ampliando y dónde se necesitan restricciones.
  • ¿Qué aspectos aún requieren revisión humana? Determinar qué resultados necesitan ser revisados por alguien antes de ser utilizados, compartidos o puestos en práctica.
  • ¿Qué estándares de calidad debe cumplir el trabajo? Defina qué aspectos deben verificar los empleados al revisar los resultados generados con ayuda de la IA.
  • ¿Qué debería desencadenar una pausa? Identifique las señales que indican que un flujo de trabajo debe pausarse mientras los responsables correspondientes investigan.

Establecer cuatro medidas de protección clave

Involucre a sus socios de gobernanza desde el principio.

Escalar la IA requiere tanto decisiones empresariales como controles técnicos. Involucre a los departamentos de TI, seguridad, cumplimiento normativo y otros socios relevantes en el proceso de definición de la escalabilidad de su iniciativa de IA.

Comparta la finalidad de los flujos de trabajo, los datos que requieren, el uso que se dará a sus resultados y dónde se ha identificado la necesidad de revisión humana u otras restricciones. De esta forma, sus socios de gobernanza podrán identificar los requisitos pertinentes y determinar los controles técnicos o las políticas necesarias.

Involúcrelos antes de extender los flujos de trabajo a más equipos. Es más fácil abordar un requisito de seguridad o cumplimiento antes de la implementación que rediseñar un flujo de trabajo una vez que ya se esté utilizando.

Comprueba si estás preparado para escalar.

Antes de ampliar su iniciativa de IA, asegúrese de haber respondido a estas preguntas:

  • ¿Han revisado los departamentos de TI y seguridad los permisos en los que se basan los flujos de trabajo?
  • ¿Cada agente tiene un propietario designado y los permisos correspondientes?
  • ¿Qué resultados requieren revisión humana y qué debe comprobar el revisor?
  • ¿Qué categorías de datos están incluidas en el ámbito de aplicación y cuáles no?
  • ¿Qué señales desencadenarían una pausa y quién tiene autoridad para actuar?
  • ¿Han revisado las medidas de seguridad las partes interesadas pertinentes en materia de TI, seguridad, cumplimiento normativo y negocio?

Ejemplo

Barreras de protección para un equipo de ventas

Un equipo de ventas está listo para expandir tres flujos de trabajo exitosos asistidos por IA a toda la organización. Antes de la expansión, el equipo decide que los datos de contratos de clientes están incluidos, pero los datos de precios y personal no. El departamento de TI revisa los permisos utilizados por los flujos de trabajo y encuentra dos carpetas con acceso compartido excesivo, que el equipo corrige.

Cada uno de los cuatro agents del equipo tiene un propietario designado y permisos definidos. Los responsables de cada proyecto revisan las propuestas dirigidas al cliente para verificar la exactitud de los precios y los contratos antes de compartirlas. El equipo también se compromete a pausar un flujo de trabajo si dos propuestas en un mes contienen errores, y el responsable del flujo de trabajo se encargará de escalar el problema para su revisión.

Con esas salvaguardias establecidas, el equipo tiene límites claros para expandir el uso de la IA: a qué pueden acceder los flujos de trabajo, quién es responsable de ellos, qué requiere revisión y cuándo hacer una pausa.

Instala tus barandillas

Unas buenas medidas de protección no ralentizan la escalabilidad. Proporcionan límites claros para avanzar a medida que más flujos de trabajo, usuarios y agents se incorporan a su iniciativa de IA.

Explora más recursos de Copilot
Adopción de Microsoft 365: empezar
Gira de Adopción de IA