UNA REFERENCIA EN LENGUAJE SENCILLO
El riesgo de la IA, explicado
El riesgo de la IA es la posibilidad de daño, pérdida o resultados no deseados derivados del desarrollo, despliegue o uso de sistemas de inteligencia artificial. Incluye riesgos para las personas, las organizaciones y los sistemas de los que dependen.
Explorar la biblioteca de referenciaUn punto de partida
Tres grandes familias de riesgo de la IA
Tres familias ofrecen un punto de partida; un evento puede afectar a varias capas a la vez.
Riesgo estratégico
El riesgo estratégico se refiere a si una organización debe utilizar la IA, si está preparada y si los beneficios esperados justifican la exposición. Incluye la falta de alineación con los objetivos, usos inadecuados, rendición de cuentas débil y dependencias inaceptables.
Riesgo operativo
El riesgo operativo surge en el diseño, adquisición, implementación y uso de la IA. Incluye resultados poco fiables, datos sesgados o incompletos, fallos de privacidad y seguridad, uso indebido, revisiones deficientes e interrupciones. Los controles deben considerar los modelos, las personas, los proveedores y los procesos en conjunto.
Riesgo sistémico y Cisnes Negros de la IA
Los riesgos sistémicos se propagan a través de organizaciones o la sociedad mediante modelos, infraestructuras, datos o incentivos compartidos. Algunos riesgos de cola de alto impacto quedan fuera de una taxonomía operativa. La planificación de la resiliencia se pregunta cómo detectar y responder sin pretender predecir cada incógnita.
Por qué el riesgo de la IA difiere del riesgo tecnológico convencional
Se espera que el software tradicional siga reglas escritas de antemano. Los sistemas de IA producen resultados a partir de patrones aprendidos, por lo que los resultados pueden variar según el contexto y las actualizaciones. El comportamiento puede ser difícil de explicar, reproducir o probar exhaustivamente, especialmente cuando los modelos se combinan con datos, personas y otros sistemas.
Esto puede hacer que el camino desde una decisión hasta causar daño sea más difícil de rastrear. Un resultado puede moldear una decisión humana, desencadenar una acción o pasar entre agentes. El análisis de riesgos debe examinar el modelo, el sistema más amplio, el propósito, las condiciones operativas y las personas responsables. El objetivo es hacer explícitas las suposiciones, la propiedad y los planes de respuesta.
Biblioteca de referencia
Explorar términos de riesgo de IA
Cada entrada comienza con una breve definición y luego explica cómo se aplica la idea en la práctica.
Preguntas frecuentes
Riesgo de IA: respuestas rápidas
- ¿Es el riesgo de la IA lo mismo que el riesgo de ciberseguridad?
- No. La ciberseguridad es una parte del riesgo de la IA y ambos se superponen, pero el riesgo de la IA también incluye dimensiones conductuales, éticas y sistémicas.
- ¿Quién es responsable del riesgo de la IA en una organización?
- En última instancia, el consejo de administración es responsable de la supervisión de riesgos de la organización. Cada sistema de IA implementado también debe tener un responsable humano designado con la autoridad para monitorearlo y actuar cuando las condiciones cambien.
- ¿Cuál es la diferencia entre la gestión de riesgos de IA y la gobernanza de la IA?
- La gobernanza establece la rendición de cuentas, los derechos de decisión y el apetito de riesgo. La gestión de riesgos es la disciplina operativa que identifica, evalúa y trata el riesgo dentro de esa gobernanza.