Gobernanza de la IA

La gobernanza de la IA es el conjunto de derechos de decisión, responsabilidades, políticas y acuerdos de supervisión que guían cómo una organización desarrolla, adquiere y utiliza la inteligencia artificial. Deja claro quién puede aprobar un uso, qué límites se aplican y cómo se escalan las preocupaciones a lo largo de la vida de un sistema.

Una buena gobernanza comienza antes de elegir un sistema. Los líderes deben preguntarse si la IA es apropiada para la tarea, qué personas o servicios podrían verse afectados y si la organización puede gestionar los riesgos resultantes. Las respuestas determinan el propósito permitido, el nivel de riesgo aceptable, los requisitos de revisión y las condiciones para suspender el uso. La gobernanza también debe tener en cuenta los sistemas comprados a proveedores y las herramientas introducidas informalmente por el personal.

La rendición de cuentas necesita a una persona

Los comités pueden establecer políticas, revisar evidencia y resolver problemas, pero la rendición de cuentas no puede residir en un comité. Cada sistema de inteligencia artificial implementado debe tener un ser humano designado que sea responsable de su uso. Dicho responsable necesita suficiente autoridad para cuestionar el rendimiento, solicitar cambios, suspender el uso y asegurarse de que los incidentes lleguen a las personas adecuadas. Designar a alguien sin darle acceso a la evidencia o poder de decisión crea únicamente una rendición de cuentas en papel.

A nivel organizativo, la junta directiva sigue siendo la máxima responsable de la supervisión de riesgos. Los directivos traducen esa responsabilidad en una estructura de gobernanza viable: quién aprueba el uso de alto impacto, quién supervisa el cumplimiento de la política interna, quién verifica el rendimiento técnico y quién puede intervenir. No se espera que el responsable del sistema realice cada tarea personalmente, pero debe saber qué equipos las ejecutan y seguir respondiendo por el funcionamiento del sistema.

Gobernanza y cumplimiento

El cumplimiento analiza si una organización cumple con un requisito legal o de política en particular. La gobernanza es más amplia. Establece los objetivos de la organización, la propensión al riesgo, los derechos de decisión y la supervisión de la IA, incluidas las áreas donde las reglas están incompletas o donde se aplica más de una ley. La evidencia de cumplimiento puede informar a la gobernanza, pero una lista de verificación completada no demuestra que un sistema sea adecuado, justo o esté bajo un control efectivo.

Una gobernanza útil es proporcional y está conectada a decisiones reales. Registra por qué se utiliza un sistema, qué riesgos se aceptaron, quién puede cambiar su propósito y qué señales activan una revisión. También ofrece a los trabajadores una vía para informar sobre comportamientos inesperados sin necesidad de demostrar un daño primero. Cuando las responsabilidades, los umbrales y las rutas de escalamiento son explícitos, la organización está mejor posicionada para aprender y responder a medida que el sistema o su contexto cambian.