Una taxonomía de riesgos de la IA es una forma estructurada de agrupar y nombrar los riesgos asociados con la inteligencia artificial. Proporciona a las personas un vocabulario compartido para identificar, comparar y debatir sobre los riesgos, al tiempo que ayuda a las organizaciones a ver dónde sus evaluaciones pueden tener vacíos.

Una taxonomía es un mapa, no una evaluación de riesgos completa. Una categoría puede señalar un tipo de daño o una causa, pero no puede determinar cuán probable es el riesgo en un uso específico, cuán grave sería su impacto ni qué control funcionará. Esas preguntas dependen del contexto: el propósito del sistema, las personas afectadas, el entorno de implementación, la escala operativa y los controles que ya están implementados.

El Repositorio de Riesgos de la IA del MIT

El Repositorio de Riesgos de IA es mantenido por MIT FutureTech como una referencia viva de riesgos extraídos de marcos y clasificaciones de IA existentes. Su base de datos contiene más de 1700 riesgos categorizados. Su taxonomía de dominios agrupa los riesgos en siete dominios y 24 subdominios, mientras que una taxonomía causal separada ayuda a describir cómo, cuándo y por qué surgen los riesgos. El repositorio está licenciado bajo Creative Commons Attribution 4.0 (CC BY 4.0), lo que permite su reutilización con la atribución adecuada.

Esa amplitud hace que el repositorio sea útil para el descubrimiento y el análisis compartido. Los equipos pueden usarlo para comparar sus propios registros de riesgos con un conjunto más amplio de preocupaciones publicadas, o para encontrar lenguaje para un problema que de otro modo se describe de manera inconsistente. También puede respaldar la investigación, las auditorías y las discusiones en roles técnicos, de políticas y organizacionales.

Explorar el Repositorio de Riesgos de IA del MIT.

Uso responsable de las categorías

Los inventarios grandes pueden crear una falsa sensación de exhaustividad. Un riesgo puede encajar en varias categorías, y los nuevos usos o combinaciones de sistemas pueden crear exposiciones que no se anticiparon cuando se ensambló una taxonomía. Por lo tanto, un equipo debe registrar el escenario concreto detrás de cada elemento seleccionado: qué podría suceder, quién o qué podría verse afectado y bajo qué condiciones.

A partir de ahí, la organización puede evaluar el impacto y la probabilidad, elegir controles proporcionales e identificar a un responsable. Algunos riesgos necesitan pruebas técnicas; otros necesitan cambios en la capacitación, el diseño de procesos, la revisión humana o los acuerdos con proveedores. Una taxonomía ayuda a organizar este trabajo, pero no debe reemplazar el juicio local o el monitoreo posterior al despliegue.

Para una empresa, el valor radica en conectar las clasificaciones con las decisiones. Un registro de riesgos que utiliza una taxonomía común puede respaldar la presentación de informes en todos los equipos, manteniendo al mismo tiempo el detalle suficiente para reflejar los sistemas individuales. Revise el registro cuando cambie el propósito, el modelo, los datos, el grupo de usuarios o el entorno operativo, y registre cualquier nuevo riesgo que las categorías actuales no describan bien.