Sesgos en la IA: qué son y cómo detectarlos

Un sesgo en inteligencia artificial es una tendencia sistemática de un modelo a favorecer o perjudicar a ciertos grupos, ideas o resultados. No es una «opinión» de la máquina: es el reflejo de lo que ha aprendido y de cómo se ha construido.

De dónde vienen

• Los datos de entrenamiento. Un modelo aprende de grandes cantidades de texto, imágenes o decisiones pasadas hechas por personas. Si esos datos reflejan desigualdades o estereotipos, el modelo los reproduce. Si faltan datos de un grupo, funcionará peor con él.
• Cómo se plantea el problema. Qué se mide, qué se considera un buen resultado y qué variables se usan influyen en lo que el sistema optimiza.
• Las personas que lo diseñan o lo etiquetan. Las decisiones humanas dejan huella en los datos y en los criterios.
• El contexto de uso. Un sistema fiable en un contexto puede fallar al usarlo en otro distinto al previsto.

Ejemplos

• Sistemas de selección de personal entrenados con contrataciones pasadas que repiten los patrones del historial, incluidos los discriminatorios.
• Reconocimiento facial con más errores en ciertos grupos de personas, por estar peor representados en los datos.
• Asistentes de texto que asocian profesiones o rasgos a un género o una procedencia por los textos con los que aprendieron.
• Generadores de imágenes que, ante una petición neutra, devuelven con más frecuencia un mismo perfil.

Cómo reducir el riesgo al usarlos

1. No des por hecho que una respuesta de la IA es neutra ni verdadera, como ocurre con las alucinaciones.
2. Contrasta con otras fuentes y con tu propio criterio, sobre todo en temas que afectan a personas (empleo, salud, crédito).
3. Pide enfoques distintos: formula la misma pregunta de varias maneras o pide explícitamente varias perspectivas.
4. Revisa los resultados con una mirada crítica: ¿a quién beneficia, a quién deja fuera?
5. Mantén a una persona en la decisión cuando el resultado pueda perjudicar a alguien.

Qué se está haciendo

Quienes desarrollan modelos aplican técnicas como revisar y equilibrar los datos, medir el rendimiento por grupos y probar los sistemas antes de usarlos. La regulación también avanza: el Reglamento europeo de IA exige gestionar los riesgos y la calidad de los datos en los sistemas de alto riesgo.

Eliminar el sesgo por completo es muy difícil; lo realista es reconocerlo, medirlo y limitar su efecto.