Ética de la inteligencia artificial: los 10 principios de la UNESCO
Cuatro valores y diez principios de la UNESCO para que la IA respete los derechos humanos: qué dice cada uno.
La Recomendación sobre la ética de la inteligencia artificial de la UNESCO es un marco internacional pensado para que la IA trabaje "por el bien de la humanidad, las personas, las sociedades y el medio ambiente". Se basa en cuatro valores y diez principios centrados en los derechos humanos. No es una ley (para eso, mira el reglamento europeo de IA), pero sirve como brújula para entender qué se le debería exigir a una IA.
Los cuatro valores
- Derechos humanos y dignidad humana: respeto, protección y promoción de los derechos humanos, las libertades fundamentales y la dignidad humana.
- Vivir en sociedades pacíficas, justas e interconectadas.
- Garantizar la diversidad y la inclusión.
- Florecimiento del medio ambiente y los ecosistemas.
Los diez principios, uno a uno
- Proporcionalidad e inocuidad. El uso de la IA no debe ir más allá de lo necesario para lograr un objetivo legítimo, y la evaluación de riesgos debe usarse para prevenir los daños de usos ilegítimos.
- Seguridad y protección. Hay que evitar y tener en cuenta los daños no deseados (riesgos de seguridad) y las vulnerabilidades a los ataques (riesgos de protección).
- Derecho a la intimidad y protección de datos. La privacidad debe protegerse y promoverse durante todo el ciclo de vida de la IA, con marcos adecuados de protección de datos.
- Gobernanza y colaboración adaptativas y de múltiples partes interesadas. En el uso de datos deben respetarse el derecho internacional y la soberanía nacional, y se necesita la participación de diversas partes para una gobernanza inclusiva.
- Responsabilidad y rendición de cuentas. Los sistemas de IA deben ser auditables y trazables, con mecanismos de supervisión, evaluación de impacto, auditoría y diligencia debida para evitar conflictos con los derechos humanos y amenazas al medio ambiente.
- Transparencia y explicabilidad. El despliegue ético de la IA depende de ellas. La UNESCO matiza que su nivel debe ser adecuado al contexto, porque puede haber tensiones con otros principios como la privacidad o la seguridad.
- Supervisión y decisión humanas. Los Estados deberían velar por que siempre sea posible atribuir la responsabilidad ética y jurídica a personas físicas o entidades jurídicas existentes.
- Sostenibilidad. Las tecnologías de IA deben evaluarse por su impacto en la sostenibilidad, entendida como un conjunto cambiante de objetivos, como los Objetivos de Desarrollo Sostenible de la ONU.
- Sensibilización y educación. Hay que promover la comprensión pública de la IA y del valor de los datos mediante educación abierta y accesible, participación cívica, competencias digitales y alfabetización mediática e informacional.
- Equidad y no discriminación. Quienes participan en la IA deberían promover la justicia social, salvaguardar la equidad y combatir todo tipo de discriminación, de modo que sus beneficios lleguen a todos.
Qué significa para ti como usuario
Los principios hablan sobre todo de gobiernos y empresas, pero te dan preguntas útiles cuando usas una herramienta de IA:
- ¿Qué hace con mis datos? Es el principio 3. Antes de pegar información personal, repasa cómo usar un chatbot sin compartir datos.
- ¿Puedo saber por qué decide lo que decide? Es el principio 6: transparencia y explicabilidad.
- ¿Hay una persona responsable detrás? Es el principio 7. Si una IA se equivoca contigo, alguien debe poder responder.
- ¿Trata igual a todos? Es el principio 10. Descubre cómo se cuelan los sesgos en la IA.
- ¿Y los autores del contenido con el que se entrenó? Es un asunto vecino que tratamos en IA y derechos de autor.
Para entender qué es lo que se está regulando, empieza por qué es la IA generativa.
Fuentes consultadas
Guía de PortalTec: https://www.portaltec.eu/articulos/etica-ia-diez-principios-unesco/
