Por qué la IA generativa plantea cuestiones éticas
Beneficios y riesgos aparecen al mismo tiempo; tres ejes ayudan a ordenar el análisis.
Beneficios y riesgos al mismo tiempo
La IA generativa puede ayudar a superar la página en blanco, acelerar tareas repetitivas, facilitar la traducción y la accesibilidad y explorar muchas alternativas en poco tiempo. Pero también puede producir resultados problemáticos.
Un texto fluido y seguro que contiene datos falsos.
Lenguaje ofensivo, discriminatorio o que puede causar perjuicios.
Resultados que favorecen o perjudican injustamente a ciertos grupos.
Datos personales o confidenciales que se exponen o usan sin control.
Contenidos que reproducen o se parecen demasiado a obras protegidas.
Respuestas o recomendaciones cuyo origen no puede explicarse con claridad.
Estos problemas no suelen ser intencionales: pueden surgir de los datos de entrenamiento, del diseño de la herramienta o de la forma en que se utiliza.
Qué es la ética de la IA
Campo multidisciplinario que estudia cómo aprovechar al máximo los beneficios de la inteligencia artificial y, al mismo tiempo, reducir sus riesgos y efectos adversos.
Es multidisciplinaria porque intervienen la informática, el derecho, la filosofía, la sociología, la gestión de organizaciones y el conocimiento de cada ámbito de aplicación. Además, abarca todo el ciclo de vida de un sistema: diseño, entrenamiento, puesta en funcionamiento y uso cotidiano.
Tres ejes para analizar
La Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO (2021), los Principios de IA de la OCDE (2019, actualizados en 2024) y el Marco de Gestión de Riesgos de IA del NIST (2023) coinciden, con matices, en principios como transparencia, rendición de cuentas, equidad, privacidad, seguridad y supervisión humana. En este módulo los organizamos en tres ejes centrales:
| Eje | Pregunta que orienta |
|---|---|
| Transparencia | ¿Podemos saber que estamos usando IA, qué puede hacer y cuáles son sus límites? |
| Responsabilidad | ¿Quién responde por los resultados y quién los revisa? |
| Equidad | ¿La herramienta trata de manera justa a todas las personas y grupos? |
Esta selección es una herramienta didáctica, no una lista cerrada. Privacidad, propiedad intelectual y prevención de contenido dañino se relacionan con los tres ejes a la vez.
Identificar el problema
Una organización cultural usa IA generativa para redactar la biografía de una artista. El texto se publica y después la artista informa que le atribuye premios y estudios que nunca tuvo.
- ¿Qué problema ético aparece?
- ¿Con cuál de los tres ejes se relaciona más directamente?
- ¿Qué debería haberse hecho antes de publicar?
Ver orientación
Aparece información incorrecta presentada como cierta. Se relaciona sobre todo con la responsabilidad, porque nadie verificó el texto antes de publicarlo; también con la transparencia, si la organización desconocía que la herramienta podía inventar datos.
Los riesgos de la IA generativa no son razones para no usarla, sino razones para usarla con criterio.