Transparencia
Usar una herramienta con criterio requiere saber qué es, qué puede hacer, qué no y, cuando sea relevante, en qué se basa.
Qué significa transparencia
Posibilidad de acceder a información suficiente para comprender cómo fue creado un sistema de IA, qué puede y qué no puede hacer y cómo llega a sus resultados.
No significa que toda persona deba entender los detalles matemáticos de un modelo. Significa disponer de la información necesaria, según el rol, para usar la herramienta con criterio o evaluar una decisión que la afecta.
Cuando resulte relevante, también saber si una imagen, audio o video fueron generados artificialmente.
Para qué fue diseñada, en qué tareas funciona bien y dónde puede fallar.
Cuando sea posible y relevante, saber qué tipo de información se utilizó para entrenarla.
En tareas de alto impacto, no alcanza con recibir una recomendación: hace falta poder evaluar en qué se basó.
En algunas jurisdicciones existen obligaciones específicas de información sobre el uso de IA o sobre ciertos contenidos generados artificialmente. El material toma como ejemplo el Reglamento de Inteligencia Artificial de la Unión Europea (2024). Las obligaciones concretas varían según el país.
Transparencia y confianza
La confianza debería ser proporcional a lo que sabemos de una herramienta. El exceso de confianza lleva a aceptar errores sin revisarlos; la desconfianza total puede llevar a desaprovechar una herramienta útil.
Los límites de la transparencia
Los sistemas generativos actuales son muy complejos y no siempre es posible explicar en detalle cada resultado. Además, ciertas empresas no publican información por razones comerciales o de seguridad. Por eso la transparencia funciona como objetivo y práctica: documentar, informar y advertir limitaciones. Cuando una herramienta no puede explicar sus resultados, una decisión importante necesita más revisión humana, no menos.
Comparar dos situaciones
Situación A. Un municipio ofrece un asistente que informa claramente que es automático, delimita su alcance y remite a información oficial o a una persona para casos particulares.
Situación B. Otro municipio usa un servicio similar con el nombre y la foto de una supuesta empleada, sin aclarar que es un sistema automático ni mencionar sus límites.
¿Cuál es más transparente? ¿Qué riesgos concretos podría generar la situación B?
Ver orientación
La situación A es más transparente. En la B, las personas pueden creer que hablan con alguien del municipio y tomar respuestas automáticas como información oficial y definitiva.
Una herramienta es más confiable cuando sabemos qué es, qué puede hacer, qué no puede hacer y en qué se basa.