Índice de contenidos
Imagina que un cliente reclama porque tu asistente virtual le ha dado una información incorrecta sobre un plazo de entrega o una condición contractual. La primera pregunta que va a hacer cualquier responsable, cualquier auditor o cualquier abogado no es "¿por qué falló la IA?". Es "¿de dónde salió esa respuesta?". Si nadie en la empresa puede contestar eso con precisión, el problema pasa de ser técnico a ser de gobernanza.
Eso es la trazabilidad: la capacidad de reconstruir, para cualquier respuesta o decisión de un sistema de IA, qué información la originó, cuándo se generó y bajo qué reglas. Es, en la práctica, la diferencia entre confiar en un sistema y simplemente esperar que funcione.
Lo que exige la normativa, en la práctica
El artículo 12 del Reglamento de IA de la Unión Europea obliga a los sistemas de alto riesgo a generar registros automáticos ("logs") durante todo su ciclo de vida, de forma que se pueda identificar el nivel de riesgo del sistema en cada momento y facilitar el seguimiento poscomercialización posterior. El artículo 13, sobre transparencia, exige que el funcionamiento sea comprensible para quien despliega el sistema, no solo para quien lo construyó.
El Esquema Nacional de Seguridad (ENS) va todavía más lejos en un punto concreto: la trazabilidad es una de sus cinco dimensiones de seguridad, junto a autenticidad, confidencialidad, integridad y disponibilidad.
La medida op.exp.8, registro de la actividad, obliga a generar un registro de auditoría que identifique quién hizo qué, cuándo y con qué resultado, con exigencias crecientes según la categoría del sistema (básica, media o alta). Cuando un sistema de IA queda dentro del alcance de un servicio sujeto al ENS, no poder reconstruir a posteriori quién accedió o modificó cierta información es, literalmente, un incumplimiento de una de las cinco dimensiones que la norma protege.
Las 5 dimensiones de seguirodad del Esquema Nacional de Seguridad (ENS): trazabilidad, seguridad, autenticidad, confidencialidad, integridad y disponibilidad.
La ISO/IEC 42001 lo enfoca desde la gestión: exige que la organización pueda demostrar cómo se tomaron las decisiones relacionadas con el sistema de IA a lo largo de su ciclo de vida, no solo en el momento de la implantación.
Los tres niveles de trazabilidad que debe tener un sistema serio
- Trazabilidad de la respuesta. ¿De qué documento, política o dato concreto sale lo que ha contestado el sistema? No basta con "fuente: manual.pdf"; hace falta la sección, la fecha de la versión consultada y, si es posible, un enlace directo.
- Trazabilidad del cambio. ¿Quién modificó una fuente, cuándo y por qué? Un sistema que actualiza su conocimiento sin dejar rastro de quién autorizó el cambio es tan opaco como uno que no se actualiza nunca.
- Trazabilidad de la decisión del sistema. Cuando la IA no solo informa, sino que prioriza, recomienda o filtra (por ejemplo, en mantenimiento predictivo o en scoring), hace falta poder explicar qué variables pesaron en esa salida concreta, no solo el resultado final.
Caja negra vs. sistema trazable
Entonces, ¿cuál es la diferencia entre tener una "caja negra" de IA y un sistema con trazabilidad?
| Caja negra | Sistema trazable | |
|---|---|---|
| Respuesta | Se genera, sin más | Se genera y se ancla a una fuente identificable |
| Ante una reclamación | No hay forma de reconstruir el origen | Se reconstruye en minutos |
| Ante una auditoría | Se depende de la memoria del equipo | Existe un registro automático y consultable |
| Actualización del conocimiento | Cambios sin rastro de quién ni cuándo | Cada cambio queda registrado con autor y fecha |
| Confianza del usuario interno | Se usa hasta el primer error grave | Se mantiene porque se puede verificar |
Por qué la trazabilidad y la confianza son lo misma
Un sistema que no puede explicarse va perdiendo confianza.
Nadie anuncia que ha dejado de usar el asistente interno; simplemente empieza a preguntarle menos y a llamar más al compañero de siempre.
Por eso, este artículo tiene como objetivo dejar claro que la trazabilidad no es solo una exigencia normativa. Es lo que sostiene la adopción real de una IA dentro de una organización.
Cómo se ve la trazabilidad bien resuelta
En La iaia, cada respuesta que da el sistema cita de dónde sale, y el panel de control permite revisar cada conversación: qué se preguntó, qué contestó el sistema y de qué fuente concreta salió esa respuesta. Las fuentes de conocimiento quedan registradas con su estado (activa, procesando, desactualizada) y su fecha de última actualización. Y si el dato no está documentado en ninguna fuente oficial, el sistema lo dice.
Esto no es una capa añadida de compliance sobre un producto ya construido. Es la arquitectura misma del sistema: no puede responder sin apoyarse en una fuente, así que la trazabilidad es estructural.
Checklist de trazabilidad de tu IA
Comprueba si tu IA tiene una capa estructural de trazabilidad con el siguiente checklist. ¿Has marcado muchas?
| Estado | Pregunta de control (Trazabilidad) |
|---|---|
Preguntas frecuentes sobre la trazabilidad de tu IA
¿Trazabilidad y explicabilidad son lo mismo?
Están relacionadas pero no son idénticas. La trazabilidad permite reconstruir el origen de una respuesta o decisión (qué dato, qué fuente, qué fecha). La explicabilidad va un paso más allá y busca hacer comprensible la lógica interna del modelo, algo especialmente relevante en sistemas de aprendizaje automático complejos, no tanto en asistentes basados en fuentes documentales.
¿Todos los sistemas de IA necesitan el mismo nivel de trazabilidad?
No. El Reglamento de IA gradúa las exigencias según el nivel de riesgo. Pero cualquier sistema que tome decisiones con impacto en clientes, empleados o cumplimiento normativo se beneficia de un nivel de trazabilidad alto, sea o no obligatorio en su caso concreto.
Existen distintos niveles de riesgo. Si quieres saber cuál es el que aplica a tu empresa, este artículo te interesa: Reglamento de IA (AI Act): qué debe tener listo tu empresa antes de la próxima inspección.
¿La trazabilidad ralentiza el sistema?
No debería, si está bien diseñada desde el principio. El problema aparece cuando se intenta añadir trazabilidad a posteriori sobre un sistema que no se construyó pensando en ella.
Y ahora, ¿por dónde empezar a construir un sistema trazable con IA?
Una IA que no puede explicar de dónde obtuvo su respuesta no es una herramienta que genere confianza. Y, tarde o temprano, alguien deberá tener que encararse ante un cliente, un comité o un auditor, para explicar el motivo de esa respuesta o confusión.
En Bluak construimos sistemas de IA donde la trazabilidad es una característica que está ahí desde el primer día. Si quieres saber si podrías explicar, ahora mismo, la última respuesta que dio tu IA, hablemos.
