Las tres palabras que terminan mal una auditoría de agentes de IA: "No estamos seguros"
6 de septiembre de 2026
La pregunta que en algún momento le harán
Si su organización usa agentes de IA para algo que toca procesos reales del negocio, esta pregunta llegará, ya sea de una auditoría interna, un regulador o el equipo de due diligence de un cliente: "Muéstreme quién aprobó esta acción concreta, y con qué base."
Existe una buena respuesta a esa pregunta. Existe también una respuesta honestamente mala pero superable ("fue un error, esto es exactamente lo que cambiamos como consecuencia"). Y existe la respuesta que de verdad daña la confianza, más que las otras dos: "no estamos del todo seguros: tenemos registros, pero no un rastro de aprobación claro." Esa tercera respuesta no es un tecnicismo ni un margen de error. Es la diferencia entre un proceso controlado y uno sin gobernanza, y los auditores están entrenados precisamente para distinguir el uno del otro: la incertidumbre en sí misma es el hallazgo, independientemente de si algo salió realmente mal.
Por qué la presión por avanzar rápido hizo esta pregunta más difícil de responder, no más fácil
Las organizaciones no frenan la adopción de IA por prudencia en sí misma. Avanzan porque el argumento a favor de la velocidad es real: agentes que redactan, priorizan y actúan más rápido de lo que podría hacerlo un equipo de personas son una ventaja genuina, y cada trimestre de retraso tiene un coste real. Esa no es la parte que hay que arreglar. Lo que hay que arreglar es la suposición, habitual en equipos que se mueven rápido, de que el rastro de aprobación es algo que se puede añadir más adelante, una vez que el piloto demuestre su valor. Casi nunca se añade después. Se descubre que falta justo en el momento en que alguien lo pide.
El Artículo 12 ya no es abstracto
El Artículo 12 del Reglamento de IA de la UE exige el registro automático de eventos durante toda la vida útil de los sistemas de IA de alto riesgo — no como algo deseable, sino como una obligación exigible, con fechas de aplicación que ya no están cómodamente lejos. No lo citamos como una afirmación sobre lo que un producto concreto certifica o deja de certificar; ningún proveedor puede entregarle la conformidad normativa en una caja. Lo citamos como el contexto externo real que está cambiando lo que realmente cuesta decir "ya resolveremos la historia de la auditoría más adelante." Para cualquier organización de la UE que despliega agentes en flujos de trabajo reales, esa frase se está convirtiendo rápidamente en "resolveremos la historia de la auditoría después de que el plazo ya haya pasado" — y en ese punto, la corrección es retroactiva y mucho más cara de lo que hacía falta que fuera.
Esto en realidad no es territorio nuevo para los equipos de cumplimiento: es la misma disciplina que ya se aplica a los controles financieros o a la gestión de accesos, aplicada a un nuevo tipo de actor que resulta ser software en lugar de una persona. El estándar de evidencia no cambia solo porque quien hace la solicitud sea un agente en lugar de un empleado.
Por qué "tenemos registros" no es lo mismo que "tenemos gobernanza"
Los registros responden a "qué ocurrió." No responden a "esto estaba autorizado" ni a "se podría haber detenido." Una respuesta realmente defendible necesita tres elementos combinados: una política que realmente se evaluó antes de que la acción se ejecutara, una decisión humana vinculada al cambio concreto propuesto (no una aprobación genérica del "programa de IA"), y un registro que no pueda modificarse discretamente después. La mayoría de las organizaciones tienen la primera pieza —el registro— y les faltan la segunda y la tercera: el control preventivo real y la prueba a prueba de manipulaciones de que una persona, en concreto, lo ejerció.
Note que son dos cosas distintas, y confundirlas es exactamente lo que lleva a las organizaciones a esa falsa confianza que produce el "no estamos seguros." Un rastro de auditoría cuenta una historia sobre el pasado. Un control preventivo cambia lo que puede ocurrir en el futuro. Necesita ambos, y tener uno no es evidencia de tener el otro.
Cómo es realmente "defendible"
Cuando llegue la pregunta —y para una organización regulada o con sede en la UE que despliega agentes en flujos de trabajo reales, llegará— la respuesta que quiere dar es concreta y rápida, porque ya es cierta, no porque la reconstruyó a toda prisa: esta acción exacta se evaluó frente a esta política, esta persona con nombre revisó y aprobó el cambio exacto propuesto, y aquí está el registro, sin alterar, que vincula los tres elementos. Esa es una posición fundamentalmente distinta y mucho más sólida que "aquí hay un archivo de registro, creemos que no ocurrió nada inusual" — y es también, no por casualidad, la posición que le permite responder al auditor en minutos en lugar de semanas, porque no hay nada que reconstruir.
Si su respuesta actual a "¿quién aprobó esa acción del agente?" se apoya más en la esperanza que en la evidencia, esa es precisamente la brecha que David Gate está construido para cerrar, antes de que el auditor pregunte, no después. Muéstrenos un flujo de trabajo que necesitaría defender bajo un escrutinio real, y veamos cómo es una respuesta genuinamente demostrable.
