El mes pasado vi a un comerciante perder seis cifras porque un modelo de IA citó con confianza un archivo regulatorio inexistente. La alucinación tenía un formato perfecto, fechas realistas, incluso un número de documento falso. Para cuando la verificación humana lo detectó, el daño ya estaba hecho.
Esto no es raro. Es martes.
Estamos implementando sistemas de IA más rápido de lo que podemos confiar en ellos. Diagnósticos médicos, contratos legales, análisis financieros, dominios donde un solo error se convierte en una catástrofe. ¿La solución actual? Lanzar más humanos al problema. Pero la supervisión humana no se escala, y "confía pero verifica" se descompone cuando la verificación toma más tiempo que la ventana de decisión.