La primera vez que una empresa dice: “la IA solo sugiere”, casi puedes escuchar al departamento legal respirar más tranquilo.

Porque “sugerencia” es un escudo conveniente. El modelo produce la salida. Un humano hace clic en aprobar. Si algo sale mal, la responsabilidad se disuelve en diagramas de proceso y gráficos de flujo de trabajo. El sistema actuó, pero nadie realmente poseía la acción.

Esta es la verdadera crisis de responsabilidad en la IA. No se trata principalmente de la precisión del modelo, el costo o la latencia. Se trata de responsabilidad. Cuando una decisión impulsada por IA causa daño — un préstamo denegado, una transacción marcada, una recomendación médica, una alerta de cumplimiento — ¿quién lleva la carga de la prueba?