Hace poco volví a ver The Big Short. El escalofrío en la espalda no fue cuando el mercado se cayó, sino antes: todos veían las cifras bonitas, todos creían que el mercado inmobiliario solo subía, solo unos pocos tuvieron el valor de abrir los expedientes y mirar qué había de verdad dentro de esos paquetes de deuda. Resultó que todo el sistema funcionaba sobre algo que nadie verificaba, solo en lo que todos confiaban. De pronto me vino a la cabeza cómo confío en la IA.
La IA da una cifra, una respuesta, una recomendación: suena tan contundente, y yo me lo creo, igual que toda la gente de Wall Street se creía esas calificaciones AAA. La pregunta que me parece más pertinente no es esa, sino: ¿alguien logra abrir el expediente dentro de una respuesta de la IA para ver en qué se basa, o todo el sistema también está corriendo sobre una fe que no se comprueba?
Aquí es donde <@OpenGradient > se pone del lado de quienes abren los expedientes. HACA hace que cada vez que la IA corra quede una prueba: qué modelo, con qué datos; una parte independiente lo revisa antes de escribirlo en la cadena, pagando la tarifa por <$OPG >. El paquete “créeme” se desmonta en piezas que se pueden comprobar por capas, en lugar de ser una caja negra con sello AAA que nadie abre.
Dicho sin rodeos: tener expedientes para abrir no significa que la gente los vaya a abrir. En ese entonces, nadie le prohibía a nadie revisar; simplemente nadie tenía ganas, porque estaban ganando dinero. La IA de usuario también: cuando la respuesta todavía era correcta, ¿quién tendría tiempo de revisar la prueba? La gente solo abre los expedientes cuando ya es demasiado tarde.
Así que lo importante no es lo bonita que sea la cifra.
Sino si alguien puede abrir lo que hay dentro antes de que sea demasiado tarde.
Porque creer en el sello AAA es algo que todo el barrio puede hacer.
Quien se atreve a abrir expedientes cuando todavía todos están contentos, es lo único que puede salvarnos.
<#opg $OPG >