Cada cambio tecnológico importante choca con la misma pared. La tecnología escala. La gobernanza no. Pasan cosas malas. Los reguladores intervienen.
Hemos visto esto en los mercados financieros, en las primeras redes sociales y en cripto. Estamos a punto de verlo en agentes de IA. Y esta vez, tenemos una elección.
LA COSA QUE NADIE ESTÁ VALORANDO
La conversación sobre los agentes de IA ha estado dominada por la capacidad. Estas son las preguntas equivocadas.
La pregunta correcta es: ¿qué pasa cuando millones de agentes de IA comienzan a gastar dinero?
Eso se viene. x402 permite que los agentes paguen por HTTP. El AP2 de Google extiende el comercio de agentes. El ACP de Stripe abre las vías de tarjetas. La Intención Verificable de Mastercard añade identidad. La ejecución se está enviando. La responsabilidad no está.
Ahora mismo, un solo agente con un prompt mal configurado podría drenar una cuenta en segundos. Ninguno de estos escenarios requiere malicia, solo escala. Y la escala está garantizada.
YA HEMOS ESTADO AQUÍ ANTES
En los años 80, el trading programado dominó los mercados. Las computadoras ejecutaban más rápido de lo que los humanos podían reaccionar. Luego, el 19 de octubre de 1987, el Lunes Negro, cascadas automatizadas borraron el 22% del mercado en un día. La respuesta fueron los circuit breakers. Responsabilidad adaptada a un sistema escalado.
En los años 2010, las redes sociales escalaron más rápido que la gobernanza. Luego, la interferencia electoral, el acoso coordinado y la radicalización algorítmica forzaron la conversación. Adaptado después del daño.
2022: FTX mostró lo que sucede cuando un sistema financiero opera a la velocidad del capital de riesgo con la gobernanza en una servilleta. La respuesta fue lo que los reguladores deberían haber requerido desde el principio.
En cada caso, la gobernanza llegó después del daño.
QUÉ DEBE SIGNIFICAR "GOBERNANZA"
La verdadera gobernanza para agentes de IA no es una política de contenido. Es una capa de ejecución que evalúa cada acción del agente antes de que ocurra.
Eso significa: externo (no integrado en el agente), determinista (mismo input, mismo output cada vez), auditable (registros verificables), portable (misma política en todos los rails), y abierto (un estándar, no un producto).
Cualquier cosa menos es cinta adhesiva.
POR QUÉ ESTO DEBE SER UN ESTÁNDAR, NO UN PRODUCTO
El caso de negocio para un producto es obvio: características premium, lock-in, contratos empresariales.
Pero la infraestructura que importa no se construye así. TCP/IP no es un producto. HTTP no lo es. OAuth no lo es. Son estándares que todos adoptan porque todos los necesitan. Invisibles porque funcionan. Funcionan porque son abiertos.
Si la economía de agentes va a tener verdadera responsabilidad, no puede depender de cuál proveedor tenga el mejor equipo de ventas este trimestre.
LA ELECCIÓN QUE TENEMOS AHORA MISMO
La economía de agentes está en marcha. No negociable.
Lo que es negociable: si se lanza con responsabilidad integrada, o si esperamos el desastre inevitable que obliga a la adaptación.
Lee la especificación de xBPP: xbpp.org