Каждый крупный технологический сдвиг сталкивается с одной и той же проблемой. Технология масштабируется. Управление - нет. Происходят плохие вещи. Регуляторы вмешиваются.

Мы видели это на финансовых рынках, в ранних социальных медиа и в крипте. Мы собираемся увидеть это в AI-агентах. И на этот раз у нас есть выбор.

ТО, ЧТО НИКТО НЕ УЧИТЫВАЕТ В ЦЕНАХ

Разговор о AI-агентах был сосредоточен на их возможностях. Это не те вопросы.

Правильный вопрос: что произойдет, когда миллионы AI-агентов начнут тратить деньги?

Это уже близко. x402 позволяет агентам платить по HTTP. AP2 от Google расширяет коммерцию для агентов. ACP от Stripe открывает платежные каналы. Verifiable Intent от Mastercard добавляет идентичность. Исполнение идет полным ходом. Ответственности нет.

Прямо сейчас один единственный агент с неправильно настроенным промптом может опустошить счет за секунды. Ни один из этих сценариев не требует злого умысла, только масштаба. А масштаб гарантирован.

МЫ УЖЕ ТУТ БЫЛИ

В 1980-х годах программная торговля доминировала на рынках. Компьютеры выполняли операции быстрее, чем люди могли реагировать. Затем, 19 октября 1987 года, в Черный понедельник, автоматические каскады стерли 22% рынка за день. Ответом стали защитные механизмы. Подотчетность была встроена в масштабируемую систему.

В 2010-х годах социальные медиа масштабировались быстрее, чем управление. Затем вмешательство в выборы, скоординированные преследования и алгоритмическая радикализация заставили начать разговор. Восстановление после ущерба.

2022: FTX показал, что происходит, когда финансовая система работает на скорости венчурного капитала с управлением на салфетке. Ответом было то, что регуляторы должны были требовать с самого начала.

В каждом случае управление приходило после ущерба.

ЧТО ДОЛЖНО ЗНАЧИТЬ "УПРАВЛЕНИЕ"

Настоящее управление для ИИ-агентов не является политикой контента. Это уровень принудительного исполнения во время исполнения, который оценивает каждое действие агента перед его выполнением.

Это значит: внешний (не встроенный в агента), детерминированный (один и тот же ввод, один и тот же вывод каждый раз), аудируемый (проверяемые записи), переносимый (одинаковая политика на всех платформах) и открытый (стандарт, а не продукт).

Все, что меньше, это просто временное решение.

ПОЧЕМУ ЭТО ДОЛЖНО БЫТЬ СТАНДАРТОМ, А НЕ ПРОДУКТОМ

Деловой случай для продукта очевиден: премиум функции, привязка, корпоративные контракты.

Но инфраструктура, которая имеет значение, не строится таким образом. TCP/IP не является продуктом. HTTP тоже. OAuth тоже. Это стандарты, которые все принимают, потому что всем они нужны. Невидимые, потому что они работают. Работают, потому что они открыты.

Если экономика агентов собирается иметь настоящую подотчетность, она не может зависеть от того, какой вендор имеет лучшую торговую команду в этом квартале.

ВЫБОР, КОТОРЫЙ У НАС ЕСТЬ ПРЯМО СЕЙЧАС

Экономика агентов выходит на рынок. Не подлежит обсуждению.

Что можно обсуждать: стартовать с подотчетностью встроенной или ждать неизбежной катастрофы, которая заставит нас провести доработку.

Прочитайте спецификацию xBPP: xbpp.org