В офисе глубокой ночью технический директор Ли Мин пристально смотрит на экран, на котором внезапно появляется аномальный поток данных. Два AI-агента, которые должны были работать в координации, обмениваются информацией непонятным для него образом. Более того, система показывает, что одному из агентов только что были введены поддельные рыночные данные — и вся система верификации ничего не замечает.
Это не научно-фантастическая сцена. С爆发式 ростом числа AI-агентов, диалог между машинами становится новым краеугольным камнем коммерческого мира. Но когда каждый AI может произвольно заявлять «кто я», и когда подлинность данных можно определить только на удачу, кризис доверия зарыт глубоко в каждом автоматизированном системе, как бомба с замедленным действием.
Отсутствие проверки: опасная игра с черным ящиком
Современная AI-коммуникация напоминает незнакомца без удостоверения личности, который обменивается секретами. Внешние источники данных трудно проверить, и система может проводить лишь ограниченную локальную проверку. Более того, модель доверия черно-белая — либо полное принятие, либо абсолютный отказ. Эта бинарная оценка не позволяет AI, как человеку, строить динамический уровень доверия на основе исторической производительности.
Последствия намного серьезнее, чем можно себе представить:
- Атаки на искажение данных практически невозможно обнаружить
- Злонамеренные сущности легко притворяются законными агентами
- Финансовые рынки сталкиваются с риском манипуляций ценами
- Ложная информация, словно вирус, загрязняет граф знаний
ATTPs: Оснастить AI-диалоги «детектором лжи»
Протокол безопасной передачи AgentText, выпущенный APRO Research, по сути является сводом социальных норм для машинного мира. Он делает каждый диалог AI-агентов похожим на нотариально заверенный контракт, каждый участник должен доказать «я — это я», и каждое слово должно проходить проверку на подлинность.
Основное достижение этого протокола заключается в том, чтобы сделать размытое понятие «доверия» количественным техническим показателем.
Пятиуровневая архитектура восстанавливает основы доверия
Уровень передачи построен на APRO Chain, использует стейкинг BTC и смешанный консенсус PoS. Когда узлы пытаются действовать злонамеренно, голосование ABCI++ активирует механизмы наказания — злонамеренные узлы потеряют треть своих стейкинговых токенов.
Уровень проверки больше похож на точную систему контроля безопасности:
- Доказательства с нулевым разглашением (ZKP) обеспечивают соблюдение конфиденциальности и проверку
- Структура дерева Меркла делает искажение данных неуловимым
- Система оценки доверия фиксирует «кредитные истории» каждого агента
Многоступенчатый процесс проверки напоминает судебное разбирательство:
Подтверждение
Кросс-валидация узлов
Голосование консенсуса
Безопасная доставка
От технического протокола до новой инфраструктуры доверия
Изысканность этого дизайна заключается в том, что он признает отсутствие абсолютной безопасности. Вместо того чтобы стремиться к идеальной защите, ATTPs создает динамический баланс, повышая стоимость злонамеренных действий. Когда стоимость подделки личности значительно превышает выгоду, и каждая ложь оставляет постоянный след, диалоги между AI естественным образом стремятся к честности.
Более важно, что противоречие между пропускной способностью и безопасностью было переопределено. Через многоуровневую проверку и прогрессивные механизмы доверия система не требует полной стоимости верификации для каждого пакета данных. Это означает, что массовое коммерческое использование становится возможным.
В этот момент, возможно, множество AI-агентов в темноте пытаются наладить диалог. Протоколы, такие как ATTPs, пишут первую конституцию для машинного общества — не через принуждение, а устанавливая игровые правила, при которых честность выгоднее обмана.