Несколько дней назад у Claude от Anthropic обнаружилась уязвимость "ClaudeBleed". Злоумышленный расширение без прав в браузере может удалённо вмешиваться и захватывать AI-агента, управляя им для своих нужд. Ранее AI-агент PocketOS за девять секунд полностью очистил производственную базу данных и все резервные копии. Нин Фан, прочитав об этом, лишь сказал — когда AI-агенты начинают разгуливать с токенами разработчиков, вызывая API, пишут контракты и переводят активы, проблема — лишь вопрос времени.
Современная безопасность AI-агентов в основном зависит от "ограждений по правам доступа": ограничение области действия токенов, добавление узлов одобрения, создание изолированных песочниц. Но Нин Фан считает, что это максимум первая линия защиты. Настоящая безопасность не должна ограничиваться лишь внешними ограждениями, необходимо сделать действия агентов отслеживаемыми и неизменяемыми.
Вот почему @OpenLedger привлекла внимание Нин Фана. Это не проект по безопасности AI, но он предоставляет AI-агентам систему "цифрового правосудия". Основной концепцией является доказательство принадлежности: каждое рассуждение агента, каждый вызов модели фиксируется на блокчейне, создавая неизменяемую запись. Кто модель использовал, какие данные были применены и какое решение было принято — все это можно восстановить задним числом. Эта логика основана не на ограничении прав, а на гарантии того, что каждая операция агента имеет документальное подтверждение.
Нин Фан считает, что это именно та основа безопасности, которая должна быть у AI-агента. Безопасность не только в контроле, но и в наличии аудитной системы, способной привлечь к ответственности. Ответственная цепочка, которую OpenLedger установила для AI, еще не была оценена рынком.
#OpenLedger $OPEN
Современная безопасность AI-агентов в основном зависит от "ограждений по правам доступа": ограничение области действия токенов, добавление узлов одобрения, создание изолированных песочниц. Но Нин Фан считает, что это максимум первая линия защиты. Настоящая безопасность не должна ограничиваться лишь внешними ограждениями, необходимо сделать действия агентов отслеживаемыми и неизменяемыми.
Вот почему @OpenLedger привлекла внимание Нин Фана. Это не проект по безопасности AI, но он предоставляет AI-агентам систему "цифрового правосудия". Основной концепцией является доказательство принадлежности: каждое рассуждение агента, каждый вызов модели фиксируется на блокчейне, создавая неизменяемую запись. Кто модель использовал, какие данные были применены и какое решение было принято — все это можно восстановить задним числом. Эта логика основана не на ограничении прав, а на гарантии того, что каждая операция агента имеет документальное подтверждение.
Нин Фан считает, что это именно та основа безопасности, которая должна быть у AI-агента. Безопасность не только в контроле, но и в наличии аудитной системы, способной привлечь к ответственности. Ответственная цепочка, которую OpenLedger установила для AI, еще не была оценена рынком.
#OpenLedger $OPEN