ИИ захлестнул криптоиндустрию волной ложных отчётов о безопасности: платформы bug bounty фиксируют резкий рост числа заявок, значительная часть которых генерируется с помощью искусственного интеллекта и оказывается фиктивной.
Программы bug bounty — это механизм вознаграждения «этичных» хакеров за обнаружение уязвимостей в коде. В криптоиндустрии они широко распространены: протоколы и биржи готовы платить за реальные находки. Но ИИ изменил правила игры. Генеративные модели позволяют быстро и дёшево обрабатывать большие массивы кода в поиске потенциальных слабых мест — однако при этом нередко «галлюцинируют», выдавая несуществующие проблемы за реальные угрозы.
900% за год
Барри Планкетт (Barry Plunkett), основатель и генеральный директор Cosmos Labs, в соцсети X написал, что его программа за год получила на 900% больше заявок — от 20 до 50 в день. По его словам, это привело к росту как обоснованных, так и ложных отчётов одновременно.
Проблема затронула и другие организации: произошло заметное увеличение числа заявок и выплат по bug bounty. Часть поступающих отчётов описывает несуществующие уязвимости, что указывает на использование ИИ при их подготовке. Ключевая причина — снижение стоимости создания отчёта: там, где раньше требовались часы ручной работы, теперь достаточно нескольких минут с языковой моделью.
Ситуация вышла за пределы криптоиндустрии ещё в январе. Дэниел Стенберг (Daniel Stenberg), создатель широко используемого инструмента для передачи данных Curl — в том числе в блокчейн-инфраструктуре, — объявил о закрытии своей программы bug bounty. Причина: шквал автоматически сгенерированного мусора в заявках, разбор которых попросту истощил его ресурсы.
ИИ против ИИ
Cosmos Labs уже адаптировал подход: ужесточил систему оценки заявок, отдаёт приоритет исследователям с подтверждённой репутацией и сотрудничает с провайдерами bug bounty, предлагающими более продвинутую фильтрацию на входе.
Очевидно, единственным работающим ответом на ИИ-шум станет ИИ-фильтрация. Небольшие команды особенно уязвимы: у них нет ресурсов вручную обрабатывать десятки ежедневных заявок. Автоматизированные защитные системы для первичной сортировки входящих отчётов становятся не опцией, а необходимостью. Параллельно программам придётся устанавливать более строгие требования к формату и содержанию заявок, чтобы сократить поток некачественных материалов.
#AI #AImodel #security #Write2Earn
