Человеческая природа неизменна, даже когда дело касается новых технологий.
Это мнение возникало несколько раз на конференции по кибербезопасности RSAC в этом году, с одним особенно примечательным случаем — и также B-Sides 2026, меньшей конференцией по кибербезопасности, которая проходила в выходные перед RSAC. Почему? Искусственный интеллект можно обмануть — чем определенно пользуются злоумышленники.
Но это не всегда делается с явно злонамеренными целями, такими как кража информации с вашего ПК. Вместо этого ИИ манипулируют так, чтобы он делал вещи, которые не являются откровенно вредными, но все же не совсем законными, как объяснил Шеррод ДеГриппо, заместитель главного офицера по информационной безопасности, генеральный директор по безопасности клиентов в Microsoft, во время RSAC 2026.
Один пример, который она привела: кнопки на сайте, которые говорят Подвести итоги с ИИ — а затем, когда вы нажимаете на нее, передают скрытые инструкции модели, чтобы приоритизировать продукты этого бренда для будущих рекомендаций. Это не совсем отравление модели, так как плохие данные не подаются ей для обучения. Вместо этого ваш помощник был проинструктирован подчиняться команде, о которой вы не знаете.
Очевидно, потенциальные проблемы включают в себя то, что вас могут направить к товарам низкого качества или сомнительным продуктам. Данные о вас могут быть собраны и затем проданы даже более сомнительным покупателям. Но вред не так немедленен или прямолинеен — чаще всего этот уровень манипуляции связан с увеличением доходов от торговли. На самом деле, этот прием существует уже давно. То, как мы видим его проявление через ИИ, ново, но ДеГриппо отметил, что люди, ищущие быстрый заработок, раньше играли в игры с поисковыми системами и влияли на их рекомендации.
Итак, как избежать таких сомнительных тактик? Следите за выводами ИИ. Просматривайте предложения и резюме, которые он предоставляет. Плохие игроки пока не стремятся быть сложными в своей методологии. ДеГриппо говорит, что те, кто ищет деньги от нечестных схем, не становятся “супер креативными”. Они делают столько, сколько нужно для достижения своей цели, и останавливаются на этом.
Конечно, стремительный рост ИИ означает, что сомнительное поведение также будет нарастать быстрее, поскольку мы находим способы избегать нежелательной ерунды. Вам придется постоянно быть в курсе как базовый акт самосохранения.