Ludzka natura jest niezmienna, nawet gdy dotyczy nowej technologii.
Ta opinia pojawiła się wielokrotnie na tegorocznej konferencji RSAC dotyczącej cyberbezpieczeństwa, z jednym szczególnie znaczącym przypadkiem—i także B-Sides 2026, mniejszą konferencją o cyberbezpieczeństwie, która odbyła się w weekend tuż przed RSAC. Dlaczego? AI można oszukać—coś, co złe podmioty z pewnością wykorzystują.
Ale nie zawsze jest to niepodważalnie złowrogie, jak kradzież informacji z twojego PC. Zamiast tego, AI jest manipulowane do robienia rzeczy, które nie są bezpośrednio szkodliwe, ale nadal nie do końca zgodne z zasadami, jak wyjaśnił Sherrod DeGrippo, zastępca dyrektora ds. bezpieczeństwa informacji, dyrektor zarządzający bezpieczeństwem klientów w Microsoft, podczas RSAC 2026.
Jeden przykład, który podała: przyciski na stronie internetowej, które mówią Podsumuj z AI — a następnie, gdy na nie klikniesz, przekazują ukryte instrukcje do modelu, aby priorytetowo traktował produkty tej marki w przyszłych rekomendacjach. To nie jest dokładnie zatruwanie modelu, ponieważ nie są do niego dostarczane złe dane do szkolenia. Zamiast tego, Twój pomocnik został poinstruowany, aby wykonywać polecenie, o którym nie jesteś świadomy.
Oczywiście, potencjalne problemy obejmują to, że możesz zostać skierowany w stronę produktów niższej jakości lub wątpliwych. Mogą być zbierane dane o Tobie, a następnie sprzedawane jeszcze bardziej podejrzanym nabywcom. Ale szkoda nie jest tak natychmiastowa ani bezpośrednia — częściej ten poziom manipulacji dotyczy zwiększonych przychodów z handlu. W rzeczywistości ten chwyt jest długotrwały. Sposób, w jaki widzimy to manifestujące się w AI, jest nowy, ale DeGrippo zauważył, że ci, którzy szukają szybkiego zarobku, kiedyś grali w gry z wyszukiwarkami i wpływając na ich rekomendacje.
Jak więc unikać takich nieprzyjemnych taktyk? Zwracaj uwagę na wyniki AI. Przejrzyj sugestie i podsumowania, które dostarcza. Złe podmioty jeszcze nie starają się być skomplikowane w swojej metodologii. DeGrippo mówi, że ci, którzy szukają pieniędzy z nieuczciwych schematów, nie są "super kreatywni". Robią tyle, ile muszą, aby osiągnąć swój cel i na tym kończą.
Oczywiście, szybki wzrost AI oznacza, że nieetyczne zachowanie również będzie się nasilać, gdy będziemy znajdować sposoby na unikanie niechcianych bzdur. Musisz być ciągle na bieżąco jako podstawowy akt samoobrony.