Sztuczna inteligencja przekształca przemysły w niesamowitym tempie, ale jeden główny problem nadal ogranicza jej przyjęcie: zaufanie. Systemy AI mogą generować imponujące odpowiedzi, ale mogą też pewnie wytwarzać całkowicie fałszywe informacje. Te tzw. "halucynacje AI" nie są rzadkimi błędami — są naturalnym wynikiem działania dużych modeli językowych.

Już widzieliśmy realne konsekwencje. Prawnicy składali dokumenty sądowe cytujące przypadki, które nigdy nie istniały, ponieważ zostały wygenerowane przez AI. Naukowcy opublikowali podsumowania oparte na niepoprawnych wynikach AI. Gdy AI staje się częścią środowisk o wysokich stawkach, takich jak prawo, finanse, opieka zdrowotna i badania, weryfikacja staje się kluczowa.