Es esmu pēdējā laikā pārāk daudz reižu apdedzinājies ar sīkiem sīkumiem, kas izrādījās pilnīgi nepareizi. Agrāk es katru reizi iekrāpos — ja AI atbilde izklausījās ļoti pārliecināta un rakstīšana bija tīra, es tam uzticējos 100%.
Tad vienu dienu es pieķēru pilnīgu izdomājumu par parasto ziņojumu. Nevis neliela kļūda… tas bija izdomāti fakti, kas tika pasniegti kā evaņģēlijs. Un vissliktākā daļa? Man nebija nekādu iespēju pārbaudīt, kā modelis patiesībā izskatījās vai kāpēc tas bija tik pārliecināts.
Šis brīdis sitās smagi. Pasaulē, kurā ļaujam AI pieņemt arvien lielākus lēmumus, "uzticies man, brāl" vairs nav pietiekami. Tas ir tieši problēma @Mira - Trust Layer of AI , ko risina tā Uzticības slānis.