Mały szczegół dotyczący narzędzi AI był ostatnio w moich myślach.
Wiele odpowiedzi AI brzmi niezwykle pewnie.
Język jest płynny.
Wyjaśnienia wydają się logiczne.
Odpowiedzi wydają się kompletne.
Jednak pewność czasami może być myląca.
Nowoczesne modele AI są zbudowane na systemach probabilistycznych. Przewidują najbardziej prawdopodobną sekwencję słów na podstawie wzorców nauczonych z dużych zbiorów danych. Ten projekt pozwala im na tworzenie imponujących wyjaśnień.
Ale prawdopodobieństwo nie jest tym samym co weryfikacja.
Model może wygenerować odpowiedź, która wygląda poprawnie, podczas gdy nadal zawiera niepewne lub niepoprawne informacje.
Dla codziennego użytku może to nie mieć dużego znaczenia.
Ale w miarę jak systemy AI zaczynają wspierać badania, analiza i praca zawodowa, niezawodność staje się coraz ważniejsza.
Ludzie muszą wiedzieć, czy informacje są godne zaufania, zanim na nich polegają.
To wyzwanie prowadzi do nowych pomysłów na to, jak systemy AI mogą weryfikować informacje zamiast po prostu je generować.
Jednym z podejść badanych przez @Mira - Trust Layer of AI jest oparte na zdecentralizowanej weryfikacji.
Zamiast akceptować odpowiedź AI jako pojedynczy blok tekstu, wynik można podzielić na poszczególne roszczenia.
Każde roszczenie reprezentuje stwierdzenie, które można ocenić niezależnie.
Te roszczenia są następnie rozprowadzane w sieci walidatorów AI.
Każdy walidator przegląda roszczenie z własnej perspektywy.
Jeśli wystarczająca liczba walidatorów osiągnie porozumienie, system tworzy konsensus na temat niezawodności tego stwierdzenia.
Ta struktura wprowadza ważną zmianę.
Celem nie jest już tylko szybkie produkowanie odpowiedzi.
Celem jest zapewnienie, że te odpowiedzi można sprawdzić i potwierdzić, zanim ludzie na nich polegają.
W miarę jak systemy AI stają się coraz potężniejsze, ta różnica może stać się istotna.
Ponieważ przyszłość sztucznej inteligencji może nie zależeć tylko od generowania wiedzy.
Może to zależeć od udowodnienia, że wiedza może być zaufana.
