Binance / Square post 2 (≈220 słów)
Zacznij od problemu: nowoczesna AI często brzmi pewnie, nawet gdy się myli. To niebezpieczne w zastosowaniach w rzeczywistym świecie. Pracuję nad inną ścieżką. Najpierw system bierze wygenerowaną odpowiedź i dzieli ją na jasne, weryfikowalne twierdzenia. Każde twierdzenie trafia do kilku niezależnych weryfikatorów—inne modele AI i ludzkich recenzentów—więc ta sama informacja jest testowana na wiele sposobów. Są motywowani nagrodami w kryptowalutach, aby weryfikować uczciwie; złe zachowanie kosztuje ich. Weryfikatorzy przesyłają swoje ustalenia, a sieć przeprowadza proces konsensusu, aby zdecydować, które twierdzenia są prawdziwe. Gdy twierdzenie jest potwierdzone, jest kryptograficznie rejestrowane w łańcuchu, tworząc audytowalny dowód, który każdy może śledzić.
Ludzie korzystają z systemu, przesyłając wyniki AI, które chcą zweryfikować, lub integrując warstwę weryfikacji w aplikacjach, aby wyniki były sprawdzane przed ich wyświetleniem. Programiści otrzymują wynik pewności i rejestr dowodu, przedsiębiorstwa otrzymują dzienniki audytowe dla zgodności, a użytkownicy końcowi otrzymują odpowiedzi, którym mogą zaufać. Patrząc w przyszłość, ten model może napędzać zweryfikowane grafy wiedzy, certyfikowane źródła danych dla zautomatyzowanych systemów oraz bezpieczniejsze narzędzia do podejmowania decyzji autonomicznych. Nie chodzi o zastępowanie modeli; chodzi o to, aby ich odpowiedzi były udowodnione, aby AI mogła być używana tam, gdzie błędy nie są akceptowalne.