Ciągle myślę o tym, jak szybko przeszliśmy od "AI pomaga mi pisać" do "AI podejmuje decyzje w moim imieniu" i jak niepokojące jest, gdy nie można stwierdzić, czy odpowiedź jest solidna. Hybrydowy dowód weryfikacji Miry próbuje to naprawić, przekształcając odpowiedź w małe, weryfikowalne twierdzenia, wysyłając każde z nich do kilku niezależnych modeli i akceptując wyniki tylko wtedy, gdy się zgadzają. Część "pracy" polega na tym, że weryfikatorzy muszą faktycznie przeprowadzić kontrolę; część "stawki" polega na tym, że narażają zabezpieczenie, jeśli ich wzór wygląda na zgadywanie. Projekt dzieli również twierdzenia, aby żaden pojedynczy weryfikator nie widział całego dokumentu, co ma znaczenie, gdy dane prywatne przepływają przez te narzędzia. Dziś przyciąga uwagę, ponieważ weryfikacja zaczyna być wprowadzana jako rzeczywiste interfejsy API i sieci, a nie tylko przegląd wewnętrzny, a stawki cichych błędów wciąż rosną.

@Mira - Trust Layer of AI #Mira #mira $MIRA

MIRAUSDT

Perp

0.08516

-5.39%