Ciągle zauważam coś trochę dziwnego w systemach AI w dzisiejszych czasach. Stają się coraz potężniejsze, bardziej zintegrowane w realnych procesach roboczych, ale jednocześnie... trochę trudniejsze do zrozumienia z zewnątrz. Widzisz wynik, oczywiście, ale jaką drogę przeszedł, aby tam dotrzeć? Ta część wciąż jest trochę mglista.

Myślę o tym, co się stanie, gdy te systemy zaczną podejmować decyzje, które naprawdę mają znaczenie. Jak działania na łańcuchu, ruchy finansowe i prawdziwe automatyzacje. W tym momencie nie chodzi już tylko o dokładność, ale o możliwość śledzenia. Kto co uruchomił, w jakim modelu, z jakimi danymi... i czy ktokolwiek może to zweryfikować po fakcie?

To jest zasadniczo moment, w którym weryfikowalna AI zaczyna mieć sens.

Wiele systemów, takich jak @OpenGradient , próbuje podzielić cały ten proces na warstwy. Węzły wnioskowania zajmują się ciężką egzekucją modelu, węzły pełne weryfikują, co naprawdę się wydarzyło, węzły danych dostarczają zewnętrzne inputy, a magazyn przechowuje modele oraz powiązane dowody. Zamiast jednego zamkniętego pudełka, staje się to łańcuchem odpowiedzialności.

Myślę, że trudna część to kompromis. Jeśli postawisz na solidną weryfikację, wydajność zaczyna spadać. Jeśli zoptymalizujesz pod kątem prędkości, znowu opierasz się bardziej na zaufaniu. $ARX I zawsze się zastanawiam... jeśli to rzeczywiście się skaluje, czy weryfikacja stanie się standardem, czy pozostanie opcjonalna, ponieważ zbyt mocno spowalnia procesy? Jeśli AI nadal będzie głębiej wchodzić w systemy podejmowania decyzji w realnym świecie, myślę, że szybko osiągniemy ten punkt napięcia. Albo dowód stanie się standardem, albo prędkość wygra i po prostu zaakceptujemy większą nieprzezroczystość. Czas pokaże 👍 .
$OPG #OPG @OpenGradient #opg
$SYN
Ale moje pytanie brzmi;
Co napędza weryfikowalną infrastrukturę AI? 🤔