Rzecz, o której ludzie zapominają w odniesieniu do samo działającej sztucznej inteligencji — i dlaczego Mira ma znaczenie. Ludzie wciąż mówią o samo działającej AI, jakby to była tylko inna techniczna kwestia. Ale szczerze mówiąc, to przegapia prawdziwy problem. Budowanie inteligentnej AI nie jest trudną częścią. Prawdziwą przeszkodą jest zaufanie. Gdy AI zaczyna działać samodzielnie, musisz się zastanawiać: Kto upewnia się, że podejmuje właściwe decyzje? Patrzyłem na Mirę przez ten pryzmat — nie jako na nową błyszczącą narzędzie AI, ale jako szansę na uczynienie systemów AI rzeczywiście wiarygodnymi.
Jestem pewny. AI, które działa samodzielnie, nie rozpada się, ponieważ jest błędne — zawodzi, gdy nikt nie zauważa, że jest błędne. To, co wyróżnia Mirę. Zamiast liczyć na to, że AI po prostu wszystko zrozumie, Mira stawia pieniądze na stole — możesz kwestionować decyzje AI, sprawdzać je, a nawet obstawiać, co jest właściwe.
Jeśli to zadziała, zaufanie nie jest tylko niejasną nadzieją. Jest wbudowane w sam system. To duża sprawa. Mimo to, całe to przedsięwzięcie może się rozpaść. Jeśli ludzie tylko gonią za nagrodami, będą próbowali oszukać system zamiast rzeczywiście sprawdzać pracę AI. Jeśli nie wystarczająco dużo osób weźmie w tym udział, cała idea wydaje się chwiejna.
A jeśli ludzie pojawiają się tylko wtedy, gdy jest darmowa kasa, może to wyglądać na zatłoczone, ale tak naprawdę nie przynosi to zbyt wielu korzyści. Rynki odzwierciedlają to, czego ludzie pragną, a niekoniecznie to, co jest prawdziwe. Większość ludzi bardziej dba o zdobywanie nagród niż o to, by mieć rację.
Więc prawdziwy test dla Miry nie polega na tym, jak szybko rośnie, gdy nagrody pieniężne płyną. Dowód znajduje się w cichszych sprawach: Ludzie sprawdzający AI, nawet gdy nie mają w tym nic do zyskania. Programiści wbudowujący sygnały zaufania w samo wnętrze AI. Ludzie zostający na dłużej po zakończeniu wszystkich rozdawanych nagród.
Wtedy wiesz, że to naprawdę działa. Bo w końcu, samo działająca AI nie musi stawać się coraz mądrzejsza. Potrzebuje czegoś prostszego: Świata, w którym uczciwość naprawdę się opłaca. Jeśli Mira może to zrealizować, nie tylko pomoże AI działać samodzielnie. Umożliwi to w ogóle samo działającą AI w pierwszej kolejności.
#mira $MIRA @Mira - Trust Layer of AI
$MIRA
