Kiedy ludzie rozmawiają o AI, rozmowa zazwyczaj koncentruje się na tym, jak potężne stają się modele.
Bardziej rozbudowane modele.
Więcej danych.
Inteligentniejsze odpowiedzi.
Ale ostatnio zaczęłem myśleć o innym pytaniu:
Co się dzieje po tym, jak AI udziela odpowiedzi?
Ponieważ sama inteligencja nie gwarantuje dokładności. Nawet zaawansowane modele mogą od czasu do czasu produkować informacje, które brzmią przekonująco, ale nie są całkowicie poprawne. Dlatego koncepcja stojąca za @Mira - Trust Layer of AI przyciągnęła moją uwagę.
Zamiast polegać na pojedynczym systemie AI, sieć wprowadza warstwę, w której wiele modeli ocenia tę samą odpowiedź. Odpowiedź jest dzielona na mniejsze twierdzenia, a niezależne węzły je weryfikują przed osiągnięciem konsensusu.
To prawie jak recenzja koleżeńska, ale dla AI. Dla mnie to ważna zmiana. Przyszłość AI nie będzie zależała tylko od tego, jak inteligentne staną się modele. Będzie zależała od tego, jak wiarygodnie można weryfikować ich odpowiedzi.
@Mira - Trust Layer of AI $MIRA
