Największym problemem projektów AI na łańcuchu bloków nie jest to, że modele nie są wystarczająco silne, ale to, że modele nie współpracują. Każdy model jest jak osobny oddział, nikt nie dba o innych. Użytkownik potrzebuje zadania, a wynikiem jest to, że modele konkurują o pracę lub powtarzają zadania, marnując moc obliczeniową i obniżając doświadczenie.
KITE bezpośrednio rozwiązuje ten problem. Kluczowym narzędziem jest współpraca wielu modeli Multi Model Coordination. Nie polega na jednym dużym modelu, który rozwiązuje wszystko, ale pozwala różnym modelom wykonywać to, co potrafią najlepiej, a ostatecznie wykorzystuje jednolity poziom koordynacji, aby połączyć wyniki w kompletny produkt.
Ten poziom koordynacji nazywa się silnikiem orkiestracji modeli Model Orchestration Engine. Możesz go sobie wyobrazić jako menedżera projektu, który ma listę zadań, a pod nim dziesiątki, setki modeli, które są wykonawcami. Silnik orkiestracji najpierw analizuje zadanie, dzieli je na wiele modułów, a następnie przydziela każdą część zadania najbardziej odpowiedniemu modelowi.
W trakcie wykonywania zadań silnik orkiestracji nieustannie aktualizuje status zadań. To polega na korzystaniu z Mapera Stanu (State Mapper), który zamienia dane wejściowe i wyjściowe modelu na standardowy format danych. Dzięki temu informacje między modelami nie będą się rozjeżdżać, a także nie wystąpią nieprzyjemne sytuacje, w których jeden model daje ludzkie wyniki, a następny rozumie tylko kod maszynowy.
Cały proces współpracy ma jeszcze jedną kluczową rolę, nazywaną Arbitrem Modeli (Model Arbiter), który specjalizuje się w rozwiązywaniu różnic między modelami. Gdy dwa modele dają różne odpowiedzi, arbiter podejmuje szybkie decyzje na podstawie typu zadania, pewności, historycznych osiągnięć i wagi kontekstu, aby określić, która odpowiedź jest bardziej odpowiednia do dalszego przetwarzania.
Jeśli nie ma wystarczającej pewności, arbiter wyśle ponownie drugie żądanie wnioskowania (Secondary Inference Request), aby model obliczył ponownie. Jednocześnie odniesie się do narzędzi zewnętrznych lub danych na łańcuchu w celu dokonania dodatkowej oceny, aby wyniki nie były zniekształcone.
Aby modele nie konkurowały ze sobą, KITE wykorzystuje specjalną strukturę zwaną Mapą Współpracy (Collaboration Graph), która opisuje zależności między modelami, przepływ danych pierwotnych, oczekiwane wyjścia z modeli oraz kolejność wykonywania. Mapa jest na bieżąco aktualizowana, więc system może dynamicznie dostosowywać kombinacje modeli, nie zatrzymując się na stałych połączeniach.
Ten mechanizm sprawia, że równoczesne działanie wielu modeli staje się płynne. Chcesz wykonać skomplikowane zadanie, na przykład generować analizę produktu, częściowo przeprowadzać wnioskowanie, abstrakcyjną strukturę, weryfikację danych, generowanie tekstu – wiele modeli pracuje równocześnie, a silnik orkiestracji automatycznie ustala kolejność na podstawie mapy współpracy. Użytkownik nie musi się martwić o to, jak skomplikowane są za kulisami mieszane modele.
Kluczowym punktem jest to, że system współpracy KITE jest adaptacyjny (Adaptive), co oznacza, że nowy model dołącza do ekosystemu bez konieczności modyfikacji systemu. Wystarczy zarejestrować się w Katalogu Modeli (Model Registry), a system automatycznie rozpozna, do jakich zadań jest odpowiedni i kiedy osiągnie najlepsze efekty.
W miarę rozszerzania się ekosystemu, im więcej modeli, tym system staje się mądrzejszy, ponieważ mapa współpracy zapisuje wszystkie zadania i osiągnięcia wykonane przez modele, tworząc dane doświadczenia. Ten mechanizm nazywa się Pamięcią Wykonania Modelu (Model Execution Memory), czyli dziennikiem pracy wersji modelu. Im więcej biega, tym dokładniej.
Współpraca wielu modeli ma jeszcze jedną rzeczywistą zaletę: oszczędność zasobów. Nie musisz zmuszać dużego modelu do robienia wszystkiego. Mały model wykonuje zadania strukturalne, duży model przetwarza zadania o wysokiej semantyce, model narzędziowy wykonuje weryfikację obliczeń, a wykorzystanie mocy obliczeniowej systemu jest maksymalne.
W zakresie bezpieczeństwa KITE przypisuje każdemu wywołaniu modelu odcisk wywołania (Call Fingerprint), aby zapisać źródło, wejścia, uprawnienia i zapisy na łańcuchu. Dzięki temu model nie będzie losowo wywoływał danych ani nie będzie kierowany przez złośliwe działania. System zablokuje niezgodne wywołania, zapewniając, że współpraca odbywa się tylko w bezpiecznym zakresie.
Ostateczna różnica w doświadczeniach jest bardzo wyraźna. Użytkownik zgłasza zadanie, model automatycznie dzieli pracę, współpracuje, weryfikuje i łączy, a na końcu generuje jasny i kompletny wynik, bez luk logicznych i bez chaotycznych skoków modeli.
Podstawą KITE jest w zasadzie chęć zrobienia jednej rzeczy: przekształcenie modelu z jednostkowego w organizacyjny, przekształcenie wnioskowania z liniowego w wielowątkowe, a zadania na łańcuchu z harmonogramu narzędzi w inteligentną współpracę, aby cały ekosystem działał szybciej, stabilniej i mądrzej.
Współpraca wielu modeli to przyszłość ekosystemu AI, ponieważ żaden model nie jest w stanie rozwiązać wszystkich problemów. To, czy modele mogą się uzupełniać, decyduje o tym, jak daleko może dojść cały system.