Oggi, stavo esaminando alcune note su vari progetti di IA, e qualcosa continuava a venirmi in mente: l'IA sta diventando ridicolosamente potente. Fai una domanda complessa e risponde istantaneamente. Ma c'è ancora un divario.
Ci fidiamo delle risposte più di quanto le verifichiamo.
Questa è la sfida che Mira Network sembra affrontare. MIRA
Trattare le risposte dell'IA come affermazioni
Una cosa che mi ha colpito di Mira è come trattano le “uscite dell'IA”. Invece di considerare semplicemente la risposta di un'IA come una risposta finale, Mira la vede più come un'affermazione che necessita di verifica.
Questo piccolo cambiamento modifica davvero il modo in cui funzionano le cose. Se un'IA genera una risposta dettagliata, Mira la scompone in affermazioni più piccole. Ciascuna di queste affermazioni viene quindi verificata indipendentemente da diversi modelli o validatori nella rete. $MIRA
Ciò significa che invece di fare affidamento su un solo sistema, ottieni più controlli sulla stessa informazione.
Perché è importante
Se hai utilizzato strumenti di IA a lungo, probabilmente hai già visto questo tu stesso. A volte le risposte sono precise. Altre volte, suonano bene, ma si rivelano completamente sbagliate.
Questa è la parte strana dell'IA ora: fornisce risposte con tale certezza, ma ciò non significa sempre che siano corrette.
Quello su cui sta lavorando Mira è assicurarsi che le risposte dell'IA non vengano immediatamente accettate come verità. Invece, passano attraverso un processo di verifica da diverse fonti.
Il lato infrastrutturale
Un altro aspetto interessante di Mira è come registrano il processo di verifica in modo trasparente. Piuttosto che avvenire dietro le quinte, la rete crea una traccia di audit che mostra esattamente come un'affermazione è stata verificata e confermata.
In campi come finanza, ricerca o diritto, questo livello di trasparenza potrebbe diventare incredibilmente importante. Non si tratta di sostituire l'IA, ma di assicurarci di poter fidarci di ciò che dice.
Un nuovo modo di pensare all'IA
Quello che mi piace davvero di questo approccio è che cambia la conversazione attorno all'IA. La maggior parte dei progetti di IA è focalizzata sull'intelligenza dei modelli. Mira sta ponendo una domanda diversa:
E se il prossimo grande passo non riguardasse la costruzione di un'IA più intelligente... ma la sua verificabilità?
Se l'approccio di Mira funziona su scala più ampia, potremmo finire con un mondo in cui l'IA non genera solo informazioni rapidamente, ma dimostra anche di poter essere fidata.