La première chose que j'ai faite en commençant à lire sur Mira Network a été de tomber sur un autre complot connu. Une initiative blockchain qui a tenté de corriger les hallucinations de l'IA, enveloppée dans des mots à la mode de consensus et des incitations par jetons. J'ai observé cette tendance trop de fois pour être naturellement suspicieux.
Mais plus j'étudiais, plus mes découvertes devenaient inconfortables. Cela est dû au fait que Mira ne cherche pas seulement à améliorer l'IA. Elle remet doucement en question tout le chemin que l'IA avait emprunté.
Et c'est là que se trouve l'élément intéressant
Le paradoxe caché de l'IA : des avancées qui deviennent une responsabilité en soi
L'avancement de l'IA est généralement discuté en termes de taille. Des modèles plus grands. De meilleurs tests. Plus de puissance de raisonnement. Et pourtant, ce que j'ai commencé à voir, c'est ce que la plupart d'entre nous ne veulent pas voir :
Tout avancement dans l'IA rend la vérification plus difficile.
Ce n'est pas évident au départ. Réfléchissez-y. Les erreurs d'une IA étaient apparentes lorsqu'elle était faible. Les modèles sont maintenant hautement développés, leurs inexactitudes sont si subtiles et dépendent du contexte et sont généralement indiscernables de la véritable vérité. La sortie est professionnelle, disciplinée et sûre, même dans les mauvais cas. Il y a une étrange contradiction à cela. Plus l'IA est avancée, plus elle nécessite de travail humain pour la vérifier. Et ce n'est pas juste une théorie. Ce changement a été reflété dans les données. Avec des milliards de jetons traités par Mira elle-même chaque jour, cela indique que quelque chose n'est pas normal - l'utilisation de l'IA augmente à un rythme que la vérification humaine ne peut égaler. C'est le véritable goulot d'étranglement. Pas l'intelligence. Pas le calcul. Vérification !
Que diriez-vous de l'alternative : le problème pourrait-il ne pas être l'hallucination mais la responsabilité ?
La majorité des projets présentent le dilemme comme une hallucination. L'IA est un fabricateur de choses et nous devrions minimiser les hallucinations. Je crois que le cadrage n'est pas complet après avoir étudié la conception de Mira. Le véritable problème n'est pas le fait que l'IA ait tort. Ici, le problème est que l'IA n'a jamais tort.
La responsabilité définit le comportement dans les systèmes humains. Les scientifiques soumettent des articles avec l'espoir qu'ils seront examinés par des pairs. Les analystes financiers font des appels parce qu'ils sont sûrs qu'ils seront jugés sur les résultats. Même les marchés fonctionnent sur un sens de responsabilité - les mauvais paris coûtent. L'IA, pour sa part, fonctionne dans un vide. Il n'y a pas de coût inhérent à la production de résultats erronés. Le système proposé par Mira présente l'élément qui n'est pas trop mais trop fort : la responsabilité économique envers le raisonnement. Les nœuds, qui vérifient de manière incorrecte, perdent leur mise. Les nœuds qui sont d'accord avec le consensus reçoivent des récompenses. Cela peut sembler être une conception normale de la crypto. Cependant, lorsque vous y réfléchissez plus, c'est en fait un nouveau concept : les résultats de l'IA ne sont plus produits. Ils ont été prouvés économiquement solides. C'est un tout autre paradigme.
Mira commercialise la vérité.
Plus j'examinais l'architecture de Mira, plus je commençais à penser que c'était quelque chose que je ne m'attendais pas à être - pas un protocole mais un marché.
Un marché dans lequel la vérité prévaut. Chaque déclaration se transforme en un actif de valeur. Chaque nœud est un parieur sur sa véracité. L'accord est la découverte du prix. Ce n'est pas ce à quoi nous avons l'habitude de penser en matière de connaissance. L'autorité est traditionnellement la source de la vérité. Ce qui est juste est déterminé par des institutions, des spécialistes ou des structures centralisées. Mira inverse cette notion. Elle affirme que des incitations distribuées et la concurrence peuvent donner naissance à la vérité. Cela rappelle les marchés financiers, plutôt que les systèmes d'IA.
Les marchés ne sont pas conscients du bon prix d'un actif. Ils l'apprennent en étant impliqués, en argumentant et en parvenant à un compromis. C'est la même chose que Mira applique à l'information. Et c'est une idée radicale.
La partie dont personne ne parle : la vérification a aussi des modes de défaillance.
