Je continue à me sentir un peu mal à l’aise face à la rapidité avec laquelle nous avons accepté de ne pas savoir ce qui se passe en dessous de la surface. Peut-être que c’est simplement des années à regarder la crypto et l’IA grandir en parallèle : chacune persuadée de résoudre le problème le plus important, tout en créant discrètement quelques nouveaux problèmes.
L’IA est devenue remarquablement douée pour donner des réponses assurées. La partie étrange, c’est à quelle rareté on s’arrête pour se demander d’où proviennent réellement ces réponses. Pas au sens technique. Juste au sens humain de base : existe-t-il un moyen significatif de vérifier ce qui s’est passé entre la question et la réponse.
La crypto a passé des années à parler de vérification, de confiance et de la réduction de la dépendance aux gardiens centraux. L’IA a surtout poursuivi la performance. Aujourd’hui, ces conversations semblent se rejoindre quelque part au milieu, et je ne suis toujours pas sûr à quoi ressemble exactement cette intersection.
C’est pourquoi @OpenGradient ($OPG ) me paraît intéressant, même si je fais attention de ne pas trop y lire. L’attention ne porte pas uniquement sur les modèles eux-mêmes, mais sur l’infrastructure autour de leur hébergement, de l’exécution de l’inférence et de la manière de rendre ces processus plus vérifiables. J’ai l’impression qu’il s’agit d’une reconnaissance du fait que la couche invisible pourrait finir par compter autant que la couche visible.
Je reste sceptique quant au fait que le « open intelligence » survive à de vraies incitations. L’infrastructure a toujours l’air propre tant que la demande, l’économie ou le contrôle ne commencent pas à tirer dans des directions différentes.
Peut-être que l’avenir de l’IA dépendra moins de la construction de systèmes plus intelligents et davantage de la décision de savoir qui peut les vérifier, qui a le droit de leur faire confiance, et si ces réponses restent même visibles. Je continue d’y réfléchir. #opg $OPG