L'autre jour, je me suis surpris à vérifier un hash de transaction même si je savais déjà que le transfert était passé.
Rien ne semblait anormal.
J'ai quand même vérifié.
Cette habitude semble étrangement pertinente pour @OpenGradient.
Pendant des années, la plupart des interactions avec l'IA se sont déroulées dans un environnement à faibles enjeux. Si un output était légèrement erroné, les gens le corrigeaient et passaient à autre chose. Le coût de l'incertitude était généralement suffisamment faible pour être toléré.
Je ne suis pas sûr que cela reste vrai alors que l'IA devient partie intégrante de la prise de décision réelle.
À un moment donné, la conversation ne porte plus sur le fait de savoir si une réponse semble raisonnable.
Elle devient sur le fait de savoir si quelqu'un est prêt à s'y fier.
C'est là que je me retrouve souvent bloqué.
La vérification est souvent considérée comme un problème de confiance. Mais que se passerait-il si c'était en réalité un problème de responsabilité ?
Plus un système d'IA devient important, plus il est difficile pour les gens de se cacher derrière l'output lui-même. Quelqu'un doit finalement expliquer pourquoi une décision a été prise, pourquoi un trade a été exécuté, ou pourquoi une recommandation a été suivie.
Une réponse sans traçabilité est étonnamment difficile à défendre après coup.
Ce qui est intéressant avec OpenGradient, ce n'est pas qu'il essaie de rendre l'IA plus convaincante.
C'est qu'il suppose que convaincre ne suffira pas éternellement.
La crypto a suivi un chemin similaire. Les premiers systèmes ont survécu grâce à la réputation et aux attentes. Au fur et à mesure que la valeur augmentait, la preuve est devenue une partie de la fondation.
Peut-être que l'IA suit le même schéma.
La question à laquelle je reviens sans cesse n'est pas de savoir si l'IA peut être vérifiée.
C'est de savoir si un système prenant des décisions importantes peut se permettre de ne pas l'être.@OpenGradient $OPG #opg
Rien ne semblait anormal.
J'ai quand même vérifié.
Cette habitude semble étrangement pertinente pour @OpenGradient.
Pendant des années, la plupart des interactions avec l'IA se sont déroulées dans un environnement à faibles enjeux. Si un output était légèrement erroné, les gens le corrigeaient et passaient à autre chose. Le coût de l'incertitude était généralement suffisamment faible pour être toléré.
Je ne suis pas sûr que cela reste vrai alors que l'IA devient partie intégrante de la prise de décision réelle.
À un moment donné, la conversation ne porte plus sur le fait de savoir si une réponse semble raisonnable.
Elle devient sur le fait de savoir si quelqu'un est prêt à s'y fier.
C'est là que je me retrouve souvent bloqué.
La vérification est souvent considérée comme un problème de confiance. Mais que se passerait-il si c'était en réalité un problème de responsabilité ?
Plus un système d'IA devient important, plus il est difficile pour les gens de se cacher derrière l'output lui-même. Quelqu'un doit finalement expliquer pourquoi une décision a été prise, pourquoi un trade a été exécuté, ou pourquoi une recommandation a été suivie.
Une réponse sans traçabilité est étonnamment difficile à défendre après coup.
Ce qui est intéressant avec OpenGradient, ce n'est pas qu'il essaie de rendre l'IA plus convaincante.
C'est qu'il suppose que convaincre ne suffira pas éternellement.
La crypto a suivi un chemin similaire. Les premiers systèmes ont survécu grâce à la réputation et aux attentes. Au fur et à mesure que la valeur augmentait, la preuve est devenue une partie de la fondation.
Peut-être que l'IA suit le même schéma.
La question à laquelle je reviens sans cesse n'est pas de savoir si l'IA peut être vérifiée.
C'est de savoir si un système prenant des décisions importantes peut se permettre de ne pas l'être.@OpenGradient $OPG #opg