Chaque nuit, je parcourais les pages très approfondies de la documentation d’architecture d’OpenGradient, et j’y ai trouvé une admission des plus honnêtes (la vérité) que les projets d’IA vérifiables n’avouent presque jamais à voix haute.
L’équipe l’a écrit en termes très clairs : faire re-exécuter indépendamment l’inférence du modèle, à maintes reprises, par chaque validateur est tout simplement irréaliste. Avec une telle approche, le système ne peut jamais passer à l’échelle ; le calcul serait gaspillé inutilement, et la latence (le délai) augmenterait tellement qu’il deviendrait impossible de faire tourner des applications dans le monde réel.
Pour résoudre ce problème, leur HACA (Hybrid Attestation Architecture) ne demande pas à chaque nœud de tout faire. Il répartit plutôt le réseau en rôles spécialisés :
Nœuds d’inférence : Ce sont des travailleurs GPU sans état ; leur rôle consiste uniquement à exécuter les modèles et à renvoyer aux utilisateurs des résultats quasi instantanés, sans délai.
Nœuds complets : Ces nœuds n’exécutent jamais eux-mêmes les modèles. Leur tâche consiste uniquement à valider la preuve cryptographique qui atteste que le modèle a été exécuté correctement — et ce travail n’est pas fait pendant l’inférence, mais une fois celle-ci terminée.
Mais ce qui attire le plus mon attention, c’est ceci : après cette séparation, quel compromis le système accepte en réalité.
Si la réponse côté utilisateur bénéficie de cette rapidité, c’est parce que les nœuds d’inférence n’ont pas besoin d’attendre la vérification. La vérification a toujours lieu, mais son horloge et sa ligne de temps sont décalées par rapport à la réponse fournie à l’utilisateur.
Autrement dit, en termes très techniques, c’est extrêmement simple : ils n’ont pas supprimé le goulot d’étranglement (la contrainte) ; ils l’ont plutôt déplacé vers un endroit où l’utilisateur n’a jamais à s’asseoir et à attendre.
Et vous, qu’en pensez-vous ? Pour rendre les modèles IA-blockchain vraiment pratiques, le seul moyen est-il de transférer le goulot d’étranglement côté back-end ? Dites-le en commentaire !
@OpenGradient
#opg $OPG
L’équipe l’a écrit en termes très clairs : faire re-exécuter indépendamment l’inférence du modèle, à maintes reprises, par chaque validateur est tout simplement irréaliste. Avec une telle approche, le système ne peut jamais passer à l’échelle ; le calcul serait gaspillé inutilement, et la latence (le délai) augmenterait tellement qu’il deviendrait impossible de faire tourner des applications dans le monde réel.
Pour résoudre ce problème, leur HACA (Hybrid Attestation Architecture) ne demande pas à chaque nœud de tout faire. Il répartit plutôt le réseau en rôles spécialisés :
Nœuds d’inférence : Ce sont des travailleurs GPU sans état ; leur rôle consiste uniquement à exécuter les modèles et à renvoyer aux utilisateurs des résultats quasi instantanés, sans délai.
Nœuds complets : Ces nœuds n’exécutent jamais eux-mêmes les modèles. Leur tâche consiste uniquement à valider la preuve cryptographique qui atteste que le modèle a été exécuté correctement — et ce travail n’est pas fait pendant l’inférence, mais une fois celle-ci terminée.
Mais ce qui attire le plus mon attention, c’est ceci : après cette séparation, quel compromis le système accepte en réalité.
Si la réponse côté utilisateur bénéficie de cette rapidité, c’est parce que les nœuds d’inférence n’ont pas besoin d’attendre la vérification. La vérification a toujours lieu, mais son horloge et sa ligne de temps sont décalées par rapport à la réponse fournie à l’utilisateur.
Autrement dit, en termes très techniques, c’est extrêmement simple : ils n’ont pas supprimé le goulot d’étranglement (la contrainte) ; ils l’ont plutôt déplacé vers un endroit où l’utilisateur n’a jamais à s’asseoir et à attendre.
Et vous, qu’en pensez-vous ? Pour rendre les modèles IA-blockchain vraiment pratiques, le seul moyen est-il de transférer le goulot d’étranglement côté back-end ? Dites-le en commentaire !
@OpenGradient
#opg $OPG