@OpenGradient
La primera pregunta que tenía no era sobre el modelo․
Era sobre el validador․
Seguí pensando en cómo sería una blockchain “tradicional” para algo como la inferencia de IA, cuando cada validador tendría que ejecutar cada solicitud․
Esto aplica a las transferencias de tokens․
Para la IA, se desmorona por completo․
Pero un clasificador pequeño, un modelo de imágenes y un LLM de 70B no requieren el mismo hardware, el mismo tiempo de ejecución ni siquiera el mismo costo․ Tratar todo por igual, por lo tanto, desperdiciaría cantidades enormes de cómputo o haría la red demasiado lenta para ser útil․
Ahí es donde la arquitectura de OpenGradient empezó a tener mucho más sentido․
En lugar de pedirle a cada nodo que lo haga todo, HACA divide responsabilidades․
Los nodos de inferencia ejecutan modelos․
Los nodos completos verifican pruebas y mantienen el consenso․
Los nodos de datos obtienen datos externos confiables․
Walrus almacena los elementos más pesados fuera de la cadena․
Cada capa resuelve un problema distinto en vez de competir por los mismos recursos․
Lo que sigo pensando no es solo esta especialización․
Es la coordinación․
A medida que crece la red, el problema más difícil quizá no sea dónde está la computación, sino cómo evitar cuellos de botella cuando los usuarios exigen los roles separados de los nodos de inferencia, los nodos de datos y los validadores․
La especialización mejora el rendimiento․
Que ese rendimiento escale depende de la coordinación․
#OPG #opg $OPG
A medida que crece la red especializada de OpenGradient, ¿qué será lo más importante?
La primera pregunta que tenía no era sobre el modelo․
Era sobre el validador․
Seguí pensando en cómo sería una blockchain “tradicional” para algo como la inferencia de IA, cuando cada validador tendría que ejecutar cada solicitud․
Esto aplica a las transferencias de tokens․
Para la IA, se desmorona por completo․
Pero un clasificador pequeño, un modelo de imágenes y un LLM de 70B no requieren el mismo hardware, el mismo tiempo de ejecución ni siquiera el mismo costo․ Tratar todo por igual, por lo tanto, desperdiciaría cantidades enormes de cómputo o haría la red demasiado lenta para ser útil․
Ahí es donde la arquitectura de OpenGradient empezó a tener mucho más sentido․
En lugar de pedirle a cada nodo que lo haga todo, HACA divide responsabilidades․
Los nodos de inferencia ejecutan modelos․
Los nodos completos verifican pruebas y mantienen el consenso․
Los nodos de datos obtienen datos externos confiables․
Walrus almacena los elementos más pesados fuera de la cadena․
Cada capa resuelve un problema distinto en vez de competir por los mismos recursos․
Lo que sigo pensando no es solo esta especialización․
Es la coordinación․
A medida que crece la red, el problema más difícil quizá no sea dónde está la computación, sino cómo evitar cuellos de botella cuando los usuarios exigen los roles separados de los nodos de inferencia, los nodos de datos y los validadores․
La especialización mejora el rendimiento․
Que ese rendimiento escale depende de la coordinación․
#OPG #opg $OPG
A medida que crece la red especializada de OpenGradient, ¿qué será lo más importante?
⚡ Coordination⚡
63%
🖥️ Compute 🖥️
0%
🛡️ Verification 🛡️
37%
8 Voto(s) • Votación cerrada