Gracias bn🌹
Gracias cz🌹
Gracias a la hermana mayor🌹
Gracias c2c🌹
Gracias ktv, gracias cctv🌹🌹🌹🌹🌹
El modelo entra en @OpenGradient , no es solo subirlo y ya está, la verdadera barrera es si puede ser ejecutado de la misma manera por diferentes nodos.
Esta vez me enfoco más en las restricciones de ONNX en el Model Hub. OpenGradient puede albergar modelos en varios formatos, pero para entrar en la inferencia en la cadena, el modelo debe convertirse a ONNX. Este requerimiento puede parecer un detalle técnico, pero en realidad establece la "semántica de ejecución" para la red de inferencia. Detrás de PyTorch, TensorFlow, Safetensors u otros formatos hay hábitos de ejecución propios, y si los nodos interpretan el modelo de manera diferente, las pruebas, atestaciones y liquidaciones posteriores perderán su coordenada común.
El significado de ONNX no es empaquetar modelos, sino convertir el modelo en un gráfico de computación que sea portable, desplegable y reproducible. Lo que obtienen los nodos no es un montón de archivos, sino un conjunto claro de operadores, entradas, salidas y estructuras de ejecución. Así, la subida del modelo, la carga en los nodos, la generación de inferencias y la verificación de pruebas pueden estar alineadas. Para OpenGradient, este paso en realidad convierte los "activos del modelo" en "objetos de ejecución que pueden ser consumidos por la red".
Creo que este mecanismo es más crucial que simplemente aumentar la cantidad de modelos. Cuantos más modelos haya, si faltan formatos de ejecución unificados, la red solo se convertirá en un estante de mercancías; con una entrada estandarizada, los modelos tendrán la oportunidad de reutilizarse en diferentes nodos, aplicaciones y rutas de validación. El valor de $OPG también debería considerarse dentro de este orden: conecta la norma del modelo, la ejecución del nodo, la generación de pruebas y la liquidación de costos.
Por supuesto, la calidad de la conversión de ONNX, la compatibilidad de los operadores y la pérdida de rendimiento seguirán afectando la adopción por parte de los desarrolladores. Pero si esta capa se consolida, lo que OpenGradient soporta no es "más exhibición de modelos", sino una base de ejecución que permita a los modelos AI heterogéneos ingresar a una red de inferencia unificada. $OPG #OPG @OpenGradient #opg $OPG
Gracias cz🌹
Gracias a la hermana mayor🌹
Gracias c2c🌹
Gracias ktv, gracias cctv🌹🌹🌹🌹🌹
El modelo entra en @OpenGradient , no es solo subirlo y ya está, la verdadera barrera es si puede ser ejecutado de la misma manera por diferentes nodos.
Esta vez me enfoco más en las restricciones de ONNX en el Model Hub. OpenGradient puede albergar modelos en varios formatos, pero para entrar en la inferencia en la cadena, el modelo debe convertirse a ONNX. Este requerimiento puede parecer un detalle técnico, pero en realidad establece la "semántica de ejecución" para la red de inferencia. Detrás de PyTorch, TensorFlow, Safetensors u otros formatos hay hábitos de ejecución propios, y si los nodos interpretan el modelo de manera diferente, las pruebas, atestaciones y liquidaciones posteriores perderán su coordenada común.
El significado de ONNX no es empaquetar modelos, sino convertir el modelo en un gráfico de computación que sea portable, desplegable y reproducible. Lo que obtienen los nodos no es un montón de archivos, sino un conjunto claro de operadores, entradas, salidas y estructuras de ejecución. Así, la subida del modelo, la carga en los nodos, la generación de inferencias y la verificación de pruebas pueden estar alineadas. Para OpenGradient, este paso en realidad convierte los "activos del modelo" en "objetos de ejecución que pueden ser consumidos por la red".
Creo que este mecanismo es más crucial que simplemente aumentar la cantidad de modelos. Cuantos más modelos haya, si faltan formatos de ejecución unificados, la red solo se convertirá en un estante de mercancías; con una entrada estandarizada, los modelos tendrán la oportunidad de reutilizarse en diferentes nodos, aplicaciones y rutas de validación. El valor de $OPG también debería considerarse dentro de este orden: conecta la norma del modelo, la ejecución del nodo, la generación de pruebas y la liquidación de costos.
Por supuesto, la calidad de la conversión de ONNX, la compatibilidad de los operadores y la pérdida de rendimiento seguirán afectando la adopción por parte de los desarrolladores. Pero si esta capa se consolida, lo que OpenGradient soporta no es "más exhibición de modelos", sino una base de ejecución que permita a los modelos AI heterogéneos ingresar a una red de inferencia unificada. $OPG #OPG @OpenGradient #opg $OPG