#opg $OPG @OpenGradient Hablando claro, me he asustado con los servicios de AI centralizados.
La semana pasada quise ejecutar un modelo cuantitativo, y resulta que la API volvió a caerse. El dinero que recargué sigue ahí, pero nunca sabré si el modelo realmente está haciendo un trabajo serio o si solo está usando un modelo ligero para despistarme, ¿quién lo sabe?
Ese es el problema clave que OpenGradient busca resolver: el "problema de la caja negra" en la inferencia de modelos.
En pocas palabras, OpenGradient es una red de AI descentralizada que se dedica a tres cosas: alojar modelos, ejecutar inferencias y validar resultados. La clave está en esa parte de "validar".
Cuando participé en la red de prueba, me di cuenta de que cada inferencia tiene una firma de nodo que la respalda, y el resultado se registra en la cadena. Puedes verificar si estás usando GPT-4 o GPT-3.5, y no hay forma de que te cambien el modelo. Para nosotros, que vivimos de las salidas de AI, esto es una función que salva vidas.
Además, hay algo que me dejó una buena impresión. Antes, alquilaba GPU para procesar imágenes, y los intermediarios se llevaban una buena parte de mis ganancias. OpenGradient se conecta directamente con los proveedores de potencia de cálculo y los usuarios; hice una prueba con la inferencia de Stable Diffusion y me salió casi un 40% más barato que en ciertos proveedores de nube.
Claro, a veces la latencia de la red fluctúa y aún no hay suficientes nodos. Pero creo que están en el camino correcto: la AI no puede estar siempre en manos de unos pocos gigantes, y OpenGradient al menos ofrece una opción que se puede ver y validar.
Hablando en serio, para quienes realmente lo han probado, es difícil volver a esa era centralizada de "confía en mí".
La semana pasada quise ejecutar un modelo cuantitativo, y resulta que la API volvió a caerse. El dinero que recargué sigue ahí, pero nunca sabré si el modelo realmente está haciendo un trabajo serio o si solo está usando un modelo ligero para despistarme, ¿quién lo sabe?
Ese es el problema clave que OpenGradient busca resolver: el "problema de la caja negra" en la inferencia de modelos.
En pocas palabras, OpenGradient es una red de AI descentralizada que se dedica a tres cosas: alojar modelos, ejecutar inferencias y validar resultados. La clave está en esa parte de "validar".
Cuando participé en la red de prueba, me di cuenta de que cada inferencia tiene una firma de nodo que la respalda, y el resultado se registra en la cadena. Puedes verificar si estás usando GPT-4 o GPT-3.5, y no hay forma de que te cambien el modelo. Para nosotros, que vivimos de las salidas de AI, esto es una función que salva vidas.
Además, hay algo que me dejó una buena impresión. Antes, alquilaba GPU para procesar imágenes, y los intermediarios se llevaban una buena parte de mis ganancias. OpenGradient se conecta directamente con los proveedores de potencia de cálculo y los usuarios; hice una prueba con la inferencia de Stable Diffusion y me salió casi un 40% más barato que en ciertos proveedores de nube.
Claro, a veces la latencia de la red fluctúa y aún no hay suficientes nodos. Pero creo que están en el camino correcto: la AI no puede estar siempre en manos de unos pocos gigantes, y OpenGradient al menos ofrece una opción que se puede ver y validar.
Hablando en serio, para quienes realmente lo han probado, es difícil volver a esa era centralizada de "confía en mí".