#opg $OPG @OpenGradient Tengo un pequeño proyecto en el que corro aproximadamente 80 veces inferencias de imágenes al día. Antes estaba usando Akash, me había acostumbrado y no pensaba mucho en ello. A principios de este mes, por curiosidad, corté la mitad del tráfico hacia OpenGradient.
Ayer, al hacer la conciliación, me quedé boquiabierto.
En Akash, la factura de un mes fue de 112 dólares. En OpenGradient, con el mismo número de inferencias y las mismas especificaciones del modelo, la factura solo fue de 83 dólares. ¡Una diferencia de 29 dólares! —suficiente para invitar a mis compañeros de estudio a una buena tanda de hot pot.
Mi primera reacción fue: ¿será que OpenGradient está recortando costos? Rápidamente revisé los logs. Resulta que la calidad de salida de ambas plataformas es completamente idéntica, y los registros de verificación de nodos están todos verificados en la cadena, nada fue engañoso.
¿De dónde viene esa diferencia de precio? Revisé los detalles de facturación de ambos y finalmente entendí. Akash cobra por "alquilar toda la duración de la GPU", así que aunque tu modelo solo use la mitad de la capacidad, aún tienes que pagar por la mitad de la tarjeta que está inactiva. OpenGradient cobra por "el consumo real de inferencias", distribuyendo de manera fragmentada, así que pagas solo por la potencia que usaste, sin pagar por recursos inactivos.
También noté un detalle: en la factura de Akash hay un cargo por exceso de ancho de banda, alrededor de 6 dólares, debido a la pérdida de nodos y la necesidad de re-ejecutar. En OpenGradient, el cambio automático a nodos alternativos evitó que incurriera en ese gasto innecesario.
A decir verdad, ahorrar menos de un dólar al día puede parecer insignificante. Pero quienes llevan tiempo ejecutando servicios de IA saben que esa diferencia, a lo largo de un año, equivale al presupuesto para un nuevo servidor.
Ahora ya he redirigido el 70% del tráfico hacia OpenGradient. No es que Akash sea malo, es que mi billetera hizo una elección.
Ayer, al hacer la conciliación, me quedé boquiabierto.
En Akash, la factura de un mes fue de 112 dólares. En OpenGradient, con el mismo número de inferencias y las mismas especificaciones del modelo, la factura solo fue de 83 dólares. ¡Una diferencia de 29 dólares! —suficiente para invitar a mis compañeros de estudio a una buena tanda de hot pot.
Mi primera reacción fue: ¿será que OpenGradient está recortando costos? Rápidamente revisé los logs. Resulta que la calidad de salida de ambas plataformas es completamente idéntica, y los registros de verificación de nodos están todos verificados en la cadena, nada fue engañoso.
¿De dónde viene esa diferencia de precio? Revisé los detalles de facturación de ambos y finalmente entendí. Akash cobra por "alquilar toda la duración de la GPU", así que aunque tu modelo solo use la mitad de la capacidad, aún tienes que pagar por la mitad de la tarjeta que está inactiva. OpenGradient cobra por "el consumo real de inferencias", distribuyendo de manera fragmentada, así que pagas solo por la potencia que usaste, sin pagar por recursos inactivos.
También noté un detalle: en la factura de Akash hay un cargo por exceso de ancho de banda, alrededor de 6 dólares, debido a la pérdida de nodos y la necesidad de re-ejecutar. En OpenGradient, el cambio automático a nodos alternativos evitó que incurriera en ese gasto innecesario.
A decir verdad, ahorrar menos de un dólar al día puede parecer insignificante. Pero quienes llevan tiempo ejecutando servicios de IA saben que esa diferencia, a lo largo de un año, equivale al presupuesto para un nuevo servidor.
Ahora ya he redirigido el 70% del tráfico hacia OpenGradient. No es que Akash sea malo, es que mi billetera hizo una elección.