Empecé a pensar que la selección del nodo era principalmente un problema de distancia. Resultó ser un problema de calidad de red.

Durante una ejecución de inferencia, la región más cercana parecía la opción obvia. Las solicitudes llegaron al nodo rápidamente, pero los tiempos de finalización se volvieron inconsistentes. Algunos trabajos terminaron de inmediato, mientras que otros esperaron lo suficiente como para activar reintentos.

Lo sorprendente fue que una ruta más lejana se mantuvo estable de principio a fin. No era la distancia extra lo que importaba. Eran menos cambios de enrutamiento, menor congestión y una latencia de verificación más predecible.#OPG

Eso cambió la forma en que pienso sobre la infraestructura de OpenGradient. La cercanía geográfica es útil, pero no debería pesar más que las condiciones reales de la red. El enrutamiento estable, la latencia de verificación consistente y la salud de la cola a menudo importan más que ser el nodo más cercano en el mapa.

La distancia sigue formando parte de la decisión. Solo que ya no es el factor decisivo.

¿Qué debería priorizar más @OpenGradient para la selección de nodos: la estabilidad de la red, la latencia de verificación, la salud de la cola o la proximidad geográfica?

$OPG

$ACT

$MANTA