法蘭克福距離上更近，所以我把下一批 @OpenGradient 推理任務路由到那裡。
幾乎在立刻之間，就有三個請求超過重試門檻後直接死亡。
我的第一反應是慣常的排障清單：檢查逾時設定、查看佇列壓力、也許是某個壞的模型版本釋出？但隨後，一個更遠的節點開始毫無卡頓地清理相同的工作負載。
地理座標完全正確。距離計算也很精準。只是這一切都不重要了。$OPG
哈弗辛公式很適合用來量測地圖上的直線距離，但它們看不到底層發生了什麼。它們不會告訴你：你的流量如何撞上擁擠的網際網路交換點、如何切換到不同的承運商，並在區域路由邊界當下停滯不前。與此同時，較長的實體路徑仍然沿著同一條骨幹網路前進，並順利完成推理。
但真正的關鍵是：問題不只是把請求送到節點而已。
法蘭克福節點足夠快地接收了資料，但驗證回執卻回得完全混亂且不一致。應用程式雖然得到很快的推理結果，卻收到延遲的信任訊號，於是它恐慌並重試那些其實還沒失敗的任務。這導致了大量重複執行，以及結算方面的雜訊形成了一個巨大的迴圈。
這證明節點在 @OpenGradient 的放置不只是「把容量放得貼近需求」那麼簡單。地圖上看起來很近的節點，仍然可能在網路路徑不穩定時把你的應用程式搞壞。
我並沒有打算完全推翻距離指標——那會是過度反應。但我確實不再允許它們擁有最終決定權。
#OPG #OpenGradient #DeAI #Web3Infra #Crypto
$OPG
當延遲變得不可預測時，OpenGradient 的節點選擇應該依循哪一種指標？