Pasé aproximadamente una hora anoche saltando entre secciones del whitepaper de OpenGradient porque dos números seguían molestándome.
Una inferencia TEE normal se completa en segundos. La verificación ZKML puede introducir un overhead de cómputo de 1000x a 10000x.
Revisé la cifra dos veces asumiendo que la malinterpreté.
Si la brecha es tan grande, ¿por qué usar ZKML en absoluto?
TEE y ZKML resuelven problemas diferentes; TEE te da velocidad, pero todavía confías en el hardware, aquí los enclaves de AWS Nitro. ZKML demuestra la computación matemáticamente. Sin suposiciones de enclave, sin proveedor en la raíz de confianza.
El intercambio es brutal. Garantías más fuertes pagadas con computación extra.
Lo que encuentro interesante es que la documentación no pretende que ZKML funcione para todo. Son claros en que está destinado a casos más pequeños y de alto valor, no a inferencias a gran escala. Eso hizo que el diseño se sintiera más creíble.
Con lo que aún estoy luchando es con dónde se traza la línea. ¿Qué tipo de tarea justifica un aumento de costo de 1000x? ¿Liquidación financiera? ¿Decisiones médicas?
Quizás depende de quién está pagando por la certeza.
@OpenGradient $OPG #OPG
Una inferencia TEE normal se completa en segundos. La verificación ZKML puede introducir un overhead de cómputo de 1000x a 10000x.
Revisé la cifra dos veces asumiendo que la malinterpreté.
Si la brecha es tan grande, ¿por qué usar ZKML en absoluto?
TEE y ZKML resuelven problemas diferentes; TEE te da velocidad, pero todavía confías en el hardware, aquí los enclaves de AWS Nitro. ZKML demuestra la computación matemáticamente. Sin suposiciones de enclave, sin proveedor en la raíz de confianza.
El intercambio es brutal. Garantías más fuertes pagadas con computación extra.
Lo que encuentro interesante es que la documentación no pretende que ZKML funcione para todo. Son claros en que está destinado a casos más pequeños y de alto valor, no a inferencias a gran escala. Eso hizo que el diseño se sintiera más creíble.
Con lo que aún estoy luchando es con dónde se traza la línea. ¿Qué tipo de tarea justifica un aumento de costo de 1000x? ¿Liquidación financiera? ¿Decisiones médicas?
Quizás depende de quién está pagando por la certeza.
@OpenGradient $OPG #OPG