He estado pensando en el sobrecoste de ZKML durante los últimos días, y hay algo que destaca: no solo afecta el rendimiento; determina qué cargas de trabajo de IA realmente tienen sentido verificar con ello.
El compromiso principal es directo. ZKML puede requerir aproximadamente entre 1.000 y 10.000× más computación que la inferencia estándar. OpenGradient no oculta esta realidad. En lugar de eso, recomienda ZKML para modelos más pequeños y de alto riesgo, mientras que los modelos generativos más grandes, por lo general, encajan mejor con la verificación basada en TEE o con la inferencia convencional.
A medida que crece la complejidad del modelo, también aumenta el coste de prueba. Eso significa que hoy en día los LLM más grandes simplemente no encajan idealmente con ZKML.
Modelos pequeños. Garantías sólidas.
Lo que a menudo se pasa por alto es que esto no es exclusivo de OpenGradient: es una limitación más amplia de la tecnología actual de pruebas de conocimiento cero. Un modelo de riesgo compacto con cientos de parámetros es un candidato práctico para ZKML hoy. Un LLM de 70B de parámetros no lo es, independientemente de la infraestructura que haya detrás.
En realidad, agradezco que OpenGradient no comercialice ZKML como una solución única para todos solo porque ofrece las garantías criptográficas más fuertes. Elegir el método de verificación adecuado para la carga de trabajo adecuada se siente como el enfoque de ingeniería más honesto.
Dicho esto, la limitación es muy real. Muchas de las aplicaciones de IA de alto riesgo que la gente más quiere verificar—especialmente los modelos de razonamiento a gran escala—todavía dependen de la atestación TEE en lugar de pruebas completas de ZKML.
He visto a personas insistir en usar la opción «más segura» solo porque sonaba mejor en el papel, incluso cuando una solución más práctica era la mejor elección de ingeniería.
La pregunta que aún me intriga es esta:
A medida que los sistemas de pruebas de conocimiento cero mejoran, ¿cuánto podría reducirse el sobrecoste actual? ¿Y OpenGradient tiene una hoja de ruta o un calendario para hacer que ZKML sea práctico para modelos cada vez más grandes?
@OpenGradient
$OPG #OPG #ZKML #AI #Crypto #Blockchain #VerifiableAI
El compromiso principal es directo. ZKML puede requerir aproximadamente entre 1.000 y 10.000× más computación que la inferencia estándar. OpenGradient no oculta esta realidad. En lugar de eso, recomienda ZKML para modelos más pequeños y de alto riesgo, mientras que los modelos generativos más grandes, por lo general, encajan mejor con la verificación basada en TEE o con la inferencia convencional.
A medida que crece la complejidad del modelo, también aumenta el coste de prueba. Eso significa que hoy en día los LLM más grandes simplemente no encajan idealmente con ZKML.
Modelos pequeños. Garantías sólidas.
Lo que a menudo se pasa por alto es que esto no es exclusivo de OpenGradient: es una limitación más amplia de la tecnología actual de pruebas de conocimiento cero. Un modelo de riesgo compacto con cientos de parámetros es un candidato práctico para ZKML hoy. Un LLM de 70B de parámetros no lo es, independientemente de la infraestructura que haya detrás.
En realidad, agradezco que OpenGradient no comercialice ZKML como una solución única para todos solo porque ofrece las garantías criptográficas más fuertes. Elegir el método de verificación adecuado para la carga de trabajo adecuada se siente como el enfoque de ingeniería más honesto.
Dicho esto, la limitación es muy real. Muchas de las aplicaciones de IA de alto riesgo que la gente más quiere verificar—especialmente los modelos de razonamiento a gran escala—todavía dependen de la atestación TEE en lugar de pruebas completas de ZKML.
He visto a personas insistir en usar la opción «más segura» solo porque sonaba mejor en el papel, incluso cuando una solución más práctica era la mejor elección de ingeniería.
La pregunta que aún me intriga es esta:
A medida que los sistemas de pruebas de conocimiento cero mejoran, ¿cuánto podría reducirse el sobrecoste actual? ¿Y OpenGradient tiene una hoja de ruta o un calendario para hacer que ZKML sea práctico para modelos cada vez más grandes?
@OpenGradient
$OPG #OPG #ZKML #AI #Crypto #Blockchain #VerifiableAI