Cuanto más leo sobre la IA on-chain, más pienso que hemos estado mirando la parte equivocada del pipeline.
A menudo se celebra la computación verificable, y sí, es un gran paso adelante. Si el preprocesamiento se ejecuta en la cadena, todos pueden confirmar que los cálculos solicitados ocurrieron exactamente como se definieron. Eso es valioso.
Pero aquí está lo que sigo teniendo en mente...
Un modelo no empieza a tomar decisiones cuando comienza la inferencia. En muchos sentidos, la primera decisión ya la tomó quien preparó los datos.
Normalización, estandarización, agregación, correlación: todas son operaciones matemáticas legítimas. Sin embargo, el resultado depende totalmente de qué datos se seleccionen, qué variables se incluyan, qué periodo de tiempo se observe y por qué se elige una transformación en lugar de otra. Dos desarrolladores pueden procesar los mismos datos sin procesar de maneras distintas y ambos estarían haciendo algo matemáticamente correcto, pero ofreciendo al modelo vistas completamente diferentes de la realidad.
Por eso no creo que el preprocesamiento verificable, por sí solo, cree una IA confiable. Crea una ejecución verificable. No son lo mismo.
Proyectos como SolidML están explorando esta dirección al llevar el preprocesamiento para flujos de trabajo de ML a la cadena, pero el desafío más interesante no es si las matemáticas se pueden verificar. Es si las suposiciones que hay detrás de esas matemáticas pueden volverse lo bastante transparentes como para que otros puedan evaluarlas. Ahora mismo, la inferencia de ML on-chain sigue siendo experimental, así que quizá este sea exactamente el momento en el que deberían plantearse estas preguntas.
Quizá el futuro de una IA confiable no sea solo demostrar que se realizaron los cálculos. Quizá sea hacer también visible el razonamiento detrás de la preparación de los datos.
¿Qué crees que importa más para la IA on-chain a largo plazo:
#opg @OpenGradient $OPG
demostrar cada cálculo, o hacer que cada elección de preparación de datos sea abiertamente explicable?
A menudo se celebra la computación verificable, y sí, es un gran paso adelante. Si el preprocesamiento se ejecuta en la cadena, todos pueden confirmar que los cálculos solicitados ocurrieron exactamente como se definieron. Eso es valioso.
Pero aquí está lo que sigo teniendo en mente...
Un modelo no empieza a tomar decisiones cuando comienza la inferencia. En muchos sentidos, la primera decisión ya la tomó quien preparó los datos.
Normalización, estandarización, agregación, correlación: todas son operaciones matemáticas legítimas. Sin embargo, el resultado depende totalmente de qué datos se seleccionen, qué variables se incluyan, qué periodo de tiempo se observe y por qué se elige una transformación en lugar de otra. Dos desarrolladores pueden procesar los mismos datos sin procesar de maneras distintas y ambos estarían haciendo algo matemáticamente correcto, pero ofreciendo al modelo vistas completamente diferentes de la realidad.
Por eso no creo que el preprocesamiento verificable, por sí solo, cree una IA confiable. Crea una ejecución verificable. No son lo mismo.
Proyectos como SolidML están explorando esta dirección al llevar el preprocesamiento para flujos de trabajo de ML a la cadena, pero el desafío más interesante no es si las matemáticas se pueden verificar. Es si las suposiciones que hay detrás de esas matemáticas pueden volverse lo bastante transparentes como para que otros puedan evaluarlas. Ahora mismo, la inferencia de ML on-chain sigue siendo experimental, así que quizá este sea exactamente el momento en el que deberían plantearse estas preguntas.
Quizá el futuro de una IA confiable no sea solo demostrar que se realizaron los cálculos. Quizá sea hacer también visible el razonamiento detrás de la preparación de los datos.
¿Qué crees que importa más para la IA on-chain a largo plazo:
#opg @OpenGradient $OPG
demostrar cada cálculo, o hacer que cada elección de preparación de datos sea abiertamente explicable?