#OPG @OpenGradient
Anoche estaba leyendo sobre el primer ferrocarril transcontinental. Cada pueblo funcionaba con su propio horario solar local, así que programar los trenes era un caos. Los ingenieros no solo construyeron vías. Impusieron zonas horarias estandarizadas en todo el país.
Sigo pensando en esto mientras leo sobre @OpenGradient .
Al principio asumí que el desafío era técnico. Hacer que las pruebas criptográficas sean más rápidas. Ejecutar modelos en entornos de ejecución confiables. Un simple problema de escalabilidad.
Cuanto más leo, menos seguro estoy.
Verificar que un modelo se haya ejecutado es una cosa. Verificar que se ejecutó correctamente es algo completamente diferente. Los modelos de lenguaje son no deterministas. La misma entrada puede producir diferentes salidas, todas razonables. Así que la red tiene que definir qué significa "suficientemente bueno" en tiempo real.
No estoy seguro de que eso sea posible a gran escala.
Los costos generales podrían superar el valor de lo que sea que el agente esté haciendo. Y los agentes autónomos toman decisiones a velocidad de máquina. Pero la verificación podría requerir razonar sobre la veracidad y calidad. La desincronización de tiempos se siente como un verdadero cuello de botella.
Sigo volviendo a los incentivos. Si los operadores pueden ser penalizados por malas salidas, se volverán más conservadores. El sistema se vuelve más seguro pero pierde flexibilidad creativa.
Quizás estoy enfocándome en lo incorrecto. Lo que OpenGradient está construyendo no es solo infraestructura. Es una nueva institución que se sitúa entre la computación y el consenso. Y al igual que las compañías de ferrocarriles, podría terminar moldeando la realidad más de lo que se da cuenta.
Me queda una pregunta: ¿Está verificando la inteligencia, o definiendo inadvertidamente lo que significa incluso la inteligencia?
@OpenGradient
#OPG
$OPG
$AIO
$LAB
Anoche estaba leyendo sobre el primer ferrocarril transcontinental. Cada pueblo funcionaba con su propio horario solar local, así que programar los trenes era un caos. Los ingenieros no solo construyeron vías. Impusieron zonas horarias estandarizadas en todo el país.
Sigo pensando en esto mientras leo sobre @OpenGradient .
Al principio asumí que el desafío era técnico. Hacer que las pruebas criptográficas sean más rápidas. Ejecutar modelos en entornos de ejecución confiables. Un simple problema de escalabilidad.
Cuanto más leo, menos seguro estoy.
Verificar que un modelo se haya ejecutado es una cosa. Verificar que se ejecutó correctamente es algo completamente diferente. Los modelos de lenguaje son no deterministas. La misma entrada puede producir diferentes salidas, todas razonables. Así que la red tiene que definir qué significa "suficientemente bueno" en tiempo real.
No estoy seguro de que eso sea posible a gran escala.
Los costos generales podrían superar el valor de lo que sea que el agente esté haciendo. Y los agentes autónomos toman decisiones a velocidad de máquina. Pero la verificación podría requerir razonar sobre la veracidad y calidad. La desincronización de tiempos se siente como un verdadero cuello de botella.
Sigo volviendo a los incentivos. Si los operadores pueden ser penalizados por malas salidas, se volverán más conservadores. El sistema se vuelve más seguro pero pierde flexibilidad creativa.
Quizás estoy enfocándome en lo incorrecto. Lo que OpenGradient está construyendo no es solo infraestructura. Es una nueva institución que se sitúa entre la computación y el consenso. Y al igual que las compañías de ferrocarriles, podría terminar moldeando la realidad más de lo que se da cuenta.
Me queda una pregunta: ¿Está verificando la inteligencia, o definiendo inadvertidamente lo que significa incluso la inteligencia?
@OpenGradient
#OPG
$OPG
$AIO
$LAB