Hoy me di cuenta de que hacemos preguntas muy diferentes sobre las blockchains y la IA.
Con las blockchains, queremos que todo sea verificable. Inspeccionamos validadores, cuestionamos los puentes y debatimos la descentralización durante horas. Pero cuando una IA nos da una respuesta, la mayoría de nosotros nos quedamos en la salida. Rara vez preguntamos si el cálculo en sí mismo puede verificarse realmente.
Al principio, pensé que esto era solo un problema de la IA.
Cuanto más lo pensaba, más me daba cuenta de que en realidad es un problema de confianza.
Distribuir las cargas de trabajo entre más máquinas no hace que un sistema sea automáticamente confiable. Si las partes importantes siguen ocurriendo en puertas cerradas, solo hemos movido la confianza a otro lugar.
Por eso vuelvo una y otra vez a OpenGradient. Lo que llamó mi atención no es que sea otra red descentralizada de IA. Es la idea de que la inferencia en sí puede verificarse y auditarse de forma independiente en lugar de depender de la reputación o las afirmaciones de alguien.
Eso cambia la conversación.
Tal vez la seguridad no sea solo para proteger la infraestructura. Tal vez se trate de dar a las personas menos razones para confiar en una infraestructura que no pueden ver.
Últimamente, las gráficas de benchmarks no mantienen mi atención por mucho tiempo.
Me interesa más una pregunta más sencilla: ¿cuándo empezarán los desarrolladores a pedir pruebas de ejecución tan a menudo como piden modelos más rápidos?
Porque si la ejecución de la IA no puede verificarse, ¿a qué exactamente estamos llamando descentralizado?
@OpenGradient #OPG #opg $OPG
Con las blockchains, queremos que todo sea verificable. Inspeccionamos validadores, cuestionamos los puentes y debatimos la descentralización durante horas. Pero cuando una IA nos da una respuesta, la mayoría de nosotros nos quedamos en la salida. Rara vez preguntamos si el cálculo en sí mismo puede verificarse realmente.
Al principio, pensé que esto era solo un problema de la IA.
Cuanto más lo pensaba, más me daba cuenta de que en realidad es un problema de confianza.
Distribuir las cargas de trabajo entre más máquinas no hace que un sistema sea automáticamente confiable. Si las partes importantes siguen ocurriendo en puertas cerradas, solo hemos movido la confianza a otro lugar.
Por eso vuelvo una y otra vez a OpenGradient. Lo que llamó mi atención no es que sea otra red descentralizada de IA. Es la idea de que la inferencia en sí puede verificarse y auditarse de forma independiente en lugar de depender de la reputación o las afirmaciones de alguien.
Eso cambia la conversación.
Tal vez la seguridad no sea solo para proteger la infraestructura. Tal vez se trate de dar a las personas menos razones para confiar en una infraestructura que no pueden ver.
Últimamente, las gráficas de benchmarks no mantienen mi atención por mucho tiempo.
Me interesa más una pregunta más sencilla: ¿cuándo empezarán los desarrolladores a pedir pruebas de ejecución tan a menudo como piden modelos más rápidos?
Porque si la ejecución de la IA no puede verificarse, ¿a qué exactamente estamos llamando descentralizado?
@OpenGradient #OPG #opg $OPG