#opg $OPG
Hace unos días, me sorprendí a mí mismo revisando la salida de una herramienta de IA antes de siquiera pensar en de dónde provenía esa salida. No era descuido. Simplemente se había convertido en un hábito. El resultado parecía convincente, así que lo acepté sin cuestionar qué había pasado debajo.
Ese pequeño momento se quedó conmigo más tiempo del que esperaba. Me hizo darme cuenta de cuán rápido la conveniencia cambia nuestros estándares. Solíamos preguntar si la información era verdadera. Ahora a menudo noto que la primera pregunta es si es útil. En algún lugar del camino, dejé de prestar atención a cómo se ganaba la confianza.
Cuanto más pensaba en ello, más me daba cuenta de que la inteligencia no solo se trata de producir buenas respuestas. También se trata de crear suficiente visibilidad para que esas respuestas puedan ser cuestionadas, inspeccionadas y verificadas. Un sistema que pide confianza sin ofrecer evidencia puede funcionar por un tiempo, pero silenciosamente pide a las personas que entreguen algo que ni siquiera se dan cuenta de que están renunciando.
Ese pensamiento me llevó a ver la infraestructura descentralizada de manera diferente. Por mucho tiempo, asocié la descentralización principalmente con la propiedad y la resiliencia. Últimamente, he comenzado a pensar que su valor más profundo podría ser la responsabilidad.
Si la IA está convirtiéndose en parte de cómo se toman decisiones, entonces la capacidad de verificar cómo se alojan los modelos, cómo ocurre la inferencia y si los resultados pueden ser verificados de forma independiente se siente tan importante como la inteligencia misma. Esa es una de las razones por las que proyectos como @OpenGradient han llamado mi atención. La idea no es simplemente distribuir la computación. Es hacer que la confianza sea algo que se pueda examinar en lugar de asumir.
Todavía estoy descubriendo lo que este cambio significa en la práctica, pero sospecho que eventualmente juzgaremos a los sistemas inteligentes menos por lo impresionantes que parecen y más por cuán confiablemente se pueden verificar sus afirmaciones.
@OpenGradient
#OPG
$OPG
Hace unos días, me sorprendí a mí mismo revisando la salida de una herramienta de IA antes de siquiera pensar en de dónde provenía esa salida. No era descuido. Simplemente se había convertido en un hábito. El resultado parecía convincente, así que lo acepté sin cuestionar qué había pasado debajo.
Ese pequeño momento se quedó conmigo más tiempo del que esperaba. Me hizo darme cuenta de cuán rápido la conveniencia cambia nuestros estándares. Solíamos preguntar si la información era verdadera. Ahora a menudo noto que la primera pregunta es si es útil. En algún lugar del camino, dejé de prestar atención a cómo se ganaba la confianza.
Cuanto más pensaba en ello, más me daba cuenta de que la inteligencia no solo se trata de producir buenas respuestas. También se trata de crear suficiente visibilidad para que esas respuestas puedan ser cuestionadas, inspeccionadas y verificadas. Un sistema que pide confianza sin ofrecer evidencia puede funcionar por un tiempo, pero silenciosamente pide a las personas que entreguen algo que ni siquiera se dan cuenta de que están renunciando.
Ese pensamiento me llevó a ver la infraestructura descentralizada de manera diferente. Por mucho tiempo, asocié la descentralización principalmente con la propiedad y la resiliencia. Últimamente, he comenzado a pensar que su valor más profundo podría ser la responsabilidad.
Si la IA está convirtiéndose en parte de cómo se toman decisiones, entonces la capacidad de verificar cómo se alojan los modelos, cómo ocurre la inferencia y si los resultados pueden ser verificados de forma independiente se siente tan importante como la inteligencia misma. Esa es una de las razones por las que proyectos como @OpenGradient han llamado mi atención. La idea no es simplemente distribuir la computación. Es hacer que la confianza sea algo que se pueda examinar en lugar de asumir.
Todavía estoy descubriendo lo que este cambio significa en la práctica, pero sospecho que eventualmente juzgaremos a los sistemas inteligentes menos por lo impresionantes que parecen y más por cuán confiablemente se pueden verificar sus afirmaciones.
@OpenGradient
#OPG
$OPG