#opg $OPG y @OpenGradient Hay algo que me ha estado molestando últimamente y es cómo los agentes de IA interpretarán el sentimiento del mercado en un mundo inundado de contenido sintético.
Ahora mismo, raspan X, feeds de noticias y chismes en cadena para medir el impulso. Pero a medida que más de ese contenido se genera por IA, nos dirigimos hacia un bucle de retroalimentación donde las máquinas leen lo que otras máquinas escribieron, operan en eso y refuerzan distorsiones que no tienen fundamento en la realidad.
La relación señal-ruido se está desplomando antes de que hayamos construido la infraestructura para filtrarlo.
@OpenGradient sigue viniendo a la mente porque la inferencia verificable y la ejecución de modelos descentralizados podrían eventualmente habilitar algo más allá de la verificación de cómputo. Podrían permitir la verificación de origen—distinguir entre el sentimiento de origen humano y la amplificación sintética.
Pasamos años en cripto probando que una transacción ocurrió sin necesidad de confiar en un intermediario. Ahora necesitamos probar que un pedazo de información del mercado proviene de un actor genuino, no de un bot repitiendo sus propias reflexiones.
No sé si este se convierte en el desafío definitorio de DeFAI. Pero cuanto más observo la aceleración de la adopción de IA, más sospecho que miraremos hacia atrás y nos preguntaremos por qué no anticipamos el problema del ruido antes.
Aún procesando esto. Pero se siente demasiado importante como para pasarlo por alto.
Ahora mismo, raspan X, feeds de noticias y chismes en cadena para medir el impulso. Pero a medida que más de ese contenido se genera por IA, nos dirigimos hacia un bucle de retroalimentación donde las máquinas leen lo que otras máquinas escribieron, operan en eso y refuerzan distorsiones que no tienen fundamento en la realidad.
La relación señal-ruido se está desplomando antes de que hayamos construido la infraestructura para filtrarlo.
@OpenGradient sigue viniendo a la mente porque la inferencia verificable y la ejecución de modelos descentralizados podrían eventualmente habilitar algo más allá de la verificación de cómputo. Podrían permitir la verificación de origen—distinguir entre el sentimiento de origen humano y la amplificación sintética.
Pasamos años en cripto probando que una transacción ocurrió sin necesidad de confiar en un intermediario. Ahora necesitamos probar que un pedazo de información del mercado proviene de un actor genuino, no de un bot repitiendo sus propias reflexiones.
No sé si este se convierte en el desafío definitorio de DeFAI. Pero cuanto más observo la aceleración de la adopción de IA, más sospecho que miraremos hacia atrás y nos preguntaremos por qué no anticipamos el problema del ruido antes.
Aún procesando esto. Pero se siente demasiado importante como para pasarlo por alto.