Por qué la IA verificable puede volverse más valiosa que una IA mejor
Cuanto más lo pienso, menos convencido estoy de que el próximo cuello de botella de la IA sea la inteligencia.
Todos asumen que los modelos ganadores simplemente serán los más inteligentes. Pero esa suposición se siente extrañamente incompleta. La inteligencia crea salidas. Los mercados, las instituciones y las personas todavía tienen que decidir si esas salidas pueden ser confiables.
Lo interesante es que hemos pasado años optimizando la capacidad de la IA para generar respuestas mientras que hemos dedicado mucho menos tiempo a pensar en cómo esas respuestas se vuelven creíbles. De alguna manera, la IA ha mejorado la producción de información mucho más rápido que la verificación de información.
Proyectos como OpenGradient llamaron mi atención porque parecen surgir de este desequilibrio en lugar de la carrera por mejores modelos en sí.
Al principio pensé que la verificación era principalmente un problema técnico. Pero cuanto más lo miro, más siento que es un problema económico.
Un agente de trading, un modelo financiero, un asistente de investigación o un flujo de trabajo autónomo no falla porque le falte inteligencia. A menudo falla porque nadie puede atribuir con confianza la responsabilidad cuando algo sale mal. En el momento en que hay valor involucrado, la confianza se convierte en un problema de coordinación.
Lo fascinante es que la verificación podría eventualmente convertirse en una forma de infraestructura para la reputación. No la reputación de las personas, sino la reputación de las decisiones.
Eso cambia completamente la conversación.
Quizás la economía de la IA del futuro no compite por producir la mayor inteligencia. Quizás compite por producir la inteligencia más creíble. Y esas no son necesariamente la misma cosa.
Aún no estoy seguro de que el mercado reconozca completamente la diferencia todavía.
#opg $OPG #OPG @OpenGradient
Cuanto más lo pienso, menos convencido estoy de que el próximo cuello de botella de la IA sea la inteligencia.
Todos asumen que los modelos ganadores simplemente serán los más inteligentes. Pero esa suposición se siente extrañamente incompleta. La inteligencia crea salidas. Los mercados, las instituciones y las personas todavía tienen que decidir si esas salidas pueden ser confiables.
Lo interesante es que hemos pasado años optimizando la capacidad de la IA para generar respuestas mientras que hemos dedicado mucho menos tiempo a pensar en cómo esas respuestas se vuelven creíbles. De alguna manera, la IA ha mejorado la producción de información mucho más rápido que la verificación de información.
Proyectos como OpenGradient llamaron mi atención porque parecen surgir de este desequilibrio en lugar de la carrera por mejores modelos en sí.
Al principio pensé que la verificación era principalmente un problema técnico. Pero cuanto más lo miro, más siento que es un problema económico.
Un agente de trading, un modelo financiero, un asistente de investigación o un flujo de trabajo autónomo no falla porque le falte inteligencia. A menudo falla porque nadie puede atribuir con confianza la responsabilidad cuando algo sale mal. En el momento en que hay valor involucrado, la confianza se convierte en un problema de coordinación.
Lo fascinante es que la verificación podría eventualmente convertirse en una forma de infraestructura para la reputación. No la reputación de las personas, sino la reputación de las decisiones.
Eso cambia completamente la conversación.
Quizás la economía de la IA del futuro no compite por producir la mayor inteligencia. Quizás compite por producir la inteligencia más creíble. Y esas no son necesariamente la misma cosa.
Aún no estoy seguro de que el mercado reconozca completamente la diferencia todavía.
#opg $OPG #OPG @OpenGradient