@OpenGradient $OPG #OPG
A menudo se asume que la parte más difícil de la IA es construir modelos más inteligentes. Empiezo a pensar que esa es solo la mitad de la historia.
Un modelo puede ser increíblemente capaz, pero si la gente no está segura de quién lo controla, si sus salidas pueden confiarse o qué pasa con sus datos, la inteligencia sola no resuelve gran cosa. La confianza tiene una forma extraña de hacerse visible solo cuando falta.
Eso me hace preguntarme si la próxima fase de la IA no se definirá por quién tiene los modelos más grandes, sino por quién crea las razones más sólidas para que los desconocidos cooperen. La parte técnica importa, pero los incentivos importan igual. Los sistemas no fallan únicamente por código defectuoso. Fallan cuando la gente deja de creer que las reglas se aplican por igual a todos.
OpenGradient me sigue viniendo a la mente como ejemplo de este cambio más amplio. No porque prometa respuestas perfectas, sino porque refleja una creencia creciente de que, en el futuro, la infraestructura de la IA quizá necesite demostrarse a sí misma en vez de pedir a los usuarios que simplemente confíen en ella.
Por supuesto, por sí sola la prueba no generará adopción. La mayoría de las personas elige la conveniencia mucho antes de pensar en la verificación. La historia muestra que la confianza normalmente solo se vuelve valiosa después de que algo se rompe.
Así que sigo preguntándome qué hábito será más difícil de cambiar. ¿Seguirán los creadores optimizando para la velocidad mientras esperan que la confianza llegue después? ¿O los usuarios acabarán esperando que cada interacción importante con una IA sea verificable por defecto?
Quizá el futuro de la IA no se decida por quién construye los sistemas más inteligentes.
Quizá se decida por quién se gana el derecho a ser creído.
A menudo se asume que la parte más difícil de la IA es construir modelos más inteligentes. Empiezo a pensar que esa es solo la mitad de la historia.
Un modelo puede ser increíblemente capaz, pero si la gente no está segura de quién lo controla, si sus salidas pueden confiarse o qué pasa con sus datos, la inteligencia sola no resuelve gran cosa. La confianza tiene una forma extraña de hacerse visible solo cuando falta.
Eso me hace preguntarme si la próxima fase de la IA no se definirá por quién tiene los modelos más grandes, sino por quién crea las razones más sólidas para que los desconocidos cooperen. La parte técnica importa, pero los incentivos importan igual. Los sistemas no fallan únicamente por código defectuoso. Fallan cuando la gente deja de creer que las reglas se aplican por igual a todos.
OpenGradient me sigue viniendo a la mente como ejemplo de este cambio más amplio. No porque prometa respuestas perfectas, sino porque refleja una creencia creciente de que, en el futuro, la infraestructura de la IA quizá necesite demostrarse a sí misma en vez de pedir a los usuarios que simplemente confíen en ella.
Por supuesto, por sí sola la prueba no generará adopción. La mayoría de las personas elige la conveniencia mucho antes de pensar en la verificación. La historia muestra que la confianza normalmente solo se vuelve valiosa después de que algo se rompe.
Así que sigo preguntándome qué hábito será más difícil de cambiar. ¿Seguirán los creadores optimizando para la velocidad mientras esperan que la confianza llegue después? ¿O los usuarios acabarán esperando que cada interacción importante con una IA sea verificable por defecto?
Quizá el futuro de la IA no se decida por quién construye los sistemas más inteligentes.
Quizá se decida por quién se gana el derecho a ser creído.