Últimamente he estado pensando menos en si la IA se está volviendo más inteligente, y más en qué es lo que realmente hace que la gente confíe en ella.
Siento que estamos abandonando lentamente un viejo hábito.
La mayoría de las tecnologías ganaron confianza al ser explicables. Incluso si la persona promedio no entendía cada detalle técnico, había una tranquilidad en saber que la lógica podía ser rastreada. Podías preguntar por qué algo funcionaba, y en algún lugar había una cadena de razonamiento que parecía comprensible.
La IA parece estar cambiando ese ritmo.
Ahora el resultado a menudo llega antes que la comprensión. La gente interactúa con outputs que parecen útiles, impresionantes, a veces incluso convincentes, mucho antes de que tengan una verdadera sensación de qué los produjo. Y una vez que algo se vuelve lo suficientemente útil, la necesidad de explicación comienza a desvanecerse de maneras que se sienten tanto fascinantes como un poco inquietantes.
Ese pensamiento volvía a mi mente mientras pasaba tiempo alrededor de OpenGradient Chat.
No por ninguna característica en particular, sino porque me hizo pensar en hacia dónde podría estar moviéndose la confianza.
Quizás la confianza ya no se centra en la explicación en absoluto. Tal vez esté cambiando hacia el proceso — hacia si las personas sienten que pueden observar suficiente de cómo se mueve la información, incluso si no pueden entender completamente cada capa involucrada.
Aún así, no estoy completamente convencido de que la visibilidad cree automáticamente confianza.
A veces, más transparencia solo significa más complejidad en exhibición. Un sistema puede revelar más y aún así ser difícil de evaluar de manera significativa. Siempre hay una brecha entre ver un proceso y entender verdaderamente lo que ese proceso implica.
Esa es probablemente la parte a la que sigo volviendo.
A medida que los sistemas se vuelven más difíciles de razonar solo con la intuición, ¿qué usarán las personas realmente como su ancla para la confianza?
¿Seguirá importando la explicación?
¿O la utilidad se convertirá silenciosamente en suficiente?
Y si las personas dejan de necesitar entender para confiar, ¿dónde exactamente trazan esa línea?
@OpenGradient #OPG $OPG
$BSB $H
Siento que estamos abandonando lentamente un viejo hábito.
La mayoría de las tecnologías ganaron confianza al ser explicables. Incluso si la persona promedio no entendía cada detalle técnico, había una tranquilidad en saber que la lógica podía ser rastreada. Podías preguntar por qué algo funcionaba, y en algún lugar había una cadena de razonamiento que parecía comprensible.
La IA parece estar cambiando ese ritmo.
Ahora el resultado a menudo llega antes que la comprensión. La gente interactúa con outputs que parecen útiles, impresionantes, a veces incluso convincentes, mucho antes de que tengan una verdadera sensación de qué los produjo. Y una vez que algo se vuelve lo suficientemente útil, la necesidad de explicación comienza a desvanecerse de maneras que se sienten tanto fascinantes como un poco inquietantes.
Ese pensamiento volvía a mi mente mientras pasaba tiempo alrededor de OpenGradient Chat.
No por ninguna característica en particular, sino porque me hizo pensar en hacia dónde podría estar moviéndose la confianza.
Quizás la confianza ya no se centra en la explicación en absoluto. Tal vez esté cambiando hacia el proceso — hacia si las personas sienten que pueden observar suficiente de cómo se mueve la información, incluso si no pueden entender completamente cada capa involucrada.
Aún así, no estoy completamente convencido de que la visibilidad cree automáticamente confianza.
A veces, más transparencia solo significa más complejidad en exhibición. Un sistema puede revelar más y aún así ser difícil de evaluar de manera significativa. Siempre hay una brecha entre ver un proceso y entender verdaderamente lo que ese proceso implica.
Esa es probablemente la parte a la que sigo volviendo.
A medida que los sistemas se vuelven más difíciles de razonar solo con la intuición, ¿qué usarán las personas realmente como su ancla para la confianza?
¿Seguirá importando la explicación?
¿O la utilidad se convertirá silenciosamente en suficiente?
Y si las personas dejan de necesitar entender para confiar, ¿dónde exactamente trazan esa línea?
@OpenGradient #OPG $OPG
$BSB $H