¿Qué pasa cuando la IA no está de acuerdo?
Últimamente he estado pensando en algo raro en IA.
Todo el mundo habla de la atribución como si fuera la respuesta definitiva.
¿Quién entrenó el modelo?
¿Qué datos se utilizaron?
¿Quién aportó valor?
Preguntas justas.
Pero estoy empezando a pensar que la atribución podría ser solo la primera capa.
La pregunta más difícil vino después.
¿Qué pasa cuando los sistemas de IA no están de acuerdo?
Eso suena abstracto hasta que hay dinero real o decisiones en juego.
Imagina que un modelo de IA recomienda algo. Otro sistema consume esa salida. Se realiza una transacción, las clasificaciones cambian, la visibilidad se desplaza, tal vez incluso se pierda dinero.