El mes pasado, un amigo me contó algo que le dio un poco de miedo.
Él está probando una herramienta de análisis financiero AI, la hizo correr una evaluación de riesgo de una cartera. El modelo proporcionó un informe que se veía muy profesional, sugiriendo ajustar la posición. No siguió todas las recomendaciones, solo tomó algunas en cuenta.
Luego descubrí que el juicio central del informe se basaba en un conjunto de datos históricos de calidad dudosa—el modelo utilizó entradas incorrectas, pero la salida parecía muy confiada.
Él preguntó a la plataforma: ¿de dónde provienen los datos de entrenamiento de este informe?
La plataforma respondió: no se puede proporcionar información sobre la fuente de los datos.