Estaba revisando la documentación y el material de marketing de OpenGradient cuando una contradicción destacó. El proyecto se posiciona en torno a la idea de inteligencia artificial abierta y accesible, sin embargo, el Hub de Modelos opera de manera completamente permisiva donde cualquiera puede subir modelos sin ninguna revisión o chequeos de calidad.
Según la información disponible, una vez que un modelo es subido al Hub, puede ser utilizado para inferencias en la red. Los sistemas de verificación, ya sea a través de TEE o zkML, solo confirman que el modelo se ejecutó correctamente con una entrada dada. No evalúan si el modelo es preciso, está bien entrenado o es apropiado para el caso de uso previsto.
Esto crea una brecha notable. Mientras que el diseño permisivo permite una amplia participación, también significa que no hay un mecanismo incorporado para asegurar la calidad o fiabilidad de los modelos ofrecidos. Los usuarios o agentes que dependen de estos modelos deben realizar su propia evaluación, lo que puede no ser siempre práctico o directo.
La tensión se vuelve más clara cuando el proyecto enfatiza la apertura como un valor central, sin embargo, el sistema real coloca toda la responsabilidad de evaluar la calidad del modelo en el usuario final. Aún no está claro cómo este enfoque se alinea con la afirmación más amplia de permitir una inteligencia confiable y abierta a lo largo del tiempo.
Una cosa que sigue sin resolverse es si existen planes para introducir evaluaciones impulsadas por la comunidad, sistemas de reputación, u otros mecanismos que puedan ayudar a cerrar la brecha entre el acceso permisivo y la fiabilidad real del modelo.
$OPG

#OPG @OpenGradient