Je parcourais la documentation et le matériel marketing d'OpenGradient quand une contradiction a retenu mon attention. Le projet se positionne autour de l'idée d'intelligence artificielle ouverte et accessible, pourtant le Hub de Modèles fonctionne sur une base complètement sans autorisation où n'importe qui peut uploader des modèles sans aucune révision ou contrôle de qualité.
Selon les informations disponibles, une fois qu'un modèle est uploadé sur le Hub, il peut être utilisé pour l'inférence sur le réseau. Les systèmes de vérification, que ce soit par TEE ou zkML, ne confirment que l'exécution correcte du modèle sur une entrée donnée. Ils n'évaluent pas si le modèle est précis, bien entraîné, ou approprié pour le cas d'utilisation prévu.
Cela crée un écart notable. Bien que le design sans autorisation permette une large participation, cela signifie aussi qu'il n'y a pas de mécanisme intégré pour garantir la qualité ou la fiabilité des modèles proposés. Les utilisateurs ou agents s'appuyant sur ces modèles doivent effectuer leur propre évaluation, ce qui peut ne pas toujours être pratique ou évident.
La tension devient plus claire lorsque le projet souligne l'ouverture comme une valeur fondamentale, pourtant le système réel place la pleine responsabilité de l'évaluation de la qualité du modèle sur l'utilisateur final. Il reste encore flou comment cette approche s'aligne avec la revendication plus large de permettre une intelligence fiable et ouverte au fil du temps.
Une chose qui reste non résolue est de savoir si des plans existent pour introduire une évaluation communautaire, des systèmes de réputation, ou d'autres mécanismes qui pourraient aider à combler le fossé entre l'accès sans autorisation et la fiabilité réelle des modèles.
$OPG

#OPG @OpenGradient