$ROBO Le problème de confiance dans les machines autonomes
Alors que les robots deviennent plus autonomes, une question silencieuse commence à apparaître.
Comment pouvons-nous faire confiance à ce que font les machines ?
Dans les systèmes logiciels traditionnels, la vérification est souvent plus facile. Les journaux existent. Le code peut être audité. Les sorties peuvent parfois être reproduites.
Les machines physiques sont différentes.
Les capteurs peuvent mal interpréter les environnements. Les modèles se comportent de manière imprévisible. Deux robots face à la même situation peuvent produire des résultats différents.
Je pense à ce problème récemment. Plus les machines gagnent en autonomie, plus la vérification devient importante.
C'est en partie pourquoi le concept exploré par @Fabric Foundation a attiré mon attention.
Fabric explore une infrastructure où les systèmes robotiques pourraient s'appuyer sur une informatique vérifiable et des couches de coordination partagées.
Bien sûr, la vérification en robotique est loin d'être simple.
Cependant, le problème de confiance autour des machines autonomes devient de plus en plus difficile à ignorer.