$ROBO Problema Încrederii în Mașinile Autonome
Pe măsură ce roboții devin mai autonomi, o întrebare tăcută începe să apară.
Cum putem avea încredere în ceea ce fac mașinile?
În sistemele software tradiționale, verificarea este adesea mai ușoară. Jurnalele există. Codul poate fi auditat. Ieșirile pot fi uneori reproduce.
Mașinile fizice sunt diferite.
Senzorii pot interpreta greșit mediile. Modelele se comportă imprevizibil. Două roboți care se confruntă cu aceeași situație ar putea produce rezultate diferite.
M-am gândit la această problemă recent. Cu cât câștigă mașinile mai multă autonomie, cu atât devine mai importantă verificarea.
De aceea, parțial, conceptul explorat de @Fabric Foundation mi-a atras atenția.
Fabric explorează o infrastructură în care sistemele robotice ar putea depinde de calcul verificabil și straturi de coordonare partajată.
Desigur, verificarea în robotică este departe de a fi simplă.
Totuși, problema încrederii în jurul mașinilor autonome devine din ce în ce mai greu de ignorat.