$ROBO Il Problema della Fiducia nelle Macchine Autonome
Man mano che i robot diventano più autonomi, inizia a sorgere una domanda silenziosa.
Come possiamo fidarci di ciò che fanno le macchine?
Nei sistemi software tradizionali, la verifica è spesso più semplice. Esistono registri. Il codice può essere auditato. I risultati possono a volte essere riprodotti.
Le macchine fisiche sono diverse.
I sensori possono interpretare male gli ambienti. I modelli si comportano in modo imprevedibile. Due robot di fronte alla stessa situazione potrebbero produrre risultati diversi.
Negli ultimi tempi ho riflettuto su questo problema. Più autonomia guadagnano le macchine, più importante diventa la verifica.
È in parte per questo che il concetto esplorato da @Fabric Foundation ha catturato la mia attenzione.
Fabric sta esplorando un'infrastruttura in cui i sistemi robotici potrebbero fare affidamento su calcoli verificabili e strati di coordinamento condivisi.
Certo, la verifica nella robotica è tutt'altro che semplice.
Tuttavia, il problema della fiducia attorno alle macchine autonome sta diventando sempre più difficile da ignorare.