La vera responsabilità inizia quando guardiamo oltre la tecnologia.
Le macchine autonome stanno già aiutando a spostare beni, controllare transazioni, gestire veicoli e decidere cosa vedere alle persone. Lavorano da sole senza coinvolgere direttamente gli esseri umani. La maggior parte di esse è difficile da comprendere: inseriamo informazioni, otteniamo risultati, ma non sappiamo cosa succede nel mezzo.
Questo non è un problema tecnico. È anche un problema di governance.
Non possiamo fidarci di un sistema solo perché funziona bene nei test. Ciò che conta nella vita è che possiamo tracciare cosa è successo, verificarlo e sapere chiaramente chi è responsabile quando qualcosa va storto. La fiducia deriva dalla possibilità di controllare le decisioni, non di misurare quanto siano accurate.
Essere trasparenti non significa mostrare tutti i meccanismi. Significa che un sistema può dimostrare di aver seguito le regole, utilizzato le informazioni e rimanere nei propri limiti—senza farci credere che sia così per fede.
L'autonomia senza controllo è automazione con un nome più carino.
L'autonomia con controllo diventa un'istituzione. Il vero traguardo non sarà quando le macchine potranno parlare come gli esseri umani.
Sarà quando potranno essere ritenute responsabili delle loro azioni.
$ROBO