#openledger $OPEN Ieri sera ho ripreso a tradare @OpenLedger #whitepaper e mi sono reso conto di un problema che prima avevo trascurato.

Molti parlano di attribuzione dei dati, dicendo che l'IA finalmente può sapere “chi ha contribuito al valore”. Maggiore è il contributo, maggiore è il premio di $OPEN . Suona davvero logico, quasi ideale.

Ma mi sono bloccato quando ho letto una frase.

Nel whitepaper si menziona che il meccanismo di attribuzione può anche “punire i dati di bassa qualità”, per ridurre pregiudizi e disinformazione.

Il problema in realtà inizia da qui.

Perché se il sistema può calcolare “contributi negativi”, non significa che sappia realmente se quella persona è malintenzionata. Errori di modello, dati rumorosi, o addirittura opinioni minoritarie, possono essere considerati dal algoritmo come “sbagliati”. Ma una volta che il punteggio inizia a influenzare i profitti, il meccanismo di attribuzione non è solo uno strumento di ricompensa, ma diventa lentamente un strumento di giudizio.

Ciò che mi preoccupa di più non è la tecnologia, ma l'assenza quasi totale di “spiegazioni” nel processo.

Se in futuro le reti IA iniziano davvero a distribuire valore in modo automatico e a punire i dati con punteggi bassi, chi viene giudicato erroneamente dal sistema avrà la possibilità di fare appello? C'è qualcuno che verifica? O è solo una riga di codice a decidere chi deve essere penalizzato nei profitti?

A dire la verità, penso che molti progetti di IA oggi si fidino troppo dell'“efficienza”.

Ma l'efficienza, a volte, è davvero lontana dalla giustizia. #OpenLedger