#opg $OPG @OpenGradient
All’inizio non ci ho preso sul serio.
Dopo anni a vedere l’AI correre avanti e la crypto discutere sui meccanismi di consenso, l'idea che si intersecassero in modo significativo mi sembrava forzata. Due culture diverse. Due ossessioni diverse. Capacità da una parte, verifica dall'altra.
Ma ultimamente sento questo disagio silenzioso.
I sistemi AI stanno diventando sempre più capaci e allo stesso tempo più opachi. Ci fidiamo di output che non possiamo ispezionare, generati da modelli che non gestiamo, ospitati su infrastrutture che non vediamo mai. La maggior parte di noi non sa nemmeno dove avviene l'inferenza. Ci fidiamo solo che sia avvenuta. Che fosse il modello che pensavamo fosse. Che non sia cambiato lievemente.
Forse è troppo severo. Forse la comodità vince semplicemente.
Tuttavia, continuo a tornare alla fragilità di tutto ciò. Un pugno di fornitori controlla la maggior parte del calcolo serio. L'accesso può essere limitato. I termini possono cambiare. In condizioni normali sembra stabile. Sotto pressione? Non ne sono così sicuro.
È qui che le cose iniziano a sembrare scomode.
OpenGradient ($OPG ) sembra vivere in quel livello nascosto, ospitando modelli che eseguono inferenze verificando che sia avvenuto come affermato. Non intelligenza più forte. Intelligenza responsabile. O almeno questa è l'idea.
Ma l'intelligenza aperta su larga scala si scontra rapidamente con gli incentivi. L'apertura confligge con la proprietà. La verifica aggiunge attrito. I sistemi si comportano in modo diverso quando sono sotto stress.
Non sono convinto che questa collisione tra AI e crypto si risolva in modo pulito.
Sospetto solo che la prossima fase non riguardi l'intelligenza dei modelli, ma piuttosto decidere di chi siamo disposti a fidarci per gestirli e se avremo qualche modo per controllare.
All’inizio non ci ho preso sul serio.
Dopo anni a vedere l’AI correre avanti e la crypto discutere sui meccanismi di consenso, l'idea che si intersecassero in modo significativo mi sembrava forzata. Due culture diverse. Due ossessioni diverse. Capacità da una parte, verifica dall'altra.
Ma ultimamente sento questo disagio silenzioso.
I sistemi AI stanno diventando sempre più capaci e allo stesso tempo più opachi. Ci fidiamo di output che non possiamo ispezionare, generati da modelli che non gestiamo, ospitati su infrastrutture che non vediamo mai. La maggior parte di noi non sa nemmeno dove avviene l'inferenza. Ci fidiamo solo che sia avvenuta. Che fosse il modello che pensavamo fosse. Che non sia cambiato lievemente.
Forse è troppo severo. Forse la comodità vince semplicemente.
Tuttavia, continuo a tornare alla fragilità di tutto ciò. Un pugno di fornitori controlla la maggior parte del calcolo serio. L'accesso può essere limitato. I termini possono cambiare. In condizioni normali sembra stabile. Sotto pressione? Non ne sono così sicuro.
È qui che le cose iniziano a sembrare scomode.
OpenGradient ($OPG ) sembra vivere in quel livello nascosto, ospitando modelli che eseguono inferenze verificando che sia avvenuto come affermato. Non intelligenza più forte. Intelligenza responsabile. O almeno questa è l'idea.
Ma l'intelligenza aperta su larga scala si scontra rapidamente con gli incentivi. L'apertura confligge con la proprietà. La verifica aggiunge attrito. I sistemi si comportano in modo diverso quando sono sotto stress.
Non sono convinto che questa collisione tra AI e crypto si risolva in modo pulito.
Sospetto solo che la prossima fase non riguardi l'intelligenza dei modelli, ma piuttosto decidere di chi siamo disposti a fidarci per gestirli e se avremo qualche modo per controllare.