Perché HACA continua a farmi tornare indietro
Ultimamente ho guardato un sacco di contenuti sull’IA e, onestamente, quasi tutti finiscono per confondersi dopo un po’. Output migliori. Più funzionalità. Più hype. La stessa conversazione, ancora e ancora.
Poi c’è la HACA di OpenGradient.
La cosa strana è che non sto nemmeno concentrandomi su ciò che produce l’IA. Non è quella la parte che rimbalza nella mia testa. È la parte della verifica. La prova. La possibilità di controllare davvero cosa sia successo invece di accettare qualsiasi cosa appaia sullo schermo.
Sul serio.
La gente tratta come se una risposta sicura meritasse automaticamente fiducia. Non è così. Una risposta può sembrare intelligente. Può sembrare azzeccata. Può perfino sembrare meglio di qualcosa scritto da una persona. Ma tutto questo, da solo, non dimostra nulla.
Aspetta, quasi mi dimenticavo di dirlo. Ogni volta che si parla di IA, la conversazione salta immediatamente alle capacità. Più veloce. Più intelligente. Più cose. Quasi nessuno vuole star lì a parlare di sistemi di prova o di auditabilità perché, rispetto alle demo sfavillanti, sembra terribilmente noioso.
Ma è esattamente lì che va la mia attenzione.
Forse perché la verifica sembra un’infrastruttura vera, invece che marketing. Forse perché parlare di fiducia è facile, ma dimostrarla è molto più difficile. Non lo so. Quello che so è che la HACA di OpenGradient sembra concentrarsi su una domanda che la maggior parte delle persone salta proprio.
Lasciami riformularlo...
Se un sistema di IA mi dà una risposta, non mi basta sapere se sembra convincente. Voglio un modo per sapere che il processo dietro di essa fosse davvero quello che dichiarava. Altrimenti, stiamo praticamente giudicando tutto solo dalle apparenze e sperando che la parte “sotto” non sia spazzatura.
Magari è una cosa noiosa a cui dare importanza. Magari no. Il punto è che continuo a tornare all’idea che la fiducia non dovrebbe comparire dal nulla solo perché un output, in superficie, sembra abbastanza persuasivo, ed è probabilmente per questo che la HACA continua a restarmi in mente.
@OpenGradient #OPG $OPG
Ultimamente ho guardato un sacco di contenuti sull’IA e, onestamente, quasi tutti finiscono per confondersi dopo un po’. Output migliori. Più funzionalità. Più hype. La stessa conversazione, ancora e ancora.
Poi c’è la HACA di OpenGradient.
La cosa strana è che non sto nemmeno concentrandomi su ciò che produce l’IA. Non è quella la parte che rimbalza nella mia testa. È la parte della verifica. La prova. La possibilità di controllare davvero cosa sia successo invece di accettare qualsiasi cosa appaia sullo schermo.
Sul serio.
La gente tratta come se una risposta sicura meritasse automaticamente fiducia. Non è così. Una risposta può sembrare intelligente. Può sembrare azzeccata. Può perfino sembrare meglio di qualcosa scritto da una persona. Ma tutto questo, da solo, non dimostra nulla.
Aspetta, quasi mi dimenticavo di dirlo. Ogni volta che si parla di IA, la conversazione salta immediatamente alle capacità. Più veloce. Più intelligente. Più cose. Quasi nessuno vuole star lì a parlare di sistemi di prova o di auditabilità perché, rispetto alle demo sfavillanti, sembra terribilmente noioso.
Ma è esattamente lì che va la mia attenzione.
Forse perché la verifica sembra un’infrastruttura vera, invece che marketing. Forse perché parlare di fiducia è facile, ma dimostrarla è molto più difficile. Non lo so. Quello che so è che la HACA di OpenGradient sembra concentrarsi su una domanda che la maggior parte delle persone salta proprio.
Lasciami riformularlo...
Se un sistema di IA mi dà una risposta, non mi basta sapere se sembra convincente. Voglio un modo per sapere che il processo dietro di essa fosse davvero quello che dichiarava. Altrimenti, stiamo praticamente giudicando tutto solo dalle apparenze e sperando che la parte “sotto” non sia spazzatura.
Magari è una cosa noiosa a cui dare importanza. Magari no. Il punto è che continuo a tornare all’idea che la fiducia non dovrebbe comparire dal nulla solo perché un output, in superficie, sembra abbastanza persuasivo, ed è probabilmente per questo che la HACA continua a restarmi in mente.
@OpenGradient #OPG $OPG