L'ultimo episodio del podcast di Lex Fridman (#494) presenta una profonda conversazione con il CEO di NVIDIA Jensen Huang, della durata di circa 2,5 ore, incentrata su come NVIDIA sia diventata la società più preziosa al mondo con un valore di mercato di circa 4 trilioni di dollari e sul suo ruolo come motore della rivoluzione AI.

1. Progettazione ingegneristica e di sistema di NVIDIA (Extreme Co-Design & Rack-Scale Engineering)

Jensen Huang ha sottolineato che NVIDIA è passata da una semplice azienda di chip a un "design collaborativo estremo" (extreme co-design), integrando GPU, CPU, memoria, rete, archiviazione, alimentazione, raffreddamento, software, rack e persino l'intero centro dati. I problemi di AI non sono più adatti a un singolo computer, ma richiedono calcolo distribuito, ristrutturazione degli algoritmi e ottimizzazione della rete. Ha menzionato la legge di Amdahl: se il calcolo rappresenta solo il 50% del carico di lavoro, anche se il calcolo viene accelerato all'infinito, il miglioramento globale può essere solo di 2 volte. Questo ha spinto NVIDIA a effettuare ottimizzazioni complete, superando il rallentamento della legge di Moore.

2. Come gestisce Jensen Huang NVIDIA

Ha circa 60 collaboratori diretti, tutti esperti di alto livello nei loro rispettivi campi (memoria, CPU, ottica, GPU, algoritmi, ecc.). Non ci sono riunioni one-to-one, tutte le questioni vengono discusse in gruppo, affrontate insieme. La struttura organizzativa di NVIDIA è come una “macchina per produrre AI”. Spinge per scommesse importanti attraverso un lungo “modellare i sistemi di credenze”, come quando si è investito tutto in CUDA (anche a costo di perdite a breve termine) e nella decisione di acquisire Mellanox. Il concetto chiave: partire dai principi primi, limitare il design alle leggi fisiche con un “pensiero alla velocità della luce”, perseguire “complessità necessaria, ma il più semplice possibile”. Apprezza il progetto Colossus di Elon Musk (costruire rapidamente un cluster di 200.000 GPU), considerandolo un esempio di pensiero sistemico e senso di urgenza.

3. Leggi di scalabilità AI

Jensen Huang è convinto che l'intelligenza si basa principalmente sulla scalabilità della potenza di calcolo. Attualmente ci sono quattro fasi:

• Pre-addestramento (dimensione del modello + dati)

• Post-addestramento (dati sintetici)

• Calcolo durante il test (ragionamento) (processo di “pensiero” dell'AI, intensivo in termini di calcolo)

• Scalabilità agentica (AI genera sottogruppi intelligenti, utilizza strumenti, crea cicli)

Prevede che in futuro il ragionamento e gli agenti saranno più importanti del pre-addestramento; l'AI utilizzerà strumenti, documenti e ricerche come un “lavoratore digitale”. NVIDIA ha previsto due anni prima un percorso simile a OpenAI 0.1 e ha supportato nuove architetture come MoE e sparsità attraverso l'evoluzione continua di CUDA (già alla versione 13.x).

4. Principali colli di bottiglia nello sviluppo dell'AI e risposte

• Catena di approvvigionamento: NVIDIA “modella” attivamente la catena di approvvigionamento, informando i partner come TSMC, SK Hynix, ASML sulla domanda futura (memoria HBM, pacchetti CoWoS, ecc.) con anni di anticipo, costruendo fiducia e senza grandi preoccupazioni.

• Memoria: ridurre la dipendenza dai dati umani attraverso dati sintetici.

• Energia: una delle sfide maggiori, ma viene affrontata attraverso la distribuzione dinamica della potenza, utilizzando la capacità non utilizzata della rete elettrica (la rete è al di sotto del picco per il 99% del tempo) e contratti per “degradazione elegante” (riduzione delle prestazioni durante i picchi piuttosto che spegnimento). L'obiettivo è migliorare drasticamente l'efficienza “token per secondo / watt” ogni anno.

5. Il vantaggio competitivo di NVIDIA (Moat)

Jensen Huang ritiene che il maggiore vantaggio competitivo sia la base installata di CUDA (milioni di sviluppatori, accumulo di enormi quantità di software). Non è solo una questione tecnica, ma il risultato di 20 anni di sforzi congiunti di 43.000 dipendenti e della comunità degli sviluppatori. Gli sviluppatori credono che NVIDIA continuerà a iterare (da CUDA 1 a 13), quindi sono disposti a costruire il proprio stack software su di essa. In futuro, il vantaggio competitivo si estenderà anche alle “fabbriche AI” - sistemi di calcolo su scala planetaria.

6. Cina, TSMC e temi geopolitici

Valuta molto positivamente il successo della Cina nel campo dell'AI: ha circa il 50% dei ricercatori AI a livello globale, sta cogliendo il momento giusto nell'era del software, con una forte competizione a livello provinciale e una cultura di “nazione costruttrice” guidata dagli ingegneri, insieme ai legami familiari/di classe che promuovono la condivisione open source, rendendola il paese più innovativo al momento. TSMC è considerata una delle più grandi aziende nella storia dell'umanità, con un vantaggio competitivo basato sulla tecnologia e sulla capacità di coordinare dinamicamente centinaia di clienti (senza contratti, ma con affari da migliaia di miliardi di dollari). È stato invitato a diventare CEO di TSMC, ma ha scelto di concentrarsi su NVIDIA.

7. NVIDIA raggiungerà i 10 trilioni di dollari in futuro?

Jensen Huang crede che la crescita sia “estremamente probabile e inevitabile nella mente”. Il calcolo sta passando da “retrieval-based” (archiviazione di file, raccomandazioni) a “generative” (produzione in tempo reale di token ricchi di contesto, come una fabbrica). L'AI genererà un'economia di token, con prezzi dei token che variano da gratuito a diversi migliaia di dollari/milione, il PIL globale accelererà e la quota di calcolo nel PIL potrebbe crescere di centinaia di volte. Non ci sono limiti fisici che impediscano a NVIDIA di diventare un'azienda da migliaia di miliardi di dollari; la chiave è l'immaginazione umana.

8. AGI, futuro della programmazione e impatto sociale

• AGI: Jensen Huang offre una definizione pratica - un'AI capace di “avviare, crescere e gestire un'azienda tecnologica di valore oltre un miliardo di dollari”. Crede che “abbiamo già raggiunto l'AGI” (I think it’s now). L'AI è in grado di creare applicazioni virali, ma la grande orchestrazione (come costruire NVIDIA) richiede ancora l'intervento umano.

• Programmazione e occupazione: l'AI automatizzerà i compiti, ma non sostituirà lo scopo professionale. Ad esempio: dopo che l'AI ha superato la visione umana, il numero di radiologi è aumentato (diagnosi più rapide, in grado di servire più pazienti). La programmazione passerà da “scrivere codice” a “specificare requisiti + creazione artistica”, abbassando la soglia, potenzialmente espandendosi da 30 milioni di programmatori a 1 miliardo. Suggerisce a tutti di acquisire rapidamente competenze nell'uso dell'AI; chi sa usare l'AI avrà un vantaggio.

• Gioco: ha discusso di GeForce, DLSS 5 (comprende il lamento dei giocatori riguardo alla “qualità scadente dell'AI”, ma sottolinea che è un miglioramento reale guidato in 3D), giochi classici (come Doom) e cultura dei mod.

9. Filosofia e livello personale

• Consapevolezza: l'AI può simulare percezione, ragionamento, pianificazione, ma non può realmente “sentire” ansia, dolore e altre esperienze soggettive. L'intelligenza è una merce funzionale, ma l'umanità (compassione, generosità, resilienza) è il superpotere.

• Morte e eredità: tiene molto alla vita e non vuole morire (“ho una vita straordinaria, una famiglia e un lavoro importante”), ma non fa piani di successione tradizionali, piuttosto trasmette continuamente conoscenza ogni giorno, “morendo sul campo”. Spera di risolvere problemi come malattie e inquinamento attraverso l'AI e ha fiducia nella bontà e nelle capacità umane.

Questo episodio dell'intervista è molto tecnico (ingegneria a livello di stack, risoluzione di colli di bottiglia), ma è anche pieno di ottimismo e attenzione umanistica. Jensen Huang mostra un forte pensiero basato sui principi primi, un approccio a lungo termine e fiducia nel team/nell'ecosistema, descritto da Lex come “una delle persone più intelligenti e riflessive”.