Leggi dopo
Amazon sfida Nvidia sui chip, perché la soluzione di Jeff Bezos può cambiare le regole dell’AI
L'azienda inizierà a vendere i suoi processori Trainium3 poiché le aziende di intelligenza artificiale stanno cercando di diversificare la loro fornitura di chip per data center
Amazon.com è l’ultima grande azienda tech a entrare nel territorio dominato da Nvidia. Martedì 2 novembre Amazon Web Services ha annunciato il lancio pubblico del suo chip personalizzato per l’intelligenza artificiale Trainium3, che - secondo l’azienda - è quattro volte più veloce della generazione precedente di chip per l’AI.
Trainium3, prodotto dall’unità di progettazione di chip personalizzati Annapurna Labs di Aws, può ridurre fino al 50% i costi di addestramento e gestione dei modelli di intelligenza artificiale rispetto ai sistemi che utilizzano unità di elaborazione grafica equivalenti, le gpu.
La svolta per una startup dell’Ai
I chip sono pensati per fornire una spina dorsale di potenza di calcolo più solida a sviluppatori software come Dean Leitersdorf, cofondatore e amministratore delegato della startup di video-Ai Decart. Leitersdorf ha detto che la sua azienda ha ottenuto una svolta grazie a Trainium3, dopo aver testato diversi chip concorrenti, compresi i processori Nvidia.
Per mesi, decine di programmatori e ricercatori di intelligenza artificiale della società, con sede a San Francisco, avevano cercato di addestrare una versione dell’applicazione di punta di Decart per la generazione video tramite AI, chiamata Lucy, capace di rendere i filmati in tempo reale, senza bug o interruzioni.
Aws ha concesso a Decart un accesso anticipato a Trainium3 dopo aver incontrato la startup ed essere rimasta colpita dai fondatori. L’azienda era a due settimane dall’inizio di una maratona di programmazione in una casa in affitto nella Silicon Valley quando Leitersdorf si è accorto, durante una chiamata su Zoom, che alcuni suoi dipendenti stavano festeggiando con entusiasmo alle sue spalle.
«Abbiamo visto funzionare tutto»
«Nel momento in cui ha funzionato, ho visto quattro persone iniziare a saltare su e giù», ha raccontato Leitersdorf. «La domanda successiva è stata: quanto rapidamente possiamo portarlo sul mercato e cominciare a cambiare le industrie?»
Il lancio di Trainium3 rappresenta l’ultimo attacco frontale a Nvidia, che domina il mercato delle gpu. Una raffica di accordi negli ultimi mesi ha attirato l’attenzione degli investitori, indicando che sempre più aziende dell’Ai stanno cercando di diversificare i fornitori acquistando chip e hardware anche da soggetti diversi da Nvidia.
Meta Platforms è in trattative con Google per acquistare chip avanzati per l’intelligenza artificiale, noti come Tensor Processing Unit (Tpu), per un valore di miliardi di dollari, ha riportato il Wall Street Journal la scorsa settimana. Nel frattempo, OpenAI ha stretto accordi con il concorrente di Nvidia Amd e con il progettista di chip personalizzati Broadcom per ottenere le enormi quantità di potenza di calcolo necessarie ad addestrare e gestire i suoi modelli di AI più popolari, tra cui ChatGpt e Sora.
Nvidia resta centrale
Il passaggio verso nuovi fornitori di chip non significa che le aziende dell’AI stiano rinunciando ai chip Nvidia. Tutt’altro, come dimostrano i ricavi trimestrali record, l’aumento dei profitti e le solide previsioni comunicate da Nvidia il mese scorso.
In effetti, molti dei principali acquirenti dei chip Aws sono anche clienti di Nvidia. Tra questi spicca Anthropic, che Aws ha dichiarato a fine ottobre utilizzare oltre un milione di chip Trainium2 per costruire e distribuire il suo modello di intelligenza artificiale Claude.
Un mese dopo Nvidia ha annunciato un investimento da 10 miliardi di dollari in Anthropic nell’ambito di un maxi accordo per fornire alla società potenza di calcolo generata dai suoi chip.
Il mercato inizia a diversificare
Tuttavia, la trazione che i nuovi protagonisti stanno acquisendo nel mercato dei chip per l’AI ha rafforzato l’idea che Nvidia potrebbe non mantenere per sempre il suo quasi totale dominio.
Il titolo Nvidia è sceso bruscamente dopo la notizia delle trattative tra Meta e Google. Martedì Aws ha annunciato un robusto gruppo di clienti che, oltre ad Anthropic, include Karakuri, Metagenomi, Neto.ai, Ricoh e Splash Music.
Rispondendo la scorsa settimana alle notizie sui colloqui tra Google e Meta, Nvidia ha scritto su X di essere «felice del successo di Google», aggiungendo però che Nvidia «è una generazione avanti rispetto al settore: è l’unica piattaforma che esegue tutti i modelli di intelligenza artificiale e lo fa ovunque avvenga il calcolo». L’azienda ha affermato che i suoi chip offrono «prestazioni, versatilità e fungibilità superiori» rispetto ai chip personalizzati più specifici prodotti da Google e Aws. Nvidia ha rifiutato di commentare per questo articolo.
L’origine dei chip Aws
Aws ha acquisito la startup israeliana Annapurna Labs nel 2015 e ha iniziato a progettare chip per alimentare i server dei data center Aws, inclusi chip per la sicurezza delle reti, unità di elaborazione centrale e, successivamente, la sua serie di processori per l’AI noti come Inferentia e Trainium.
«Alla fine della giornata, il principale vantaggio è il rapporto prezzo-prestazioni», ha dichiarato Ron Diamant, vicepresidente di Aws e architetto capo dei chip Trainium. Ha aggiunto che il suo obiettivo principale è fornire ai clienti più opzioni per diversi carichi di lavoro computazionale.
«Non vedo il nostro tentativo come una sostituzione di Nvidia», ha detto Diamant.
Chi è Decart
Leitersdorf, 27 anni, ha fondato Decart due anni fa con suo fratello Orian - entrambi dottori di ricerca in informatica cresciuti in Israele e formatisi al Technion-Israel Institute of Technology di Haifa - e con Moshe Shalev, un amico di Dean conosciuto nell’esercito.
Ad agosto Decart, cresciuta da 14 a oltre 80 dipendenti, ha raccolto 100 milioni di dollari da Sequoia Capital, Benchmark, Zeev Ventures e altri investitori, in un round che ha valutato la società 3,1 miliardi di dollari.
Decart ha messo a confronto i chip Aws con altri processori di vertice, compresi quelli prodotti da Nvidia, e ha scoperto che Trainium3 consentiva alla startup di generare video in modo costante con una velocità di fotogrammi al secondo quattro volte superiore rispetto a quella ottenibile con altri chip.
«Prima della svolta riuscivamo a farlo solo per 1,5-2 secondi prima che tutto diventasse rumore sullo schermo», ha detto Leitersdorf. «I modelli si confondevano troppo e tutto si offuscava fino a sparire… Trainium ci ha davvero permesso di far girare un modello più grande, più intelligente e che non va in crash rapidamente». (riproduzione riservata)
- Qual è il potenziale impatto a lungo termine della strategia di Amazon sui prezzi dei chip per AI?
- In che modo la competizione tra Amazon e Nvidia influenzerà l'innovazione nel campo dell'intelligenza artificiale?
- Quali altre aziende potrebbero seguire l'esempio di Amazon creando chip AI personalizzati?
(Translated from the original version by Milano Finanza Editorial Staff)
