Amazon presentato due nuovi chip incentrati sull’intelligenza artificiale. Nell’ambito dell’evento re:Invent, il gigante tecnologico ha annunciato nuovi sviluppi che raggiungeranno il segmento enterprise attraverso Amazon Web Services (AWS). Una di queste è l’implementazione dei suoi processori Trainium2 e Graviton4sviluppati per scenari di esecuzione di applicazioni basate sull’apprendimento automatico e sull’intelligenza artificiale.
Con l’annuncio dei nuovi chip, Amazon cerca di competere con Microsoft e con i suoi processori Maia 100 e Cobalt 100, recentemente annunciati per i data center. AWS segue un percorso simile e offre soluzioni basate su architettura ARM.
La prima di queste è Trainium2, un chip per l’apprendimento automatico progettato per addestrare modelli generativi di intelligenza artificiale. Secondo Amazon, Trainium2 è quattro volte più veloce del suo predecessore, e offre fino a 200 teraflop di prestazioni. Questi processori sono previsti per essere distribuiti su istanze EC2 UltraClusters di prossima generazione scalabili fino a 100.000 chip.
Amazon ha rivelato che tale array è in grado di addestrare un modello linguistico esteso con 300 miliardi di parametri in poche settimane.. Le imprese risparmieranno il 50% dei costi di implementazione e fino al 29% del consumo energetico. Trainium2 è l’evoluzione della prima generazione di chip per l’apprendimento automatico, introdotta alla fine del 2020 come strategia per aumentare le prestazioni e ridurre la dipendenza dalle istanze basate su GPU.
Uno dei principali beneficiari dell’avvento di questi chip sarà. Antropicola società di intelligenza artificiale fondata da ex dipendenti di OpenAI. Qualche giorno fa, l’azienda ha annunciato Claude 2.1, la nuova versione del suo modello linguistico in grado di elaborare fino a 150.000 parole per input.
Amazon scommette sullo sviluppo di chip proprietari per alimentare le applicazioni AI
Il secondo della lista è Graviton4, un processore ad alte prestazioni destinato a server applicativi, database open source e calcolo ad alte prestazioni. Il chip è composto da 96 core Neoverse V2, 2 MB di cache L2 per core e 12 canali di memoria DDR5-5600. Questo si traduce in un 30 percento di miglioramento delle prestazioni e fino al 75 percento in più di larghezza di banda della memoria..
In termini di sicurezza, i processori Graviton4 sono dotati di crittografia della memoria sempre attiva, cache dedicate per ogni vCPU e supporto per l’autenticazione dei puntatori. Amazon ha confermato che i crittografa tutte le interfacce hardware fisiche ad alta velocità.
“Graviton4 segna la quarta generazione che abbiamo consegnato in soli cinque anni ed è il chip più potente ed efficiente dal punto di vista energetico che abbiamo mai costruito”, ha dichiarato David Brown, direttore di Compute and Networking di AWS. “Con il crescente interesse per l’IA generativa, Trainium2 aiuterà i clienti ad addestrare i loro modelli di ML più velocemente, a costi inferiori e con una migliore efficienza energetica”.
Graviton4 sarà disponibile su istanze EC2 R8g con memoria ottimizzata e sarà supportato da altri servizi AWS come Aurora, ElastiCache, EMR, MemoryDB, OpenSearch e altri ancora. Amazon offrirà l’accesso a una versione di anteprima a partire da oggi, mentre il rilascio globale è previsto nei prossimi mesi.