L’adozione dell’AI nelle aziende sta accelerando, e l’aumento di efficienza atteso con l’introduzione degli agenti, i sistemi capaci di gestire autonomamente dei compiti attingendo ai dati necessari, porterà a un’ulteriore accelerazione. Un uso massivo di modelli AI basati su sistemi cloud pubblici può però portare a costi sensibili, senza parlare delle problematiche di gestione di dati aziendali sensibili, su cui c’è grande attenzione da parte dei vertici societari. Geekom, società cinese con una grande esperienza nella progettazione e costruzione di mini pc, ha indirizzato queste esigenze proponendo un cluster modulare che unisce la potenza di calcolo di quattro pc A9 Mega, ognuno dei quali è dotato di un processore AMD Ryzen AI Max+ 395 che integra ben 16 core Zen 5 e un chip grafico Radeon 8060S, capace di esprimere una potenza di calcolo che può arrivare a 126 teraflops complessivi.

Prestazioni e casi d'uso

L’architettura messa a punto da Geekom è di tipo modulare, in quanto i pc A9 Mega sono collegati tra loro tramite cavi Usb4, evitando così la necessità di switch ad alte prestazioni o rack, mentre l’architettura software basata su Ubuntu, ROCm, e DwarfStar è in grado di distribuire una versione ottimizzata del modello AI DeepSeek V4 Flash tra le macchine grazie anche a un’Api compatibile con OpenAI che connette gli applicativi e gli agenti AI. La soluzione di Geekom consente inoltre alle aziende di partire con una configurazione composta da un singolo A9 Mega per poi ampliare la potenza aggiungendo una o tre macchine in un cluster, con la garanzia di avere sempre non soli i dati, ma anche i codici sorgenti, le credenziali e i risultati dei prompt all’interno dell’infrastruttura aziendale.

L’architettura messa a punto da Geekom assicura inoltre prestazioni elevate, con la capacità di gestire 14,61 token al secondo con una latenza P95 per il primo token di circa 0,42 secondi nei test a 32 e 128 token. Pensato per sostenere con prestazioni elevate prompt complessi, il cluster di Geekom supporta anche analisi del codice sorgente, ricerche da sorgenti multiple e automazioni di workflow. (riproduzione riservata)