Logo Zephyrnet

I data center del Fintech affrontano il “paradosso energetico” della GenAI

Data:

I data center fanno girare il mondo. Questi edifici ospitano i server che archiviano ed elaborano ogni funzione digitale svolta dalle nostre società. Il “cloud” è in gran parte radicato in rack di computer rannicchiati insieme, che a loro volta fanno affidamento su energia, sistemi di raffreddamento e connettività, che copre la gamma di quadri e cavi, dai cavi sottomarini alle trasmissioni satellitari.

L’intelligenza artificiale generativa sta aumentando la domanda di data center, ma rappresenta anche una sfida enorme. I modelli di linguaggio di grandi dimensioni come ChatGPT si affidano alle unità di elaborazione grafica Nvidia per addestrare i modelli di intelligenza artificiale e questi chip sono bestie insaziabili e assetate di energia.

"L'intelligenza artificiale generativa non significa solo aggiungere più rack", ha affermato Steven Lee, direttore di Schneider Electric, specialista in automazione digitale e gestione dell'energia, intervenuto in una recente conferenza. "Sta cambiando il paradigma per i data center."

Dalla finanza al fintech

I data center sono la spina dorsale poco affascinante del fintech e della finanza. Gli ecosistemi più grandi si trovano negli Stati Uniti (Virginia settentrionale e Portland, Oregon), ma lo sono anche Singapore e Hong Kong, grazie al loro ruolo di centri finanziari globali.

Le istituzioni finanziarie sono state i maggiori clienti dei data center in questi hub asiatici, insieme alle società di telecomunicazioni.

Tuttavia, questa situazione sta ora cambiando, poiché emergono nuovi clienti che competono per scaffali e risorse. L'industria non è in grado di costruire abbastanza data center abbastanza velocemente.

L’ondata dell’intelligenza artificiale si sta già abbattendo sull’America e nei prossimi due anni si diffonderà fino ai data center asiatici, afferma Andrew Green di JLL, una società di consulenza immobiliare commerciale.

Il nuovo gruppo di grandi attori sono gli hyperscaler, un termine che include grandi fornitori di servizi cloud e società Internet come AWS, Meta o TikTok. La loro fame di computer sta costringendo i data center a diventare più grandi, più flessibili e più personalizzati.

Sono necessari nuovi data center

Ciò sta cambiando i requisiti di progettazione per i data center. Le banche e gli assicuratori si sono accontentati dei tradizionali data center di co-locazione, che sono più economici perché offrono un’infrastruttura standardizzata. L’iperscala è necessaria per il lavoro ad alta intensità di elaborazione e per un insieme più ampio di applicazioni, inclusi contenuti digitali, social media, streaming video, e-commerce, criptovaluta e pagamenti mobili.

E ora aggiungi genAI all'elenco, che è davvero benzina sul fuoco. Lee afferma che una query ChatGPT consuma 10 volte più energia di una ricerca su Google. Dieci volte!



Ciò si aggiunge a un più ampio passaggio alla digitalizzazione in tutto il mondo, con il Covid che ha rappresentato un importante acceleratore poiché il lavoro e la vita sono diventati remoti. Un esempio: il numero di utenti giornalieri di Microsoft Teams è passato da 20 milioni nel 2019 a 300 milioni nel 2023, afferma Damon Lim di datacenterHawk, società di ricerca immobiliare focalizzata sui data center.

Entro il 2030 ci saranno 7.5 miliardi di persone che utilizzeranno Internet, ovvero circa il 90% della popolazione mondiale. Questa domanda è il motivo per cui probabilmente entro la fine di quest’anno saranno operativi più di 1,000 data center iperscala.

Paradosso o gioco di potere?

Il risultato è un aumento di quattro volte del consumo energetico dei data center da qui al 2028, afferma Lee. “Questo è il paradosso energetico dell’enorme consumo”, ha detto. 

Ma non c’è nulla di paradossale qui: man mano che la società si digitalizza, scopre che i costi energetici per alimentare tale tendenza stanno aumentando in modo esponenziale, quindi “rendere più verdi” i data center è vitale. E la tendenza è globale. Ad esempio, l’utilizzo dell’intelligenza artificiale rappresenta ora circa l’8% del consumo dei data center nel sud-est asiatico. Questa cifra è destinata a più che raddoppiare entro il 2028.

Anche la tendenza si sta diffondendo, il che rende più difficile renderla sostenibile. Se si trattasse solo di data center, l’attenzione verde potrebbe concentrarsi sulle nuove costruzioni o sulla ristrutturazione di edifici esistenti. In effetti, quasi tutti i carichi di lavoro legati all’intelligenza artificiale oggi vengono archiviati ed elaborati centralmente nei data center. Ma sempre più spesso queste attività vengono svolte ai margini, distribuendole vicino alla fonte dei dati (come edifici o macchine, o forse il telefono). Metti l’intelligenza artificiale al primo posto e il fabbisogno energetico continuerà a crescere e a diffondersi.

Gli sviluppatori di data center stanno rispondendo, in teoria, rendendo i rack di server più efficienti dal punto di vista energetico, cambiando i mezzi di raffreddamento dei computer (una sfida particolare per i data center in luoghi caldi e tropicali) e collegandosi a fonti di elettricità che si basano maggiormente sulle energie rinnovabili. .

Ciò che suona bene sulla carta è difficile e costoso da realizzare. I data center non sono stati progettati tenendo presenti queste esigenze.

Rosanna Tang, ricercatrice presso Cushman & Wakefield, una società di consulenza immobiliare, osserva che a Hong Kong il 44% dei data center sono ospitati in vecchi edifici industriali.

Questi centri non sono in grado di gestire lavorazioni pesanti. Potrebbero essere in grado di consumare solo da 10 a 15 kilowatt per rack per soddisfare un'esigenza di elaborazione, mentre le esigenze degli hyperscaler in genere consumano 40 kw/rack e alcuni necessitano fino a 100 kw/rack.

"Avrai bisogno di un'infrastruttura dedicata per fornire quel livello di raffreddamento e supporto energetico", ha affermato Patrick McCreary di Yondr Group, operatore e sviluppatore su vasta scala.

Il caso speciale di Hong Kong

A Hong Kong ciò significa costruire più centri in nuove aree. La maggior parte dei data center della città si trovano a Kowloon, in particolare attorno a un hub a Tseung Kwan O. Ma la promessa della Greater Bay Area e l'integrazione con le vicine città continentali significa che la nuova generazione di data center sarà costruita lungo il confine di Shenzhen, in quello che il governo locale definisce la "metropoli del Nord".

I data center sono particolarmente problematici a Hong Kong a causa della mancanza di terreni disponibili e di affitti straordinari, oltre alle rigide normative sui progetti di costruzione. Green di JLL prevede che man mano che sempre più data center entreranno in funzione, gli hyperscaler divoreranno ogni nuova capacità.

Afferma che gli accordi transfrontalieri di condivisione dei dati stimoleranno la nuova domanda a Singapore e Hong Kong. Nel caso di Singapore, il governo ha infranto alcune regole sulla condivisione dei dati con Johor Bahru in Malesia, lì vicino. Ma lo shock più grande sarà la Greater Bay Area. Green rileva che Hong Kong e le autorità del continente hanno concordato un meccanismo per condividere i dati sulla privacy.

"Senza questo, non potrebbe esserci un GBA", ha detto Green. "Questo è un punto di svolta." Ciò renderà più semplice per le aziende della Cina continentale utilizzare Hong Kong come trampolino di lancio per globalizzare le proprie attività, in qualunque settore.

Ora il settore dei data center svilupperà una vasta capacità per soddisfare la domanda relativa a GBA e intelligenza artificiale. Il settore fintech sarà uno dei beneficiari (e un cliente significativo). Ma questi nuovi siti saranno progettati per massimizzare l’efficienza elettrica e per decarbonizzare? Il track record finora non è incoraggiante e i costi iniziali per diventare green sono relativamente alti. Il settore dei data center, sempre più costruito per la genAI, potrebbe sovraccaricare il disastro climatico tanto quanto l’economia digitale.

spot_img

L'ultima intelligenza

spot_img