Tecnologia AI dietro ChatGPT costruita in Iowa utilizzando molta acqua

DES MOINES, IOWA —

Il costo della creazione di un prodotto di intelligenza artificiale come ChatGPT può essere difficile da misurare.

Ma una cosa di cui OpenAI, sostenuta da Microsoft, aveva bisogno per la sua tecnologia era molta acqua, estratta dallo spartiacque dei fiumi Raccoon e Des Moines nell’Iowa centrale per raffreddare un potente supercomputer mentre aiutava a insegnare ai suoi sistemi di intelligenza artificiale come imitare la scrittura umana.

Mentre si affrettano a trarre vantaggio dalla mania per l’intelligenza artificiale generativa, i principali sviluppatori tecnologici, tra cui Microsoft, OpenAI e Google, hanno riconosciuto che la crescente domanda per i loro strumenti di intelligenza artificiale comporta costi elevati, dai costosi semiconduttori all’aumento del consumo di acqua.

Ma sono spesso riservati sui dettagli. Poche persone in Iowa sapevano del suo status di luogo di nascita del modello linguistico di grandi dimensioni più avanzato di OpenAI, GPT-4, prima che un alto dirigente di Microsoft affermasse in un discorso che “è stato letteralmente realizzato vicino ai campi di grano a ovest di Des Moines”.

Costruire un modello linguistico di grandi dimensioni richiede l’analisi di modelli attraverso un’enorme quantità di testi scritti da esseri umani. Tutto questo calcolo richiede molta elettricità e genera molto calore. Per mantenerlo fresco nelle giornate calde, i data center devono pompare acqua, spesso in una torre di raffreddamento all’esterno dei suoi edifici grandi come magazzini.

Nel suo ultimo rapporto ambientale, Microsoft ha rivelato che il consumo globale di acqua è aumentato del 34% dal 2021 al 2022 (fino a quasi 1,7 miliardi di galloni, ovvero più di 2.500 piscine olimpioniche), un forte aumento rispetto agli anni precedenti a cui i ricercatori esterni attribuiscono la sua ricerca sull’intelligenza artificiale.

“È giusto dire che la maggior parte della crescita è dovuta all’intelligenza artificiale”, compresi “i suoi pesanti investimenti nell’intelligenza artificiale generativa e la partnership con OpenAI”, ha affermato Shaolei Ren, ricercatore presso l’Università della California, Riverside, che ha cercato di calcolare l’impatto ambientale dei prodotti di intelligenza artificiale generativa come ChatGPT.

In un articolo che sarà pubblicato entro la fine dell’anno, il team di Ren stima che ChatGPT ingoia 500 millilitri di acqua (vicino a quello che c’è in una bottiglia d’acqua da 16 once) ogni volta che gli fai una serie da 5 a 50 suggerimenti o domande. L’intervallo varia a seconda di dove si trovano i server e della stagione. La stima include l’utilizzo indiretto di acqua che le aziende non misurano, ad esempio per raffreddare le centrali elettriche che forniscono elettricità ai data center.

“La maggior parte delle persone non è consapevole dell’utilizzo delle risorse alla base di ChatGPT”, ha affermato Ren. “Se non sei consapevole dell’utilizzo delle risorse, non possiamo in alcun modo aiutarti a preservarle.”

Nello stesso periodo Google ha registrato una crescita del 20% nell’uso dell’acqua, che anche Ren attribuisce in gran parte al suo lavoro sull’intelligenza artificiale. Il picco di Google non è stato uniforme: è stato stabile in Oregon, dove il suo consumo di acqua ha attirato l’attenzione del pubblico, mentre è raddoppiato fuori Las Vegas. C’era sete anche in Iowa, dove i data center di Council Bluffs attingevano più acqua potabile che altrove.

In risposta alle domande dell’Associated Press, Microsoft ha dichiarato in una dichiarazione questa settimana che sta investendo nella ricerca per misurare l’energia e l’impronta di carbonio dell’intelligenza artificiale “mentre lavora su modi per rendere i sistemi di grandi dimensioni più efficienti, sia nella formazione che nell’applicazione”.

“Continueremo a monitorare le nostre emissioni, ad accelerare i progressi, aumentando al tempo stesso l’uso di energia pulita per alimentare i data center, acquistando energia rinnovabile e altri sforzi per raggiungere i nostri obiettivi di sostenibilità di essere carbon negative, water positive e zero rifiuti entro il 2030”, ha affermato. si legge nel comunicato della società.

OpenAI ha fatto eco a questi commenti nella sua dichiarazione di venerdì, affermando che sta prestando “considerevole riflessione” al miglior utilizzo della potenza di calcolo.

“Riconosciamo che la formazione di modelli di grandi dimensioni può comportare un dispendio energetico e idrico” e lavoriamo per migliorare l’efficienza, ha affermato.

Microsoft ha effettuato il suo primo investimento da 1 miliardo di dollari in OpenAI con sede a San Francisco nel 2019, più di due anni prima che la startup introducesse ChatGPT e suscitasse interesse in tutto il mondo per i progressi dell’intelligenza artificiale. Come parte dell’accordo, il colosso del software fornirebbe la potenza di calcolo necessaria per addestrare i modelli di intelligenza artificiale.

Per svolgere almeno una parte di questo lavoro, le due società si sono rivolte a West Des Moines, Iowa, una città di 68.000 abitanti dove Microsoft ha accumulato data center per alimentare i suoi servizi di cloud computing da oltre un decennio. Il quarto e il quinto data center dovrebbero essere aperti lì entro la fine dell’anno.

“Li stanno costruendo il più velocemente possibile”, ha detto Steve Gaer, che era il sindaco della città quando Microsoft arrivò in città. Gaer ha detto che la società è stata attratta dall’impegno della città nella costruzione di infrastrutture pubbliche e ha contribuito con una somma di denaro “sbalorditiva” attraverso il pagamento delle tasse a sostegno di tale investimento.

“Ma, sai, erano piuttosto riservati su quello che stavano facendo là fuori”, ha detto.

Microsoft ha inizialmente affermato che avrebbe sviluppato uno dei supercomputer più potenti al mondo per OpenAI nel 2020, rifiutandosi di rivelare la sua posizione all’AP in quel momento ma descrivendolo come un “sistema unico” con oltre 285.000 core di semiconduttori convenzionali e 10.000 processori grafici – un tipo di chip diventato cruciale per i carichi di lavoro dell’intelligenza artificiale.

Gli esperti hanno affermato che può avere senso “preaddestrare” un modello di intelligenza artificiale in un unico luogo a causa delle grandi quantità di dati che devono essere trasferiti tra i core di calcolo.

Solo alla fine di maggio il presidente di Microsoft, Brad Smith, ha rivelato di aver costruito il suo “data center di supercalcolo AI avanzato” in Iowa, esclusivamente per consentire a OpenAI di addestrare quello che è diventato il suo modello di quarta generazione, GPT-4. Il modello ora alimenta le versioni premium di ChatGPT e alcuni dei prodotti Microsoft e ha accelerato il dibattito sul contenimento dei rischi sociali dell’intelligenza artificiale.

“È stato realizzato da questi straordinari ingegneri in California, ma in realtà è stato realizzato in Iowa”, ha detto Smith.

In un certo senso, West Des Moines è un luogo relativamente efficiente per addestrare un potente sistema di intelligenza artificiale, soprattutto se paragonato ai data center di Microsoft in Arizona, che consumano molta più acqua a parità di domanda informatica.

“Quindi, se stai sviluppando modelli di intelligenza artificiale all’interno di Microsoft, dovresti programmare la tua formazione in Iowa anziché in Arizona”, ha detto Ren. “In termini di formazione, non c’è differenza. In termini di consumo di acqua o di consumo energetico, c’è una grande differenza”.

Per gran parte dell’anno, il clima dell’Iowa è abbastanza fresco da consentire a Microsoft di utilizzare l’aria esterna per mantenere il corretto funzionamento del supercomputer e sfogare il calore fuori dall’edificio. Solo quando la temperatura supera i 29,3 gradi Celsius (circa 85 gradi Fahrenheit) preleva l’acqua, ha affermato la società in una nota pubblica.