E’ la domanda a cui i chatbot non sanno rispondere. In modo preciso. E non solo loro, in questo momento i Big dell’Ai gen sono alquanto timidi quando si discute di sostenibilità e impronta energetica di questa energia. Tanto che non esistono studi che mettono in relazione Gemini Advanced, Gpt4 o Microsoft Copilot con il loro consumo energetico per singola operazione. Un recente articolo di The Verge ha provato a raccogliere quello che sappiamo finora. C’è da dire che in brevissimo tempo i modelli di linguaggio di grandi dimensioni (LLM) sono stati sottoposti a cure dimagranti per diventare meno energivori. E che i nuovi LLM saranno meno “generalisti” e più snelli. Va anche detto l’addestramento di un modello su cui si stanno concentrando numerosi studi è solo una parte del quadro. Dopo la creazione, un sistema viene distribuito ai consumatori che lo utilizzano per generare output, un processo noto come “inferenza”. Ciòpremesso ecco alcuni numeri estratti dall’articolo.
1.300 MWh
Quanto costa addestrare Gpt-3?
Si stima che l’addestramento di un modello linguistico di grandi dimensioni come GPT-3, ad esempio, utilizzi poco meno di 1.300 megawattora (MWh) di elettricità; circa la stessa energia consumata annualmente da 130 case americane. Per contestualizzare il tutto, lo streaming di un’ora di Netflix richiede circa 0,8 kWh (0,0008 MWh) di elettricità. Ciò significa che dovresti guardare 1.625.000 ore per consumare la stessa quantità di energia necessaria per addestrare GPT-3.
2,907 kWh
Quanto consuma generare le immagini? Secondo un studio pubblicato a dicembre firmato da Sasha Luccioni, ricercatrice presso la società di intelligenza artificiale franco-americana Hugging Face con ricercatori della Carnedgie Mellon University il consumo di energia è molto più alto nella produzione di immagini rispetto a quella de testo. Il metodo adottato è stato quello di eseguire test su 88 modelli diversi ripetendo i prompt mille volte e stimando il costo energetico. Il testo richiede 0,002 kWh per classificare e 0,047 kWh per generare testo. Se usiamo come paragone un’ora di streaming di Netflix equivalgono all’energia consumata guardando rispettivamente nove secondi o 3,5 minuti. Le cifre erano notevolmente maggiori per i modelli di generazione di immagini, che utilizzavano in media 2,907 kWh per 1.000 inferenze. Come osserva il documento, lo smartphone medio utilizza 0,012 kWh per caricarsi, quindi la generazione di un’immagine utilizzando l’intelligenza artificiale può utilizzare quasi la stessa quantità di energia della ricarica dello smartphone.
134 TWh
Quanto consuma il settore dell’intelligenza artificiale? Entro il 2027 l’intera industria dell’intelligenza artificiale potrebbe consumare tra gli 85 e i 134 terawattora all’anno. La stima arriva da Alex de Vries, dottorando presso la VU di Amsterdam che su Joule ha calcolato l’impatto in base alle specifiche energetiche dell’hardware di Nvidia (e le relative previsioni di vendita) che rappresenta il 95% del mercato dei chip dell’Ai gen. Una seconda stima da prendere in considerazione è quella dell’Agenzia Internazionale dell’Energia che in un suo report ha calcolato la domanda di elettricità nei data center. L’agenzia afferma che l’attuale consumo energetico dei data center si attesta a circa 460 terawattora nel 2022 e potrebbe aumentare tra i 620 e i 1.050 TWh nel 2026, equivalenti al fabbisogno energetico rispettivamente di Svezia o Germania. A spingere i consumi le criptovalute e l’intelligenza artificiale.
