L’intelligenza artificiale incontra la Laudato si’di Paolo Benanti
La creazione di un singolo modello di intelligenza artificiale può emettere tanta anidride carbonica quanto cinque automobili nell’intero arco della loro vita. Il mondo dell’intelligenza artificiale viene spesso paragonato all’industria petrolifera: una volta estratti e raffinati, i dati, come il petrolio, possono essere un bene molto redditizio. Ora sembra che la metafora possa estendersi ulteriormente. Come la sua controparte dei combustibili fossili, il processo di deep learning ha un impatto ambientale straordinario.
In un recente studio, i ricercatori dell’Università del Massachusetts hanno eseguito una valutazione del ciclo di vita per l’addestramento di diversi modelli comunemente adottati per le ai di grandi dimensioni. I ricercatori hanno calcolato che il processo può emettere più di 284.000 chilogrammi di anidride carbonica — quasi cinque volte le emissioni della vita media di un’auto nel mercato americano — includendo nel calcolo la produzione della stessa auto. È una sconcertante quantificazione di qualcosa che i ricercatori nel mondo delle AI sospettavano da molto tempo. «Mentre probabilmente molti di noi hanno pensato a questo in un livello astratto e vago, le cifre mostrano davvero l’entità del problema», afferma Carlos Gómez-Rodríguez, un informatico dell’Università di La Coruña in Spagna, che non è stato coinvolto nella ricerca. «Né io né altri ricercatori abbiamo mai parlato di ai pensando che l’impatto ambientale fosse sostanziale».
Il documento esamina in particolare il processo di addestramento del modello per l’elaborazione del linguaggio naturale (Nlp), un sottocampo dell’ai che si concentra sul rendere le macchine in grado di gestire il linguaggio umano. Negli ultimi due anni, la comunità dell’Nlp ha raggiunto diversi traguardi importanti per quanto riguarda la traduzione automatica, il completamento delle frasi e altri compiti standard di benchmarking. Il famigerato modello Gpt-2 di OpenAI, per esempio, eccelleva nello scrivere articoli di fake newsmolto convincenti.
Ma tali progressi hanno richiesto la formazione di modelli sempre più grandi su ampie serie di dati ottenuti da frasi prese da internet. L’approccio è computazionalmente costoso e ad alta intensità energetica. I ricercatori hanno esaminato i quattro modelli che hanno prodotto i più grandi miglioramenti nelle prestazioni: Transformer, ELMo, Bert e Gpt-2. Si sono allenati su una singola Gpu per un massimo di un giorno per misurare la potenza assorbita. Hanno quindi utilizzato il numero di ore di addestramento elencate nei documenti originali del modello per calcolare l’energia totale consumata durante l’intero processo di formazione. Questo numero è stato convertito in chili equivalenti di anidride carbonica in base al modo con cui si produce mediamente l’energia negli Stati Uniti, che corrisponde strettamente al mix energetico utilizzato da Aws di Amazon, il più grande fornitore di servizi cloud.
I ricercatori hanno scoperto che i costi computazionali e ambientali dell’addestramento sono cresciuti proporzionalmente alla dimensione del modello e poi sono esplosi quando sono stati utilizzati ulteriori passaggi di messa a punto per aumentare la precisione finale del modello. In particolare, hanno scoperto che un processo di sintonizzazione noto come ricerca dell’architettura neurale, che cerca di ottimizzare un modello modificando in modo incrementale la progettazione di una rete neuronale attraverso prove ed errori esaurienti, ha avuto costi associati straordinariamente elevati per un piccolo beneficio prestazionale. Senza di esso, il modello più costoso, il Bert, aveva un’impronta di carbonio di circa 640 chilogrammi equivalenti di anidride carbonica, una cifra vicina a un volo nazionale di andata e ritorno negli Stati Uniti per una persona.
Inoltre, i ricercatori annotano che le cifre dovrebbero essere considerate solo come consumi di base. «La formazione di un singolo modello è la quantità minima di lavoro che si può fare», afferma Emma Strubell, una dottoranda presso l’Università del Massachusetts, e autrice principale del documento. In pratica, è molto più probabile che gli sviluppatori di AI sviluppino un nuovo modello da zero o adattino un modello esistente a un nuovo set di dati, ognuno dei quali può richiedere molti altri cicli di allenamento e messa a punto.
Per comprendere meglio come potrebbe apparire la pipeline di sviluppo completo in termini di emissioni di anidride carbonica, Strubell e i suoi colleghi hanno utilizzato un modello che avevano prodotto in un precedente articolo come caso di studio. Hanno scoperto che il processo di costruzione e test di un modello finale richiedeva l’addestramento di 4.789 modelli per un periodo di sei mesi. Convertito in equivalente Co2, ha emesso più di 35.000 chilogrammi di Co2 ed è probabilmente rappresentativo del consumo tipico in questo campo.
Il significato di questi dati è impressionante, specialmente se si considerano le tendenze attuali nella ricerca sull’intelligenza artificiale. «In generale, gran parte delle ultime ricerche sull’AI trascura l’efficienza, in quanto reti neurali di grandi dimensioni si sono rivelate utili per una varietà di compiti, e le aziende e le istituzioni che hanno accesso abbondante alle risorse computazionali possono sfruttare questo per ottenere un vantaggio competitivo», dice Gómez-Rodríguez. Questo tipo di analisi doveva essere fatto per aumentare la consapevolezza delle risorse che vengono spese (…) ed è destinato a suscitare un dibattito».
I risultati sottolineano anche un altro problema crescente nell’AI: la semplice intensità delle risorse ora necessarie per produrre risultati degni di pubblicazione ha reso sempre più difficile per le persone che lavorano nel mondo accademico continuare a contribuire alla ricerca.
«Questa tendenza alla formazione di enormi modelli su tonnellate di dati non è fattibile per gli studenti universitari, specialmente perché non abbiamo le risorse computazionali», dice Strubell. «Quindi c’è un problema di equità di accesso tra i ricercatori del mondo accademico e i ricercatori dell’industria».
Strubell e i suoi coautori sperano che i loro colleghi prestino attenzione ai risultati del lavoro e contribuiscano a livellare le condizioni investendo nello sviluppo di hardware e algoritmi più efficienti. Il rischio è che le risorse necessarie producano due direzioni di ricerca. Una accademica che mantiene alcuni standard ma non ha risorse per produrre risultati, l’altra, affidata ai privati, che ha mezzi ma non segue standard o modalità che caratterizzano normalmente la ricerca accademica.
Nella lettura dell’enciclica Laudato si’ troviamo venti riferimenti espliciti alla tecnologia. La parola tecnologia ricorre dapprima nella parte iniziale del testo, ove ci si sofferma sull’analisi del problema ecologico per comprendere quello che sta accadendo alla nostra casa (nn. 16, 20, 34 – 2 volte, 54 – 2 volte), successivamente nel terzo capitolo ove si cerca la radice umana del problema ecologico (nn. 102 – 3 volte, 104 – 2 volte, 105, 106 – 2 volte, 109, 110, 113, 114 e 132) e una sola volta all’interno del capitolo che si occupa di offrire alcune linee di orientamento e di azione (n. 165). Due volte (nn. 103 e 107) si preferisce usare il termine tecnoscienza piuttosto che tecnologia. Tuttavia la nostra indagine non sarebbe completa se non riportassimo come nel connettere agire umano, tecnologia e problema ecologico il Pontefice accosti al sostantivo tecnologia l’aggettivo tecnocratico che ricorre sette volte — tutte nel terzo capitolo — e che descrive un certo atteggiamento interiore dell’uomo e una sua intenzionalità nel relazionarsi con la tecnologia dai toni foschi e negativi.
L’analisi che la Laudato si’ offre della tecnologia rispecchia quell’ambiguità dello strumento tecnico che è emersa nell’intersezione tra ecologia e tecnologia. Dobbiamo riconoscere che l’umanità è entrata in una nuova era in cui la potenza della tecnologia ci pone di fronte a un bivio. Siamo gli eredi di due secoli di enormi ondate di cambiamento (…). È giusto rallegrarsi per questi progressi ed entusiasmarsi di fronte alle ampie possibilità che ci aprono queste continue novità, perché «la scienza e la tecnologia sono un prodotto meraviglioso della creatività umana che è un dono di Dio». La trasformazione della natura a fini di utilità è una caratteristica del genere umano fin dai suoi inizi, e in tal modo la tecnica «esprime la tensione dell’animo umano verso il graduale superamento di certi condizionamenti materiali». La tecnologia ha posto rimedio a innumerevoli mali che affliggevano e limitavano l’essere umano (n. 102).
Tuttavia non possiamo ignorare che le capacità che abbiamo acquisito ci offrono un tremendo potere. Anzi, danno a coloro che detengono la conoscenza e soprattutto il potere economico per sfruttarla un dominio impressionante sull’insieme del genere umano e del mondo intero. Mai l’umanità ha avuto tanto potere su sé stessa e niente garantisce che lo utilizzerà bene, soprattutto se si considera il modo in cui se ne sta servendo (n. 104).
Il problema della tecnica è un problema di fini da scegliere per orientare l’utilizzo dei mezzi tecnici. Solo se la tecnica è orientata verso la realizzazione di valori umanamente qualificati e umanizzanti il suo utilizzo sarà rispettoso dell’uomo e dell’ambiente. I fini cui si pone a servizio lo strumento tecnologico sono i soli in grado di giustificare eticamente i mezzi tecnici e il loro utilizzo (cfr. n. 103). Tuttavia non di rado assistiamo a una ricerca del potere tecnico che sembra essere asseverato al potere in sé: quando il progresso tecnico non è animato da una ricerca del bene comune e della realizzazione di valori moralmente qualificati difficilmente diviene sviluppo, esponendo l’umanità a un cieco arbitrio (cfr. n. 105).
A questo livello, ripercorrendo lo sviluppo della Laudato si’, si svela la vera natura del problema tecnologico: il problema fondamentale riguarda il modo in cui di fatto l’umanità ha assunto la tecnologia e il suo sviluppo insieme a un paradigma omogeneo e unidimensionale. In tale paradigma risalta una concezione del soggetto che progressivamente, nel processo logico-razionale, comprende e in tal modo possiede l’oggetto che si trova all’esterno. Tale soggetto si esplica nello stabilire il metodo scientifico con la sua sperimentazione, che è già esplicitamente una tecnica di possesso, dominio e trasformazione. È come se il soggetto si trovasse di fronte alla realtà informe totalmente disponibile alla sua manipolazione. L’intervento dell’essere umano sulla natura si è sempre verificato, ma per molto tempo ha avuto la caratteristica di accompagnare, di assecondare le possibilità offerte dalle cose stesse. Si trattava di ricevere quello che la realtà naturale da sé permette, come tendendo la mano. Viceversa, ora ciò che interessa è estrarre tutto quanto è possibile dalle cose attraverso l’imposizione della mano umana, che tende a ignorare o a dimenticare la realtà stessa di ciò che ha dinanzi. Per questo l’essere umano e le cose hanno cessato di darsi amichevolmente la mano, diventando invece dei contendenti. Da qui si passa facilmente all’idea di una crescita infinita o illimitata, che ha tanto entusiasmato gli economisti, i teorici della finanza e della tecnologia. Ciò suppone la menzogna circa la disponibilità infinita dei beni del pianeta, che conduce a “spremerlo” fino al limite e oltre il limite. Si tratta del falso presupposto che «esiste una quantità illimitata di energia e di mezzi utilizzabili, che la loro immediata rigenerazione è possibile e che gli effetti negativi delle manipolazioni della natura possono essere facilmente assorbiti» (n. 106).
Il problema, continua il documento, è la mentalità tecnocratica dominante che concepisce tutta le realtà come un oggetto illimitatamente manipolabile. Questo è un riduzionismo che coinvolge tutte le dimensioni della vita. La tecnologia non è neutrale: opera «scelte attinenti al tipo di vita sociale che si intende sviluppare» (n. 107). Il paradigma tecnocratico domina anche l’economia e la politica; in particolare, «l’economia assume ogni sviluppo tecnologico in funzione del profitto. (…) Il mercato da solo però non garantisce lo sviluppo umano integrale e l’inclusione sociale» (n. 109). Fare affidamento solo sulla tecnica per risolvere ogni problema significa «nascondere i veri e più profondi problemi del sistema mondiale» (n. 111), visto «che il progresso della scienza e della tecnica non equivale al progresso dell’umanità e della storia» (n. 113).
Appare così come ci sia bisogno di una «coraggiosa rivoluzione culturale» (n. 114) per recuperare i valori e la percezione di ciò che è importante nel processo di trasformazione tecnologica. Quando la tecnologia diventa strumento di attuazione del pensiero unico, di quello che il Pontefice definisce pensiero tecnocratico, allora la sua natura si perverte e diviene strumento di disumanizzazione e di distruzione della casa comune saccheggiandola, danneggiandola irreparabilmente e configurandosi come attuazione efficientissima del danno ecologico.
Da questa lettura della Laudato si’ emerge come il testo magisteriale faccia sua la tensione interna del mondo della tecnologia. La risposta che il testo di Francesco offre ai cristiani e agli uomini di buona volontà per farsi carico della gestione e dell’utilizzo della tecnica è nella forma del discernimento e dialogo. Il magistero di Francesco non pretende di risolvere queste tensioni dando linee o direttive da seguire in forza al ruolo o a un principio di autorità ma si fa carico della complessità del problema, indicando la necessità di una comunione di intenti e di dialogo per trovare soluzioni condivise in grado di orientare la tecnologia e il suo progresso verso il bene comune in forme di autentico sviluppo umano.
Alla luce di tutto questo bisogna auspicare, in modo particolare, una «governance delle intelligenze artificiali». In questo momento sono due i grandi modelli di sviluppo di questi sistemi: quello statunitense e quello cinese: è importante «tornare a quella che è la radice del nostro modo di essere Europa ed essere Occidente, cioè la piazza: la piazza attorno a cui nasceva la polis, il luogo dove le diverse competenze si confrontano cercando di codificare quello che sta accadendo e dandosi dei regolamenti per indirizzarlo verso quello che capiscono essere il bene comune.
La governance delle intelligenze artificiali significa creare questi contesti in cui lo sviluppo, come dicono i documenti del magistero papale, possa diventare reale progresso, dove si possa fare attenzione, per parafrasare Papa Francesco, a quella ecologia integrale, a quella complessità sociale che riguarda le relazioni degli uomini, soprattutto non schiacciando i deboli e gli ultimi.