La ricercatrice etiope Timnit Gebru, co-leader dell’ Ethical Artificial Intelligence team di Google, la scorsa settimana è stata licenziata dalla compagnia a causa di un paper di produzione interna che “non rispettava gli standard di Google”, questo secondo il colosso statunitense.
In realtà, la situazione è molto più complessa e in una lunga intervista concessa a Bloomberg e a Wired, la ricercatrice Gebru ha parlato di come da parte di Google non ci sia stata totale chiarezza sulla motivazione per la quale il paper è stato rifiutato, così come il suo è stato un licenziamento privo di giustificazioni e non l’accettazione di semplici dimissioni a seguito di disguidi.
Ma di cosa parlava l’articolo che doveva essere presentato nel marzo 2021?
Gli autori hanno consentito alla MIT Technology Review di leggerlo e di scriverne un riassunto. Si intitola «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?» e critica fortemente l’utilizzo dei nuovi modelli di elaborazione del linguaggio sviluppati dalle aziende occupate nell’intelligenza artificiale.
Questi modelli sono intelligenze artificiali che vengono addestrate a riconoscere e manipolare il linguaggio naturale usando come base per l’addestramento un’enorme quantità di materiale testuale, che di solito è preso da internet, fornendo risposte competenti e riuscendo ad ottimizzare i sistemi di ricerca (Google usa da tempo il suo sistema BERT).
Il problema, secondo la ricercatrice e gli altri studiosi obbligati a rimuovere la propria firma dal paper, risiede nella possibilità che, non potendo vagliare ogni testo utilizzato sul web, i sistemi vengano addestrati con modelli razzisti, sessisti e violenti. Inoltre, non è detto che il sistema riesca a includere nella propria sistematizzazione gli avanzamenti di linguaggio fatti dai movimenti attuali come Black Lives Matter e MeToo, oltre a favorire la manipolazione del linguaggio piuttosto che la sua comprensione reale.
Nel paper, infine, si parla anche dell’impatto ambientale che tali procedimenti hanno nel corso del loro sviluppo. Addestrare un sistema di questo tipo richiederebbe tanta CO2 quanta un volo di andata e ritorno da San Francisco a New York, e ognuna di queste intelligenze artificiali ha necessità di molti addestramenti per essere perfezionata. Il tutto ad un costo enorme che privilegia le grandi aziende rispetto a quelle più piccole.
Un caso che ha ottenuto un’attenzione mediatica enorme, vista l’importanza e la fama della ricercatrice. Tra i suoi studi più famosi, ce n’è uno estremamente influente pubblicato nel 2018 assieme a Joy Buolamwini a proposito della discriminazione nelle tecnologie di riconoscimento facciale. I sistemi Google riuscivano perfettamente a riconoscere i maschi bianchi, mentre facevano molta fatica con donne di colore. Un problema, quello della discriminazione, che da più voci si è alzato contro Google: sempre la Gebru si era espressa riguardo le discriminazioni di genere che l’azienda perpetra nei confronti dei propri dipendenti, mentre Meredith Whittaker, ricercatrice per l’azienda californiana, l’anno scorso aveva dato le dimissioni dopo aver esposto le proprie remore riguardo i contratti militari di Google e il trattamento discriminante verso il genere femminile in azienda.
Alphabet vs Governo USA
Inoltre, nel corso del 2020, Google si è trovata al centro di un ciclone di proporzioni epiche con protagonista il Governo degli Stati Uniti d’America.
Nel lungo articolo che gli ha dedicato il New York Times, il Governo USA avrebbe, sotto la gestione Trump, avviato una causa Antitrust nei confronti di Alphabet, la società che controlla Google, accusandola di esercitare monopolio rispetto agli altri sistemi di ricerca negli Stati Uniti.
Ciò che il governo vuole indagare è il monopolio delle ricerche online, ormai al 90 per cento eseguite su motori di ricerca Google, che frutta all’azienda californiana circa 34,7 miliardi all’anno (si stima che nel 2022 si arriverà a circa 40 miliardi).
Causa principale del contenzioso sono le ricerca provenienti dai dispositivi Apple che, secondo gli accusatori, derivano dall’accordo di circa 12 miliardi l’anno tra Alphabet e la compagnia di Cupertino per far sì che sui dispositivi della mela, Google sia il sistema di ricerca predefinito.
Alphabet si è difesa con un post sui propri social in cui parlava di “pagare per gli scaffali ad altezza vista nei centri commerciali” ma ciò non pare aver fermato gli Stati Uniti. Nemmeno la fine dell’amministrazione Trump – fanno sapere dal New York Times – metterà un punto a questa storia.
Non è la prima volta che Google affronta cause antitrust potenzialmente miliardarie. Negli ultimi anni è stata multata più volte dalla Commissione Europea per alcune sue strategie di mercato, per un totale di circa 8,2 miliardi di euro.
Per questo, nonostante i legali di Alphabet parlino di tempi biblici (almeno un anno) per far sì che il processo inizi, Google continua a trovarsi nell’occhio di un ciclone, a seguito anche di tutta quella serie di scandali (DataGate) che hanno minato la credibilità e l’affidabilità della compagnia negli ultimi anni, così come di altri colossi dei social media.
Autore
Classe '94 e laureato in Storia all'Università Statale di Milano, ama lo sport e le dinamiche internazionali in ogni loro forma ed espressione. Alla costante ricerca di storie da raccontare che permettano di andare oltre ciò che si pensa di aver capito.
