Rifugiata dall’Etiopia, prima donna nera con un dottorato in informatica a Stanford. Ha provato che il riconoscimento facciale sbagliava molto di più su donne e persone nere. Il suo licenziamento da Google ha fatto scandalo nel mondo. La sua lezione è cruciale per ogni azienda che usa l’AI.
Breaking news: Il 30 settembre 2026, a Stoccolma, la fondazione Right Livelihood ha annunciato i vincitori del premio che il mondo conosce come il “Nobel alternativo”. Tra loro c’è Timnit Gebru, ricercatrice etiope-statunitense, premiata per il suo lavoro sui rischi sociali e ambientali dell’intelligenza artificiale e, soprattutto, per aver sfidato la concentrazione di potere nelle mani di pochi colossi tecnologici.
È un riconoscimento che pesa, e non solo per il prestigio. Perché Gebru non è arrivata fin qui dai salotti dell’accademia, ma dal cuore stesso di quelle aziende che oggi contribuisce a tenere sotto esame. E il prezzo, quel “no” lo ha pagato di persona.
Per capire perché una ricercatrice che studia i pregiudizi nascosti negli algoritmi sia finita accanto a chi combatte autocrazie e discriminazioni, bisogna tornare indietro di qualche anno, a un’email che le costò il posto in una delle più potenti aziende del pianeta.
Nel dicembre 2020, una delle ricercatrici più rispettate al mondo nel campo dell’etica dell’intelligenza artificiale lasciò Google in circostanze che fecero scalpore in tutto il mondo. Alcuni dissero che fu licenziata, altri che si dimise. Il motivo del conflitto era un articolo scientifico che l’azienda voleva ritirare. Il caso di Timnit Gebru divenne un simbolo internazionale di una domanda scomoda: cosa succede quando la ricerca sull’etica dell’AI entra in conflitto con gli interessi commerciali di chi l’AI la produce?
Per capire l’importanza di Gebru, bisogna conoscere il suo percorso, che è di per sé straordinario. Nata ad Addis Abeba da una famiglia eritrea, fuggì dall’Etiopia durante la guerra tra i due paesi negli anni Novanta, arrivando negli Stati Uniti come rifugiata adolescente. Studiò ingegneria a Stanford, dove divenne la prima donna nera a ottenere un dottorato nel dipartimento di informatica. Un percorso che racconta insieme talento straordinario e determinazione contro ogni ostacolo.
La stessa tecnologia, venduta come «neutra» e «oggettiva», era in realtà profondamente diseguale
Il contributo che ha reso Gebru celebre nel mondo scientifico è uno studio del 2018, condotto insieme a Joy Buolamwini, intitolato Gender Shades. Fu una di quelle ricerche che cambiano il modo in cui pensiamo una tecnologia. Gebru e Buolamwini misero alla prova i sistemi commerciali di riconoscimento facciale, quelli venduti dalle grandi aziende tecnologiche – per verificarne l’accuratezza su volti diversi.
I risultati furono impressionanti e allarmanti. I sistemi funzionavano quasi perfettamente su un tipo di volto: quello degli uomini dalla pelle chiara, con tassi di errore inferiori all’1%. Ma su altri volti fallivano clamorosamente. Sulle donne dalla pelle scura, il tasso di errore arrivava fino al 34%. Trentaquattro per cento contro meno dell’uno. La stessa tecnologia, venduta come «neutra» e «oggettiva», era in realtà profondamente diseguale: funzionava benissimo per alcuni e malissimo per altri.
Come era possibile? La spiegazione è al cuore del lavoro di Gebru, e riguarda ogni sistema di intelligenza artificiale. I sistemi di AI imparano dai dati con cui vengono addestrati. Se questi dati sono sbilanciati, se, per esempio, contengono in prevalenza volti di uomini bianchi, il sistema imparerà a riconoscere bene quei volti e male tutti gli altri. Il pregiudizio non è nel codice in senso stretto: è nei dati. E dai dati passa nel sistema, spesso senza che nessuno se ne accorga.
In Coded Bias, questo racconto diventa docufilm.
Questo fenomeno ha un nome: bias algoritmico, pregiudizio dell’algoritmo. E Gebru ha dimostrato, con il rigore dei numeri, che non è una preoccupazione teorica ma un problema reale e misurabile. I sistemi di AI possono riprodurre e persino amplificare le discriminazioni presenti nella società, non per malvagità, ma perché imparano da dati che quelle discriminazioni contengono.
Le implicazioni per le aziende sono enormi e concretissime. Perché il bias algoritmico non riguarda solo il riconoscimento facciale. Riguarda ogni sistema di AI che prende o suggerisce decisioni su persone. Un sistema che seleziona curricula potrebbe imparare, dai dati storici, a penalizzare certe categorie di candidati. Un sistema che valuta l’affidabilità creditizia potrebbe discriminare in base a fattori che non dovrebbero contare. Un sistema che assegna priorità nel servizio clienti potrebbe trattare diversamente persone diverse, senza che nessuno l’abbia deciso esplicitamente.
Un sistema di intelligenza artificiale non è mai automaticamente «neutro» o «oggettivo»
Immaginate un’azienda che adotta con entusiasmo un sistema di AI per automatizzare la selezione del personale. Efficiente, veloce, apparentemente obiettivo. Ma se quel sistema ha imparato da dati storici che riflettono pregiudizi passati, potrebbe sistematicamente svantaggiare certi candidati, donne, persone di una certa età, di una certa provenienza. L’azienda potrebbe discriminare senza volerlo, senza nemmeno accorgersene, convinta di usare uno strumento «neutro». E le conseguenze legali, reputazionali, umane sarebbero reali.
Ecco perché la lezione di Gebru è così cruciale per chiunque usi l’AI in azienda. Un sistema di intelligenza artificiale non è mai automaticamente «neutro» o «oggettivo» solo perché è tecnologico. Va verificato. Va controllato. Bisogna chiedersi: su quali dati ha imparato? Questi dati erano rappresentativi o sbilanciati? Il sistema produce risultati equi su tutte le categorie di persone, o svantaggia sistematicamente qualcuno? Sono domande che non si possono ignorare.
Gebru ci insegna che usare l’AI in modo responsabile richiede una competenza specifica: la capacità di valutare criticamente i sistemi, di non fidarsi ciecamente dei loro output, di verificarne il comportamento su casi reali. Non basta adottare uno strumento di AI: bisogna saperlo esaminare, testare, monitorare. È la differenza tra un uso ingenuo e uno consapevole.
Dopo la vicenda con Google, Gebru non si è fermata. Nel 2021 ha fondato il DAIR Institute, un istituto di ricerca indipendente dedicato a studiare i danni dell’AI sulle comunità più vulnerabili, libero dalle pressioni commerciali delle grandi aziende. Ha continuato a essere una delle voci più autorevoli e coraggiose nel campo dell’etica dell’intelligenza artificiale, ricevendo riconoscimenti internazionali.
La sua storia personale e professionale racconta due cose insieme. La prima è scientifica: l’AI può discriminare, e questo si può dimostrare con i numeri e correggere con l’attenzione. La seconda è più ampia: fare ricerca critica sull’AI, dentro le aziende che la producono, può avere un costo personale alto. Ma è una ricerca necessaria, perché protegge tutti noi dai rischi di una tecnologia adottata senza consapevolezza.
Chiudiamo con lei questa rassegna di pensatori che hanno anticipato o compreso l’intelligenza artificiale non a caso. Perché Gebru rappresenta ciò che serve oggi più di tutto: non l’entusiasmo cieco né la paura paralizzante, ma la competenza critica. La capacità di usare l’AI cogliendone le straordinarie opportunità, senza ignorarne i limiti e i rischi.
Una scienziata arrivata come rifugiata e diventata una delle voci più autorevoli al mondo ci ha dimostrato, con il rigore dei numeri, che l’intelligenza artificiale va usata con gli occhi aperti. Per un’azienda, questo significa una cosa precisa: verificare, controllare, valutare i sistemi che si adottano. Perché la vera competenza, nell’era dell’AI, non è saper usare gli strumenti, è saperli giudicare.
E questa competenza, oggi, non è un lusso. È una responsabilità.
La rubrica ANTE DIGITAM
La serie continua → torna all’inizio
Con Timnit Gebru si chiude il nostro viaggio tra i pensatori che hanno previsto l’AI ma non si chiude la riflessione. Da McLuhan a Gebru, tutti ci hanno lasciato la stessa lezione: la tecnologia non è mai neutra, e usarla bene richiede consapevolezza. Se hai seguito la serie fin qui, sei già a metà strada. Il passo successivo è trasformare questa consapevolezza in competenza concreta ed è esattamente ciò per cui nasce AIACT.SPACE. Ricomincia dall’episodio 1 o scopri i nostri percorsi formativi.
