Nel 2021 l'espressione "pappagalli stocastici" descriveva bene i Modelli Linguistici di Grandi Dimensioni (LLM): sistemi di IA capaci di produrre testi fluenti calcolando la parola più pOn the Dangers of Stochastic Parrotsrobabile, senza che nessuno potesse dire se dietro ci fosse qualcosa di simile alla comprensione.
La metafora nasce nello studio “”, presentato nel 2021.
Lo firmano la linguista Emily Bender, le informatiche Timnit Gebru e Angelina McMillan-Major e Margaret Mitchell, che usò lo pseudonimo "Shmargaret Shmitchell".
Le autrici mettevano in guardia da rischi concreti: pregiudizi assorbiti dai dati di addestramento e amplificati, costi ambientali enormi, testi persuasivi ma inaffidabili.
Gebru e Mitchell co-dirigevano il team "Ethical AI" di Google.
Dopo il rifiuto di ritirare l'articolo, Gebru uscì dall'azienda nel dicembre 2020, in circostanze contestate, e Mitchell fu licenziata nel febbraio 2021.
Gebru ha poi fondato il DAIR Institute, che promuove una ricerca sull'IA indipendente e attenta alle comunità sottorappresentate, a partire dall'Africa. Mitchell si occupa di etica dell'IA presso Hugging Face.
Oggi il quadro è più sfumato. I modelli attuali ragionano per passaggi, usano strumenti, elaborano testo, immagini e audio, e gli studi di interpretabilità mostrano rappresentazioni interne e forme di pianificazione che la semplice immagine del pappagallo non spiega.
Se questo basti a parlare di "comprensione" è ancora oggetto di dibattito scientifico e filosofico. Bender e Gebru continuano a sostenere che fluidità non significa comprensione.
I rischi segnalati nel 2021 restano attuali: bias, errori presentati con sicurezza, impatto ambientale, concentrazione del potere in poche aziende.
Per questo il loro lavoro conserva un valore profondo. Non basta che l'IA parli bene: deve essere trasparente, verificabile, equa e inclusiva. E toccherà ancora a noi decidere come e per chi.
Per approfondire: “Scienziate nel tempo. Più di 100 biografie dall’ antichità all’ IA”, (Ledizioni 2026)
Sara Sesti
Matematica, ricercatrice in storia della scienza
Collabora con l'Università delle donne di Milano
facebook.com/scienziateneltempo/
