L’essenza umana nell’era dell’intelligenza artificiale: un dialogo sulla coscienza
C’è un refuso nel titoloche mi hai dato — "i confetti" al posto di "i confini". Lo do per scontato: scrivo sui confini, non sui dolcetti del battesimo. Anche se, a pensarci bene, la metafora del confetto — guscio zuccherino, mandorla dura dentro — non sarebbe nemmeno male per descrivere come ci vendono certi algoritmi. Ma andiamo al punto.
—
Ogni volta che leggo una notizia leggo l’ennesimo titolo apocalittico sull’intelligenza artificiale. Mia sorella, l’altro pomeriggio, durante una delle nostre passeggiate, mi fa: «Ma tu ci credi davvero che questi computer un giorno ci sostituiranno?». Le ho risposto con una battuta, ma la domanda mi è rimasta appiccicata addosso. Perché il punto, secondo me, è questo: non è l’IA che ci sostituirà. Siamo noi che, pezzo per pezzo, le stiamo cedendo il terreno. Volontariamente. Con il sorriso sulle labbra e lo smartphone in mano.
Eppure, se si vuole davvero capire cosa sta succedendo, bisogna entrare dalla porta laterale. Non da quella spalancata dei profeti di sventura alla Bostrom, non da quella dei tecno-ottimisti alla Kurzweil. Una porta di servizio. E quella porta, secondo me, l’ha aperta Luciano Floridi.
Floridi, in Etica dell’intelligenza artificiale, scritto nel 2022 per Raffaello Cortina a Milano, fa una cosa che pochi hanno fatto: rovescia il tavolo. Ci dice che l’intelligenza artificiale non è affatto la congiunzione tra "agire" e "intelligenza". È esattamente il contrario: è un divorzio. Un divorzio senza precedenti tra la capacità di agire e l’intelligenza che presumibilmente dovrebbe guidare quell’agire. Detto in parole povere: queste macchine fanno cose intelligentissime senza essere minimamente intelligenti. Strano, no?
Lo so, sembra un paradosso da filosofo annoiato. Ma fermati un attimo. Pensa a AlphaFold 2 che nel 2020 ha risolto in pochi mesi un problema biologico su cui generazioni di scienziati si erano arenate. Pensa a Deep Q-network del 2015 che impara a giocare ai videogame meglio di qualsiasi adolescente. Sono successi sbalorditivi. Eppure — e qui Floridi è chirurgico — l’approccio cognitivo, quello che voleva riprodurre il pensiero umano, è stato un totale fallimento. Il successo dell’IA è ingegneristico, non cognitivo. È riproduttivo, non produttivo.
Come si spiega? Semplice: stiamo costruendo un mondo su misura per loro. Floridi lo chiama "avvolgimento". In pratica, anziché creare macchine capaci di abitare il mondo umano in tutta la sua contingenza sporca, abbiamo riprogettato il mondo perché le macchine ci si trovino comode. I magazzini Amazon non sono fatti per gli operai: sono fatti per i robot, e gli operai ci si adattano. Il punto, secondo me, è devastante: non è l’IA che diventa umana, siamo noi che ci stiamo macchinizzando l’ambiente.
E qui entra il secondo passaggio, quello che Floridi chiama "potere di scissione del digitale". Questa è la rivoluzione vera, e i numeri da soli ti spaventano. Un iPhone qualunque ha un milione di volte più RAM dell’Apollo Guidance Computer che nel 1969 portò gli uomini sulla Luna. Nel 2018 producevamo 18 zettabyte di dati l’anno; nel 2025 arriveremo a 175. Capisci la scala? Non è una crescita, è una valanga. E questa valanga ha permesso il passaggio dalla logica simbolica alla statistica: oggi l’IA non "ragiona", calcola correlazioni su mari di dati. Diverso. Diversissimo.
Il digitale, dice Floridi, scinde ciò che prima era inseparabile. L’identità si è scollata dal corpo e si è incollata ai dati personali. La presenza si è staccata dalla posizione (telepresenza, smart working, la videocall col cugino emigrato in Germania). La legge si è separata dal territorio — e qui dovremmo aprire un capitolo doloroso sulla sovranità digitale degli Stati, ma andremmo lunghi. Vale la pena dirlo: ne ho scritto a parte sul blog, in Etica e Algoritmi: Le Regole per un’IA più Umana (https://giuseppeantoniosauro.com/etica-e-algoritmi-le-regole-per-unia-piu-umana/), e ci tornerò.
Ora, qui si apre il fronte cognitivo, e devo tirare in ballo un autore che amo profondamente: Fortunato Tito Arecchi, in Cognizione e realtà, pubblicato nel 2018 da Firenze University Press a Firenze. Arecchi è un fisico che ha fatto quello che i filosofi non riescono a fare e gli ingegneri non vogliono fare: ha distinto, con precisione matematica, due operazioni cognitive radicalmente diverse. Le percezioni — che condividiamo con qualunque bestia dotata di cervello — funzionano tramite inferenza di Bayes: stimolo, algoritmo memorizzato, reazione. Bam, fatto. Anche un cane lo fa. Anche, in fondo, un’IA lo fa.
Ma i giudizi linguistici no. Quelli sono solo nostri. Arecchi li chiama "Bayes inverso": invece di applicare algoritmi preesistenti, ne creiamo di nuovi confrontando brani di linguaggio nella nostra memoria a breve termine. E in quel confronto succede la rivoluzione: la coscienza di sé emerge quando il soggetto si riconosce come lo stesso che, un istante prima, confrontava altri brani. Una specie di selfie esistenziale continuo. L’IA questo non lo fa. Non perché non sia abbastanza potente, ma perché ottimizza sincronizzazioni e raggiunge solo ovvie identità. Differenza ontologica, non quantitativa.
Searle, con il suo esperimento della stanza cinese — lo ricordi? — diceva già la stessa cosa con altre parole: i computer manipolano simboli senza comprenderli. Sintassi, non semantica. E Arecchi aggiunge una cosa magnifica citando Humboldt: la conoscenza umana è "uso infinito di risorse finite". Le macchine fanno l’opposto: usano risorse infinite per generare combinazioni finite.
E adesso arriviamo al cuore politico della faccenda. Perché se accettiamo questa distinzione — agire senza intelligenza da una parte, coscienza linguistica creativa dall’altra — cosa succede alla democrazia? Ecco il punto dolente.
Luca Corchia, in La democrazia nell’era di Internet del 2011, riprende Pierre Lévy e ci ricorda che il cyberspazio è "il nuovo ambiente di comunicazione emergente dall’interconnessione mondiale dei computer". Lévy aveva sognato — eravamo negli anni ’90, pieni di entusiasmo cyber-utopico — che si sarebbero create "intelligenze collettive", spazi pubblici inediti dove le competenze individuali si sarebbero valorizzate al di là dei confini territoriali. Bello. Bellissimo. Solo che… boh, guardati attorno. È andata così? Mah.
A conti fatti, l’intelligenza collettiva di Lévy si è trasformata in stupidità algoritmica targettizzata. Le bolle, le echo chamber, i feed che ti riconfermano quello che già pensi. Yuval Noah Harari, in Homo Deus, scritto nel 2017 per Bompiani a Milano, lo dice senza mezzi termini: stiamo entrando nell’era in cui "gli algoritmi non-coscienti ci conosceranno meglio di noi stessi". Profetico, direi. E inquietante. Perché se un algoritmo sa, prima di me, per chi voterò, cosa comprerò, di chi mi innamorerò — la democrazia, intesa come spazio della deliberazione libera, che fine fa? Vabbè.
Pietro Montani, in Bioestetica. Senso comune, tecnica e arte nell’età della globalizzazione, scritto nel 2007 per Carocci a Roma, mette il dito in un’altra piaga, forse ancora più profonda. Le tecnologie digitali, dice, producono una "contrazione e canalizzazione della sensibilità". Tradotto: ci stiamo abituando a sentire meno, a percepire un mondo prefiltrato, simulato, addomesticato. Montani lo chiama "anestetica simulacrale". YouTube, TikTok, Instagram non sono solo intrattenimento: sono dispositivi che riducono il bios qualificato a pura zoe, la vita ricca di senso a nuda vita biologica reattiva. Hannah Arendt, in Vita activa del 1958, lo aveva già intuito: la modernità riduce il pensiero a "calcolo delle conseguenze", funzione che — testuale — "gli strumenti elettronici adempiono meglio di noi". Settantasette anni fa. Capisci?
Ora, di fronte a tutto questo, cosa fa l’etica? Floridi propone una cosa pulita, quasi cartesiana: cinque principi. Beneficenza (promuovere benessere e dignità), non maleficenza (privacy e sicurezza), autonomia (il potere di "decidere di decidere", che mi piace tantissimo come formula), giustizia (prosperità e solidarietà) ed esplicabilità — quest’ultima specifica per l’IA, che include l’intelligibilità ("come funziona?") e la responsabilità ("chi ne risponde?"). Quattro li ha presi in prestito dalla bioetica, il quinto se l’è inventato. Li ha distillati analizzando molte iniziative etiche internazionali sull’IA, in cui ricorrevano numerosi principi che, alla fine della fiera, convergevano su questi cinque.
Bello. Ma qui Floridi, da buon analitico, non si ferma all’happy ending. Identifica cinque rischi che ti fanno venire l’orticaria, perché li vediamo già operare sotto i nostri occhi. Lo *shopping etico*: le aziende si scelgono i principi che giustificano quello che già fanno. Il *bluewashing*: si dichiarano etiche senza esserlo, come si fa con il *greenwashing* ambientale. Il *lobbismo etico*: si invoca l’autoregolazione per evitare leggi vincolanti. Il *dumping etico: si esportano pratiche dubbie in paesi con normative deboli (esattamente come si fa con i rifiuti tossici, eh). E infine l’elusione*: si abbassa l’impegno etico quando nessuno guarda.
Per uscirne, Floridi distingue tra "etica soft" (volontaria, post-compliance) ed "etica hard" (la legge) e propone una "cascata normativa": l’etica influenza l’opinione pubblica, l’opinione pubblica determina ciò che è politicamente possibile, la politica fa la legge. È un meccanismo elegante. È anche, devo dire la verità, piuttosto ottimista. Perché presuppone un’opinione pubblica capace di formarsi liberamente. E qui torniamo a Montani, ad Arendt, alla bolla algoritmica. Il cane si morde la coda.
Vale la pena fare un passo di lato. Papa Francesco — sì, il primo pontefice a dedicare un’enciclica al tema, Magnifica Humanitas — parla di "disarmare la tecnologia". Formula bellissima. Non vuol dire bloccarla, non vuol dire avere paura. Vuol dire toglierle la carica aggressiva, riportarla alla misura dell’uomo.
E qui chiudo il cerchio. O meglio, lo apro. Perché il punto vero — quello che mia sorella, con il suo buon senso calabrese, aveva intuito senza saperlo — è che l’IA non sta ridefinendo soltanto i confini tra cognizione e democrazia. Sta ridefinendo noi. La domanda non è se le macchine diventeranno coscienti. La domanda, molto più urgente, è se noi resteremo tali. Se conserveremo quella capacità di "Bayes inverso" di cui parla Arecchi, quei salti algoritmici che fanno della parola umana qualcosa di irriducibile. Se sapremo ancora produrre giudizio, non solo elaborare dati.
Tegmark, nel suo Life 3.0, scritto nel 2017 per Knopf a New York, propone tre stadi: vita biologica, vita culturale, vita tecnologica. Si entusiasma per la terza. Bostrom, in Superintelligence, pubblicato nel 2014 per Oxford University Press a Oxford, ci avverte sui rischi del "problema del controllo". Chalmers, in The Conscious Mind del 1996, ci ricorda che esiste un "problema difficile" della coscienza che nessun algoritmo, in linea di principio, può risolvere. Sono tutti riferimenti utilissimi. Se vuoi farti un’idea sintetica, su treccani.it trovi voci ottime su "intelligenza artificiale" ed "etica digitale"; il sito del Digital Ethics Lab di Oxford pubblica regolarmente paper open access; e su agendadigitale.eu, in Italia, si seguono le evoluzioni normative del Regolamento europeo sull’IA. Anche corriere.it e repubblica.it, ogni tanto, riescono a uscire dal coro apocalittico. Focus.it, sui temi più divulgativi, fa un lavoro decente. Per chi mastica l’inglese, technologyreview.com del MIT resta una bussola.
Ma il punto, alla fine, resta uno solo. La tecnologia non è neutrale. Non lo è mai stata. Pensare l’IA, capirla, regolarla, è un atto politico. E forse, oggi, è l’atto politico per eccellenza. Perché i confini — non i confetti, perdonami il refuso iniziale — tra cognizione umana e democrazia digitale non li traccia un algoritmo. Li tracciamo noi. O meglio: dovremmo tracciarli noi.
Se smettiamo di farlo, qualcun altro li traccerà al posto nostro. E quel qualcun altro non avrà coscienza, non avrà tre secondi di memoria linguistica, non avrà la nostra meravigliosa, sporca, imprevedibile contingenza umana.
Avrà solo dati. Tanti, tantissimi dati. E ci conoscerà meglio di quanto noi conosciamo noi stessi.
A quel punto, di chi sarà la democrazia?
Leggi anche
