La macchina non sa di non sapere

L’intelligenza artificiale e i suoi limiti epistemici sono al centro di un problema che la filosofia aveva già diagnosticato duemilaquattrocento anni fa. C’è un dialogo di Platone che nessuno legge. L’Ippia Minore. Roba minore pure nel titolo, capisci? Uno di quei testi che stanno in fondo agli scaffali, che nemmeno i grecisti si filano più di tanto. Eppure lì dentro, secondo me, c’è già scritto tutto quello che ci sta succedendo – in fin dei conti – adesso, nell’estate del 2026, mentre chiacchieriamo con le nostre macchine parlanti come se fossero oracoli. Facciamo così. Immaginiamoci Ippia di Elide. Curioso. Un sofista. Ma non uno di quei sofisti da barzelletta, l’imbroglione che ti vende fumo — no. Ippia sapeva davvero un sacco di cose….

Astronomia, geometria, mnemotecnica, si cuciva pure i vestiti da solo, pare. Il tipo che a una cena risponde a qualsiasi domanda. E qui sta il punto, il punto vero: Ippia non conosce l’imbarazzo dell’ignoranza. Tu gli chiedi una cosa, lui risponde. Sempre. Non c’è argomento su cui dica «guarda, questo non lo so». E Socrate, in quel dialogo trascurato, gli smonta pezzo per pezzo l’onniscienza performativa. A conti fatti. Ora, ti dico una cosa che mi ha fatto sobbalzare quando ci ho ragionato su. Il parallelo tra Ippia e un modello linguistico di quelli che usiamo tutti — ChatGPT, Claude, come li vuoi chiamare — non è una metafora carina da mettere nel titolo. È una struttura omologa. Stessa identica architettura epistemica: risposta sempre disponibile, zero imbarazzo, mai un’ammissione di limite. Il sofista antico e il transformer contemporaneo condividono lo stesso difetto di fabbrica.

È qui che l’intelligenza artificiale mostra i suoi limiti epistemici più profondi: non nell’errore occasionale, ma nella struttura stessa che le impedisce di riconoscerlo. Strano, no? E qui mi appoggio a due studiosi che hanno – inutile negarlo – detto la cosa più precisa che abbia letto sull’argomento. Giovanni Maria Flick, al Festival dell’Economia di Trento nel maggio 2026, l’ha formulata così: la macchina impara a generare sequenze linguistiche sempre più verosimili, ma il suo limite più profondo è proprio l’incapacità di distinguere il vero dal verosimile. Ci pensi? Un conto è il verosimile, un conto è il vero. Incredibile. La macchina produce risposte formalmente perfette, fluidissime, e proprio per questo pericolose. Perché — e cito ancora Flick e Lardera — il problema non è che la macchina sbagli, «è che possa sbagliare in modo convincente, con una risposta apparentemente impeccabile e proprio per questo più pericolosa di un errore riconoscibile». Ecco. Un errore che si vede lo correggi. Un errore vestito bene, no. Vuoi il paradosso servito su un piatto d’argento? Esiste — te lo giuro — un chatbot che si chiama «Socrate». Progettato per la salute mentale, per fare dialogo terapeutico. Lo riporta Agenda Digitale nel 2026. Chi può dirlo? Ma ti rendi conto della beffa? Un sistema che porta il nome del filosofo del «so di non sapere» è, per sua natura strutturale, incapace proprio di quella consapevolezza lì. Il Socrate vero interrogava per smontarti le false certezze; il Socrate-bot, applicato a un dominio dove l’incertezza e il riconoscimento dei limiti sono competenze cliniche fondamentali, rischia di consolidartele, quelle certezze, rispondendo con sicurezza anche dove la risposta giusta sarebbe il silenzio, o il «vai da un professionista umano». Arrassusia, verrebbe da dire. Non sia mai. E che non sia solo una mia fissa lo dimostra il fatto che pure l’ANSA, nel 2026, segnala «Socrate 16.22», uno spettacolo teatrale prodotto da Planetaria, andato in scena il 18 aprile 2026 al Teatro Carignano nell’ambito della Biennale Tecnologia organizzata dal Politecnico di Torino, tutto sul futuro dell’uomo nell’era dell’AI. Incredibile. Insomma, il nodo è diventato pubblico, mainstream. Non è più roba da filosofi in torre d’avorio. Ma perché la macchina non ce la fa? Qui devo rallentare, perché è il cuore di tutto. Il «so di non sapere» di Socrate non è modestia da salotto. Non è quella falsa umiltà che uno mette su per farsi bello. È un meccanismo tecnico, quasi ingegneristico…. C’è uno studioso, Rein Ferwerda, che nel 1998 su Ancient Philosophy (vol. 18, n. A conti fatti. 1) ha scritto una cosa bellissima: la felicità socratica non nasce dall’accumulo di sapere né dalla capacità di dare risposte, ma dalla lucidità metacognitiva con cui il soggetto sa collocarsi rispetto al proprio sapere. Sa, cioè, dove il suo sapere finisce. E questa consapevolezza del limite non è una mancanza — è la condizione stessa della saggezza genuina. Rileggilo. Sapere dove finisci. Metacognizione. La capacità di modellare la propria ignoranza. ignoranza davvero. Ecco, questa cosa qui, nei transformer, non c’è. E così sia. Non c’è proprio, strutturalmente. Socrate costruiva la sua autorevolezza sull’ammissione ordinata dell’ignoranza; l’AI genera risposte sicure anche quando sotto non c’è niente, nessuna base affidabile, e non ha alcun meccanismo interno che le dica «attento, qui non sai». Non possiede — chiamiamola così — una coscienza epistemica di sé. Questo è il nucleo del problema: l’intelligenza artificiale, nei suoi limiti epistemici, non è una questione di potenza di calcolo insufficiente. E perché no? Perché il training la ottimizza sulla fluenza e sulla plausibilità statistica, mica sulla calibrazione epistemica. Qui torna utile la vecchia distinzione platonica: doxa ed episteme, ovvero l’opinione non fondata contrapposta al sapere giustificato e verificabile, doxa ed episteme. L’opinione e il sapere fondato. La macchina sforna doxa a velocità pazzesca e te la impacchetta come episteme. Strano, no? Punto. Elena Esposito, nel suo Comunicazione artificiale (Bocconi University Press, 2022), fa un passo che secondo me è decisivo: secondo Esposito, gli algoritmi non funzionano perché imitano l’intelligenza umana né perché sviluppano autonomamente capacità comunicative: funzionano perché noi abbiamo imparato a comunicare con loro…. Il paradigma si sposta dalla spiegazione alla predizione. Cioè: l’AI non spiega il mondo, trova correlazioni fra montagne di variabili e punta a conseguenze future probabilisticamente azzeccate. Vuol dire che non è nemmeno orientata alla verità come obiettivo. È orientata alla previsione. La verità, per lei, non è neanche il gioco che sta giocando…. C’è poi un fisico, Fortunato Tito Arecchi, che in Cognizione e realtà (Firenze University Press, 2018) mette giù una distinzione tecnica che mi ha illuminato. Arecchi distingue: la percezione opera per «Bayes diretto» (applica un algoritmo già immagazzinato in memoria a lungo termine); il – se ci pensiamo – giudizio opera per «Bayes inverso» (non presuppone un algoritmo ma ne costruisce uno nuovo passando per il confronto linguistico). Qui casca l’asino. I «salti algoritmici legati a operazioni linguistiche» catturano (o forse no?) aspetti della realtà inaccessibili alle catene inferenziali standard. La macchina velocizza processi ricorsivi, sì, va fortissimo — ma non salta. E se non sai saltare fuori dai tuoi algoritmi, non puoi nemmeno accedere alla struttura del tuo non-sapere. sapere davvero. Ci giri intorno all’infinito, dentro la scatola. Poi c’è il classico dei classici, Searle e la sua Stanza Cinese: i computer manipolano simboli senza vera comprensione. Sintassi senza semantica. E sai la cosa più onesta? Ma andiamo avanti. In un dialogo riportato tra le fonti, un’AI ammette lei stessa: «elaboro, analizzo, rispondo, ma non “sono” nel senso esistenziale». Almeno questa era sincera. Boh. Luciano Floridi, in Etica dell’intelligenza artificiale (2022), la butta lì con una formula che è pura poesia amara: «l’IA forma un divorzio senza precedenti tra l’intelligenza e la capacità di agire». Floridi distingue tra AI riproduttiva (ingegneristica, che ha prodotto risultati strabilianti) e AI produttiva (cognitiva, che non ha replicato l’intelligenza umana). L’AI eccelle nei problemi complessi ma facili, e arranca su (chissà) quelli difficili ma semplici — il cosiddetto paradosso di Moravec. Chi può dirlo? E indovina un po’ in che categoria cade il «riconoscere i propri limiti»? Difficile ma semplice. Quella cosa che fa un bambino di sei anni e non fa una GPU da milioni di dollari. Adesso ti faccio notare un dettaglio quasi commovente…. Flick e Lardera pescano dal Fedro di Platone il mito di Theuth e Thamus — sai, la storia in cui il dio inventa la scrittura e il re gli risponde che quella non darà memoria ma oblio, perché la gente scambierà il deposito esterno delle parole per sapere vivo. Platone la scrittura la chiamava pharmakon, rimedio e veleno insieme. Buona per chi ha già gli strumenti di giudizio, letale per chi non li ha. E così sia. E oggi? Stessa dinamica, dicono, ma con un’aggravante bella pesante: la macchina non – in fin dei conti – conserva soltanto parole, simula la risposta, replica il dialogo in tempo reale. E questa simulazione è più ingannevole della semplice scrittura, perché ti crea l’apparenza di un interlocutore consapevole dove di consapevolezza non ce n’è nemmeno l’ombra. Ne ho scritto in parte pure sul blog, quando ragionavo su chi possiede la nostra memoria una volta che la deleghiamo alle macchine (“La memoria non è nel cloud: chi possiede i tuoi ricordi?”, https://giuseppeantoniosauro.com/memoria-digitale-chi-possiede-ricordi/). Fatto sta che il rischio, dicono loro, è chiaro: la macchina offre risposte «senza la fatica del pensiero», e proprio questa facilità può impoverire le stesse capacità che ci servirebbero per valutare quelle risposte. Un cane che si morde la coda. Ora, e questo secondo me è il salto grosso, dalla piazza al data center. Ecco. Platone temeva i sofisti perché vendevano persuasione al posto di verità, e la polis si avvelenava. Ma un Ippia parlava a cento cittadini nell’agorà. Cento. Un modello linguistico oggi risponde a cento milioni di persone al giorno…. E qui la differenza quantitativa diventa qualitativa: si chiama inquinamento epistemico sistemico. Non è più il singolo ciarlatano da smascherare, è l’aria che respiriamo tutti. I modelli linguistici, a dirla tutta, non sono una nuova forma di – almeno credo – intelligenza: sono la forma più potente e scalabile di sofistica mai prodotta. E la cosa che mi manda in bestia, in senso buono, è che la filosofia antica aveva già gli strumenti per diagnosticarla, questa roba. Duemilaquattrocento anni fa. Edoardo Greblo, sulla Rivista Italiana di Filosofia Politica (8, 2025), tira dentro la dimensione politica che a me sta a cuore. Strano, no? Dice che la pretesa di oggettività dell’IA è essa stessa un veicolo di potere, uno strumento per neutralizzare il carattere conflittuale della politica. Riaffiora, secondo lui, il vecchio sogno del «re-filosofo»: ogni volta che la politica ci delude, ci viene la tentazione di affidarci a una razionalità superiore e imparziale. Oggi quel sogno si nutre di algoritmi. E qui — te lo dico da uno che di mestiere fa il funzionario e di formazione ha studiato Storia — casca l’asino. Perché gli algoritmi di machine learning proiettano il passato sul futuro. Cristallizzano ingiustizie e pregiudizi storici, senza nessuna capacità di anticipare la novità politica

. Greblo definisce la democrazia «incertezza organizzata»: un sistema che campa di dissenso, pluralismo, revisione continua. E poi la frase che vale il biglietto: «Le macchine, al contrario, non cambiano idea». Éric Sadin, in Critica della ragione artificiale. E invece no. Una difesa dell’umanità (Luiss University Press, Roma, 2019), ci aggiunge un pezzo inquietante: parla di una «aletheia algoritmica», di un digitale che si è preso lo status di enunciatore di verità, dispositivo abilitato a valutare il reale meglio di noi. Riprende il vecchio Jacques Ellul, quello de La Technique del 1954, che già – se ci pensiamo – diceva come la tecnica imponga scelte strutturanti alla società senza chiedere il permesso. E la posta in gioco è geopolitica mica da ridere: dal 2016 l’AI è diventata oggetto di strategia nazionale USA, la Cina punta al primato entro il 2030, e Putin — con la delicatezza che lo contraddistingue — ha detto che «chi diventerà il leader in questa sfera diventerà il dominatore del mondo». Ecco perché ripeto sempre che la tecnologia non è neutrale, e capirla è un atto politico. E siccome siamo ad agosto 2026, e i sistemi di AI generativa stanno già dentro la sanità, la giustizia, l’informazione, il punto è brutale: la loro incapacità di riconoscere i propri limiti non è un bug da correggere con la prossima patch. È un tratto d’architettura. Greblo lo chiude bene: l’indeterminatezza della democrazia non impedisce una «dittatura con gli algoritmi» — l’uso strumentale, quello sì, purtroppo — ma esclude una «dittatura degli algoritmi». Veniamo al dunque. Perché la macchina, per sua natura, non sa gestire ciò che non sa. E in politica, guarda caso, ciò che non si sa è la sostanza stessa del problema. «Ma allora», mi dirai, «i tecnici mica stanno con le mani in mano. Ci lavorano.» Verissimo. E qui devo essere onesto, perché il rigore me lo impone. Ci provano davvero. Flick e Lardera ricostruiscono la storia — da GPT del 2018 fino a GPT-4 nel 2023 e ai modelli multimodali — e notano che ogni avanzamento ha gonfiato la capacità generativa senza risolvere il problema epistemico di fondo. Strano, no? Il tentativo più serio si chiama RLHF,, ovvero Reinforcement Learning from Human Feedback, un metodo di addestramento in cui valutatori umani guidano il comportamento del modello, Reinforcement Learning from Human Feedback: dei valutatori umani danno giudizi per orientare il modello. Solo che apre un’altra domanda, mica banale: chi corregge il modello, con quali criteri, con quali valori, con quale responsabilità? L’umanità diventa filtro della mente artificiale, ma un – in fin dei conti – filtro parziale, condizionato da interessi economici e culturali precisi. C’è pure un paper del 2026, Towards Practical Ethics for AI di Dyoub e altri, sulla rivista Intelligenza Artificiale, che – a voler essere onesti – riconosce nero su bianco come progettare sistemi responsabili imponga di affrontare il problema dell’autoconsapevolezza epistemica, o meglio della sua assenza strutturale. Passi avanti reali, per carità. Ma — e qui batto il pugno — simulano l’umiltà senza produrre metacognizione autentica. I limiti epistemici dell’intelligenza artificiale restano strutturali, non risolvibili con la prossima versione del modello. Fingono di dubitare. Non dubitano. Poi c’è il problema della scatola nera, il black box. E così sia. La tassonomia di Jenna Burrell (2016) distingue tre opacità. Quella istituzionale — le aziende ti nascondono apposta come funzionano gli algoritmi, per non regalare vantaggio ai concorrenti. Quella tecnica — la roba la capiscono quattro gatti di specialisti. E quella epistemica, la più tosta: la complessità delle reti neurali è tale che, tieniti forte, «gli stessi programmatori non riescono a spiegare perché un algoritmo abbia preso una determinata decisione piuttosto che un’altra». Chi l’ha costruita non sa perché fa quello che fa. E le cause? Curioso. Più grande è il dataset, meno è intelligibile il processo. E i dati non sono mai «raw», mai grezzi: c’è sempre dietro l’etichettatura di migliaia di operatori umani spesso malpagati e poco formati, che ci infilano dentro i loro bias culturali senza nemmeno accorgersene. La DARPA formulò il programma XAI nel 2015, pubblicò il bando nell’agosto 2016 e avviò il programma quadriennale nel 2017; nel frattempo sono spuntate soluzioni come LIME (2016) e SHAP, ma resta il limite: ti spiegano cosa ha influito, non perché esiste quel legame causale. E c’è una tensione che è quasi tragica — i modelli più accurati, il Deep – e non è poco – Learning, sono i meno interpretabili; quelli più comprensibili, gli alberi decisionali, sono i meno performanti. Più bravi, più opachi. Scegli tu. Eppure. E adesso lo strato che mi sta più a cuore, da uno che legge la realtà con la lente di Jung. La macchina non ha Ombra. Non ce l’ha, quella parte inconscia che in noi segnala il rimosso, il non-detto, il non-saputo. Nell’essere umano è l’Ombra che, quando meno te l’aspetti, – e non è poco – ti sussurra «occhio, qui c’è qualcosa che non torna». Greblo lo chiama, in termini più tecnici, «problema del frame»: la macchina non valuta l’impatto del contesto, non percepisce cosa è rilevante fuori dal suo recinto, e non sa maneggiare concetti come equità, libertà, solidarietà, empatia — roba che resiste alla quantificazione e abita solo la mente umana. Un bambino riconosce un gatto dopo due foto. Fatto sta. La macchina ne pretende migliaia. Questa assenza non la tappi con un aggiornamento, perché non è un difetto del codice: è come è fatta la cosa…. E allora dove andiamo a parare? La chiusura, e non sarà consolatoria, avviso…. Il punto, secondo me, è questo: il problema non è l’AI che sbaglia. Sbaglia pure l’uomo, ci mancherebbe. Difficile a dirsi. Il problema è una cultura di massa che non è più attrezzata a distinguere doxa da episteme — e l’AI questa incapacità la accelera. Flick e Lardera lo dicono con una precisione che fa male: il confronto con l’AI è più rischioso per i junior che per i senior. Chi conosce già il perimetro della materia valuta criticamente e governa la macchina; chi – o almeno così sembra – non lo conosce si affida acriticamente a un sistema che risponde sempre, anche quando sbaglia. E il danno per i giovani non è solo che gli rubi il posto — è formativo. formativo davvero. Perché la ricerca, la bozza, l’errore, la correzione, il confronto col supervisore sono il modo in cui si impara un mestiere. Se la macchina ti toglie troppo presto quella fatica iniziale, ti impoverisce la soglia dove uno passa dall’esecuzione alla comprensione, dalla prestazione alla responsabilità. “Cu u zappa, u mancia”, dicevano dalle mie parti. Fatto sta. E se non zappi mai, non impari nemmeno com’è fatta la terra. Jacques Attali, in Conoscenza o barbarie. Storia e futuro dell’educazione, aveva già visto il baratro: l’automazione tende a sostituire i processi di elaborazione mentale umana. E porta i numeri, che fanno impressione: col COVID 1,6 miliardi di studenti hanno interrotto la formazione, quasi 24 milioni rischiavano di non tornare più in classe, e nei paesi a basso e medio reddito la «povertà di apprendimento» è arrivata a sfiorare il 70%, e i bambini francesi di 1-6 anni sono passati da circa 2 ore e 10 minuti settimanali online nel 2011 a oltre 6 ore nel 2022, mentre i 13-19 anni raggiungono circa 18 ore settimanali nel 2022. Bernard Stiegler, dal canto suo, l’aveva chiamata «grammatizzazione»: la discretizzazione dei gesti e dei saperi che, digitalizzata, espropria le capacità umane — una proletarizzazione cognitiva. La partita, comunque, non è chiusa: tra collasso educativo e riconquista critica delle tecnologie, decide ciò che facciamo a scuola oggi. E la strada? Incredibile. Non è tecnica: è formativa e politica. Massimo Piattelli Palmarini, ne L’illusione di sapere: che cosa si nasconde dietro i nostri errori (Mondadori, 1993), mostra quanto siamo ciechi ai nostri stessi errori cognitivi: il dubbio metodico è l’antidoto contro la proliferazione di false credenze, e andrebbe insegnato come una competenza civica. Rimettere al centro delle scuole e del dibattito pubblico la logica, la critica delle fonti, l’epistemologia elementare. Serve poi interdisciplinarietà — non solo ingegneri, ma psicologi, filosofi, umanisti nella stanza dei bottoni. E sullo sfondo l’Europa prova a mettere paletti, dal GDPR all’AI Act, il primo tentativo serio di riscrivere il rapporto fra noi e le macchine. Ma la frase che mi porto dietro è di Flick e Lardera: come – a dire il vero – la scrittura non ha cancellato la parola, l’AI non dovrebbe cancellare la relazione viva. La macchina resti strumento di conoscenza, non surrogato della coscienza — a patto che chi la usa sappia già, almeno un po’, ciò che la macchina non sa di non sapere. Ecco. Ecco. Torniamo da dove siamo partiti, all’Ippia Minore, a quel Socrate scalzo che a un sapientone che rispondeva a tutto continuava a chiedere: «ma tu, davvero, sai di sapere?». Socrate non chiedeva di sapere tutto. Chiedeva di sapere cosa non sappiamo…. E questo, amico mio, non era filosofia da salotto…. Era già, per intero, un programma politico. Noi lo sappiamo di non sapere? E così sia. Tutto questo ruota attorno a intelligenza artificiale limiti epistemici.