Capitalismo della Sorveglianza: Sei il Prodotto degli Algoritmi”
Questa è la terza parte della serie sull’algoritmocrazia dedicata al capitalismo della sorveglianza. Il capitalismo della sorveglianza rappresenta una nuova forma economica dove noi diventiamo il prodotto venduto dalle big tech: non semplici utenti, ma fonti di dati comportamentali da estrarre e monetizzare. Abbiamo esplorato, nel primo articolo, il significato di ciò che rappresentano gli algoritmi per noi. Abbiamo, poi, con il secondo articolo, scoperto come gli algoritmi possono essere discriminanti, penalizzando categorie di persone in modo spesso invisibile. Con oggi invece, scopriamo come non siamo noi a scegliere i prodotti ma sono loro che scelgono noi, orientando le nostre decisioni prima ancora che ce ne rendiamo conto.
Per comprendere a pieno questo processo non possiamo non tenere conto di quanto la scrittrice Shoshana Zuboff, nel suo monumentale The Age of Surveillance Capitalism, scritto nel 2019 per PublicAffairs a New York, ha spiegato. È stata proprio lei, tra l’altro, a coniare il termine “capitalismo della sorveglianza“, che oggi è diventato un riferimento imprescindibile nel dibattito globale. Secondo lei, le big tech non vendono prodotti: vendono predizioni sul nostro comportamento futuro. Pensate a cosa significa concretamente: ogni clic, ogni ricerca, ogni pausa su uno schermo diventa un dato grezzo da raffinare e rivendere. Siamo diventati la materia prima di un’economia che estrae valore dai nostri dati. Praticamente siamo noi il prodotto, non quello che compriamo.
È una rivoluzione silenziosa, tipo. Gli algoritmi imparano dalle nostre preferenze, compreso e soprattutto Google, il quale non si limita a mostrare i risultati in una mercificazione di contenuti atti a bombardare, mi verrebbe da dire subliminale, noi ignari navigatori che miracolosamente assistiamo impassibili e senza poter fare niente a pubblicità mirate. Google impara dalle tue ricerche per costruire un profilo sempre più preciso di chi sei. Ogni parola digitata, ogni link cliccato, ogni ricerca abbandonata a metà diventa un tassello di quel ritratto digitale. E poi vende queste informazioni a chiunque sia disposto a pagare per influenzare le tue scelte: inserzionisti, partiti politici, aziende che vogliono sapere se sei pronto ad acquistare o a cambiare idea. Il tutto senza che tu abbia firmato consapevolmente nulla di simile. Boh, a me fa un po’ senso questa roba.
La Politica nell’Era degli Algoritmi
L’altro giorno leggevo Davide Casaleggio, nel suo recente Gli algoritmi del potere. Come l’intelligenza artificiale riscriverà la politica e la società, scritto nel 2024 per Chiarelettere a Milano, e analizza come l’intelligenza artificiale stia riscrivendo le regole della politica. La sua prospettiva è particolarmente interessante perché proviene direttamente dal mondo politico italiano: Casaleggio ha vissuto dall’interno i meccanismi di consenso digitale e sa benissimo di cosa parla quando si tratta di orientare e influenzare concretamente le scelte delle persone.
E ha ragione da vendere. Guardate cosa è successo nelle elezioni americane del 2016: Facebook mostrava notizie diverse a persone diverse, creando bolle informative che hanno contribuito alla polarizzazione. Due elettori della stessa città, magari vicini di casa, potevano vivere in realtà completamente diverse, costruite artificialmente da algoritmi che decidevano cosa ciascuno doveva vedere e cosa no. L’algoritmo, in pratica, disegnava un orizzonte su misura per ogni utente. Pensa un po’! È come se ognuno vivesse in un mondo parallelo, senza nemmeno saperlo.
Algoritmi nell’Intimità: Anche l’Amore è Digitale
Ma non è solo politica, eh. Anche le nostre relazioni personali passano attraverso algoritmi. Tinder decide chi vedrai, Instagram sceglie quali foto dei tuoi amici mostrarti. Anche l’amore, praticamente, è mediato da sistemi informatici che operano secondo logiche che non conosciamo e che nessuno ci spiega. Mia cugina l’altro giorno mi raccontava che ha conosciuto il fidanzato su una di quelle app, e io pensavo: ma è l’algoritmo che ha deciso che erano compatibili! Non lei, non lui: un codice scritto da qualche ingegnere a San Francisco. Strano mondo in cui viviamo.
Human in the Loop: La Proposta di Benanti
Sul sito di Paolo Benanti, paolobenanti.com, questo francescano esperto di etica tecnologica propone il concetto di "human in the loop" – che ha sviluppato nel suo libro più recente Human in the loop. Decisioni umane e intelligenze artificiali, pubblicato da Mondadori Università (Mondadori Education) a Milano nel 2022. L’idea centrale è mantenere sempre l’essere umano nel processo decisionale, evitando che gli algoritmi abbiano l’ultima parola su scelte che ci riguardano direttamente, dal lavoro alle relazioni. Sembra sensato, quasi ovvio. Ma poi, concretamente, come si traduce in pratica quando le piattaforme digitali sono progettate per fare esattamente il contrario?
Boh, è complicato. L’UNESCO ha pubblicato linee guida per l’etica dell’intelligenza artificiale che parlano di trasparenza e controllo umano. Tutto bello sulla carta, ma la realtà è un casino: nel tempo in cui un funzionario legge un rapporto, un algoritmo ha già profilato milioni di utenti. Gli algoritmi vanno semplicemente troppo veloci per la burocrazia umana.
Il problema è che molti algoritmi moderni sono intrinsecamente opachi: non si tratta solo di complessità tecnica, ma di una struttura che rende impossibile ricostruire il percorso logico seguito. Anche chi li ha creati non riesce sempre a spiegare perché hanno preso una certa decisione. È quello che chiamano il “problema della scatola nera“: hai un sistema che funziona benissimo ma non capisci il ragionamento. Succede, per esempio, quando un algoritmo nega un mutuo o esclude un candidato da una selezione senza fornire motivazioni verificabili. È tipo avere un consulente super-intelligente che ti dà sempre consigli giusti ma non ti spiega mai il perché. All’inizio saresti grato, ma col tempo ti sentiresti a disagio, no?
La Trasformazione del Lavoro
Prendiamo la ricerca del lavoro, tanto per dire. Una volta mandavi il CV e speravi che qualcuno lo leggesse davvero, magari con un caffè in mano. Oggi il tuo curriculum viene prima analizzato da un algoritmo che cerca parole chiave specifiche, valuta il layout grafico, analizza persino lo stile di scrittura. Se non passi questo filtro automatico — e spesso non sai nemmeno quali criteri applica — nessun essere umano lo vedrà mai. Significa che devi imparare a scrivere il CV non per convincere una persona in carne e ossa, ma per ingannare un algoritmo. Devi ottimizzare ogni riga pensando a una macchina, non a un recruiter. È un cambiamento fondamentale nel modo in cui ci presentiamo al mondo, cioè. Come spiega la Treccani, questa trasformazione digitale sta ridefinendo il concetto stesso di lavoro.
Al lavoro c’è uno che fa recruiting e mi raccontava che ormai deve inserire certe parole chiave nei CV — termini tecnici precisi, spesso imposti dal software di selezione automatica — altrimenti il sistema li scarta automaticamente, senza che occhio umano li abbia mai sfiorati. È assurdo! Praticamente è diventato più importante sapere come parlare agli algoritmi che sapere fare il proprio lavoro. Mah.
Gli algoritmi stanno entrando anche in settori delicatissimi, dove le conseguenze di un errore possono essere gravissime. Negli ospedali aiutano a diagnosticare malattie analizzando radiografie, individuando tumori o fratture che a occhio nudo potrebbero sfuggire. Spesso sono più precisi dei medici, il che è fantastico. Ma quando sbagliano? Chi è responsabile? E come fai a fidarti di una diagnosi che non capisci, prodotta da un sistema che nessuno sa davvero spiegare? Mio zio lavora in ospedale e dice che i giovani medici a volte si fidano troppo dei computer. “Prima guardavamo il paziente”, dice, “ora guardiamo lo schermo”.
Scuola e Predizioni Pericolose
Nelle scuole, questi strumenti predicono quali studenti rischiano di abbandonare gli studi prima del diploma. In teoria può essere utile per attivare interventi tempestivi e mirati. Però generano anche profezie che si auto-avverano: se l’algoritmo predice che uno studente avrà difficoltà, gli insegnanti potrebbero inconsciamente trattarlo diversamente, dedicandogli meno aspettative e meno stimoli. È un casino, perché da una parte vuoi aiutare i ragazzi in difficoltà, dall’altra rischi concretamente di creare i problemi che stavi cercando di prevenire.
Momento di verità: Se un servizio online è gratuito, non sei il cliente: sei il prodotto. Ogni like, ogni scroll, ogni secondo che passi su un’app viene monetizzato — venduto agli inserzionisti sotto forma di profili comportamentali sempre più precisi. La tua attenzione è la nuova valuta del capitalismo digitale, esattamente come il petrolio lo era per l’economia industriale del Novecento. Per approfondire questo concetto, Britannica offre un’analisi dettagliata del fenomeno.
Leggi anche
