Algoritmocrazia: Quando le Macchine Decidono per Noi

Algoritmocrazia: Quando le Macchine Decidono per Noi

Parte 1 di 5: Cos’è l’Algoritmocrazia?

[Questo articolo si compone di 5 parti. In ognuna di essi esploreremo il mondo degli algoritmi e della loro ascendenza sulle nostre vite. In questa sezione analizzeremo il concetto di Algoritmo. Gli altri articoli riguarderanno: 2-Il lato oscuro degli algoritmi: 3-Il Capitalismo della sorveglianza: 4 – Principio per un Futuro Algoritmico Etico: 5 – Governare gli Algoritmi o essere Governati?]

Ecco, questo è quello che gli esperti chiamano “algoritmocrazia” – diciamo un governo degli algoritmi. Non è che ci sia un imperatore robot, eh, però gli algoritmi stanno davvero prendendo sempre più decisioni che una volta spettavano agli esseri umani. È una roba che fa pensare.

Sai, Paolo Benanti, che è un francescano ma anche uno che ne capisce di tecnologia – figura particolare, no? – nel suo libro Oracoli. Tra algoretica e algocrazia, scritto nel 2018 per Luca Sossella Editore a Roma, ha praticamente inventato il termine “algoretica” per spiegare che serve un’etica nuova per questi sistemi. Secondo me ha ragione, perché applicare l’etica del passato a tecnologie così diverse è un po’ come cercare di guidare un’auto con le regole per i cavalli. Voglio dire, non funziona proprio!

Ma cos’è esattamente un algoritmo?

Boh, se vai sulla Treccani, dicono che è “una procedura sistematica per risolvere un problema”. Però questa definizione non rende l’idea di quanto siano diventati potenti questi sistemi, cioè. Praticamente ogni volta che fai una ricerca su Google, l’algoritmo PageRank decide cosa farti vedere per primo. È tipo un bibliotecario che conosce milioni di libri e in un secondo ti dice quale leggere. Figata, ma anche inquietante allo stesso tempo.

Le Scatole Nere della Società Moderna

Il problema è che questi algoritmi sono diventati così complessi che nemmeno chi li ha creati capisce sempre come funzionano. Frank Pasquale, nel suo The Black Box Society, scritto nel 2015 per Harvard University Press a Cambridge, li chiama proprio “scatole nere” – sai tipo quelle degli aerei che registrano tutto ma non puoi aprirle facilmente. E lì casca l’asino, perché come fai a fidarti di qualcosa che non capisci?

L’altro giorno ho provato a chiedere un prestito in banca e mi sono accorto di questa cosa. Una volta il direttore ti guardava in faccia, valutava se sembravi una persona affidabile, magari conosceva la tua famiglia. Oggi invece un algoritmo analizza centinaia di dati – dal tuo conto corrente ai tuoi like su Facebook, dalla zona dove vivi alle app che usi – e decide in pochi secondi se meriti fiducia. E tu non sai mai quali criteri ha usato. Boh, magari non ti dà il prestito perché metti troppi like ai video di gattini. Chi lo sa!

Una domanda per te: Hai mai pensato a quante decisioni della tua giornata sono influenzate da algoritmi che non vedi? Dal feed di Facebook al percorso del navigatore, dalle pubblicità che vedi ai video che YouTube ti suggerisce…

_________________________

Nel prossimo articolo: Esploreremo il lato oscuro degli algoritmi con Cathy O’Neil e i suoi Weapons of Math Destruction. Scopriremo come sistemi apparentemente neutrali possano perpetuare e amplificare discriminazioni esistenti, dal sistema giudiziario americano alle nostre città italiane. Per approfondire il tema della discriminazione algoritmica, la Britannica offre interessanti spunti di riflessione. Ti aspetto!

[Vuoi rimanere aggiornato sulla serie? Seguimi sui social per non perdere i prossimi articoli sull’algoritmocrazia.]