Argomenti: giudizio – storia – filosofia – potere – una parola abusata
Dalle tavolette d’argilla babilonesi all’intelligenza artificiale: un viaggio nella parola che governa il mondo contemporaneo
Algoritmo. Una parola che si sente, si legge ogni giorno, ovunque: nei giornali, nelle conversazioni, nei comunicati aziendali, nei dibattiti politici. Una parola che viene usata per spiegare tutto e che, proprio per questo, rischia di non spiegare nulla. Vale la pena fermarsi e chiedersi davvero: cosa significa? Da dove viene? Chi la inventò, e perché? Cosa fa, concretamente, un algoritmo? E soprattutto: cosa comporta che oggi siano gli algoritmi — e non solo le leggi, i contratti, i giudici — a governare buona parte delle decisioni che riguardano la nostra vita? Questo articolo è un tentativo di rispondere a queste domande partendo dall’inizio: non dall’informatica, ma dalla storia delle idee.
I. Prima dell’algoritmo: l’ordine
Tutto comincia con una domanda molto più antica dell’informatica, molto più antica della matematica stessa, nel senso moderno del termine. La domanda è questa: il mondo segue un ordine, oppure è puro caos?
I filosofi greci la chiamavano la domanda sul logos — una parola greca che significa insieme “parola”, “ragione” e “principio ordinatore dell’universo”. Eraclito di Efeso, vissuto intorno al 500 avanti Cristo, sosteneva che sotto l’apparente disordine del mondo si nascondesse un principio razionale che tutto governa, una struttura invisibile ma reale. Pitagora e i suoi seguaci credevano che quell’ordine fosse di natura numerica: il mondo, nella sua profondità, è fatto di proporzioni e di relazioni matematiche. Parmenide spingeva ancora oltre: l’essere è uno, immutabile, razionale; il cambiamento è illusione.
Queste idee possono sembrare astruse, lontane. Ma contengono una premessa senza la quale nessun algoritmo potrebbe mai esistere: se il mondo fosse assolutamente imprevedibile, nessuna procedura di calcolo servirebbe a qualcosa. L’algoritmo presuppone che i fenomeni seguano regolarità, che le cause producano effetti prevedibili, che esista una struttura sottostante alla realtà che la ragione umana può scoprire, descrivere, e infine imitare. Senza questa premessa filosofica, tutto il resto crolla.
II. I primi algoritmi della storia: le tavolette di argilla
L’algoritmo, come pratica concreta, è molto più antico della parola che lo designa. Esisteva tremila anni prima di Cristo, sulle sponde del Tigri e dell’Eufrate, nella civiltà mesopotamica che noi chiamiamo babilonese.
Gli scribi babilonesi — i funzionari addestrati alla scrittura e al calcolo nelle grandi città-stato della Mesopotamia — incidevano su tavolette di argilla, con uno stilo di canna, sequenze di operazioni per risolvere problemi pratici: come dividere un campo tra più eredi, come calcolare l’interesse su un prestito, come determinare la quantità di mattoni necessaria per costruire un muro di dimensioni date. La tavoletta più famosa di questa tradizione è la Plimpton 322, conservata oggi alla Columbia University di New York, datata intorno al 1800 avanti Cristo: contiene una tavola di terne numeriche con proprietà geometriche precise — le cosiddette “terne pitagoriche”, cioè tre numeri la cui relazione è la stessa del teorema di Pitagora, che però sarà formulato mille anni dopo. Gli scribi babilonesi non dimostravano perché funzionasse: fornivano la procedura passo per passo. Non erano filosofi, erano ingegneri. E le loro procedure erano già, in tutto e per tutto, algoritmi.
Lo stesso accadeva in Egitto, dove il Papiro Rhind — un rotolo di papiro risalente a circa 1650 avanti Cristo — contiene ottantacinque problemi matematici risolti con procedure standardizzate: calcolo di aree, volumi, ripartizioni di pane e birra. In Cina, il testo matematico più antico che possediamo, il Jiuzhang Suanshu (“Nove capitoli sull’arte matematica”), redatto intorno al II secolo avanti Cristo, contiene algoritmi per la risoluzione di sistemi di equazioni lineari — gli stessi che oggi si insegnano alle scuole superiori. In India, le grandi tradizioni astronomiche svilupparono procedure di calcolo sofisticatissime per prevedere le posizioni dei pianeti. Algoritmi dappertutto, senza che nessuno li chiamasse ancora così.
III. La parola e il suo inventore: al-Khwarizmi a Baghdad
La parola “algoritmo” ha un’origine precisa, e racconta da sola una storia straordinaria di civiltà, di scambi culturali e di un curioso incidente linguistico.
Siamo a Baghdad, all’inizio del IX secolo dell’era cristiana. Il califfo al-Ma’mun, della dinastia abbaside, ha costruito la più grande istituzione culturale del mondo medievale: la Bayt al-Hikma, la “Casa della Sapienza” — una biblioteca, un centro di traduzione e di ricerca, una sorta di università ante litteram in cui i manoscritti scientifici e filosofici dell’antichità greca, persiana, indiana e babilonese vengono raccolti, tradotti in arabo, studiati e sviluppati. È il momento più luminoso di quella civiltà islamica medievale che ha preservato e trasmesso all’Europa buona parte del sapere antico.
In questo ambiente straordinario lavora Muhammad ibn Musa al-Khwarizmi (circa 780-850 d.C.), matematico, astronomo e geografo di origine centroasiatica — probabilmente proveniente dalla regione del Khwarezm, nell’odierno Uzbekistan. Al-Khwarizmi scrive due opere che cambieranno la storia della matematica mondiale.
La prima si intitola Kitab al-mukhtasar fi hisab al-jabr wa al-muqabala — “Il libro compendioso di calcolo per completamento e riduzione” — e presenta per la prima volta l’algebra come disciplina autonoma, con metodi sistematici per risolvere equazioni. Dalla parola araba al-jabr (“completamento”, cioè il trasporto di un termine da un membro all’altro dell’equazione) deriva la parola algebra, entrata in tutte le lingue europee attraverso la traduzione latina medievale dell’opera.
La seconda opera riguarda il sistema di numerazione indiano — quello che noi oggi chiamiamo “numeri arabi”, i simboli 0, 1, 2, 3… che usiamo ogni giorno. Al-Khwarizmi ne espone il funzionamento in un trattato che, tradotto in latino nel XII secolo da un monaco inglese di nome Roberto di Chester, comincia con le parole “Dixit Algorithmi” — “Disse Algoritmi”. “Algoritmi” era la latinizzazione del nome al-Khwarizmi: il nome proprio dello studioso era diventato, per corruzione fonetica — al-Khwarizmi diventa Algoritmi nel passaggio dall’arabo al latino medievale — il titolo dell’autore. E da questo titolo, usato come sinonimo del metodo di calcolo che l’opera insegnava, nacque per scivolamento semantico la parola “algoritmo”. Una delle parole più potenti della modernità viene dunque da un nome proprio, storpiato da un traduttore medievale che latinizzò un nome arabo che indicava a sua volta un luogo dell’Asia centrale. È un’etimologia che sembra un racconto di avventure.
IV. La svolta greca: la logica come madre dell’algoritmo
Mentre a Baghdad al-Khwarizmi codificava le procedure di calcolo, il contributo più profondo alla struttura concettuale dell’algoritmo era già venuto, molti secoli prima, dalla Grecia antica. Non dall’aritmetica, ma dalla logica formale — la disciplina che studia la struttura del ragionamento valido, indipendentemente dal contenuto di ciò di cui si ragiona.
Aristotele (384-322 avanti Cristo) è il fondatore di questa disciplina. Con il suo sistema del sillogismo — una forma di ragionamento deduttivo che procede da premesse a conclusioni secondo regole precise — Aristotele stabilisce un principio che è il cuore filosofico di qualsiasi algoritmo: la verità di una conclusione non dipende dall’opinione di chi ragiona, ma dalla struttura del ragionamento stesso. Se le premesse sono vere e la forma del ragionamento è valida, la conclusione è necessariamente vera. Non conta chi sei, non conta cosa preferisci: conta solo la struttura. L’algoritmo è un ragionamento che non salta nessun passaggio, che non lascia spazio all’arbitrio.
Euclide di Alessandria (circa 300 avanti Cristo) porta questo principio nella matematica. Il suo Elementi — tredici libri di geometria e teoria dei numeri — è forse il primo grande esempio di un sistema formale: un edificio di conoscenza costruito passo per passo, partendo da un numero minimo di definizioni e assiomi (affermazioni accettate come punto di partenza senza dimostrazione) e procedendo per deduzioni rigorose fino a centinaia di teoremi. È lo spirito dell’algoritmo applicato alla conoscenza matematica intera.
Una curiosità che vale la pena ricordare: Euclide ci ha lasciato quello che molti considerano il primo algoritmo esplicito della storia della matematica. Si chiama algoritmo di Euclide ed è una procedura per trovare il massimo comune divisore di due numeri — cioè il numero più grande che divide entrambi senza resto. È una procedura semplice, elegante, perfettamente descritta: si applica ancora oggi, identica, nei computer di tutto il mondo. Ha più di duemila anni.
V. Il grande salto: dall’astrazione all’automazione
Per secoli, gli algoritmi restarono nella testa e nelle mani degli esseri umani. Era sempre un uomo — uno scriba, un geometra, un mercante, un astronomo — a eseguire la procedura. La rivoluzione concettuale più profonda della storia del calcolo fu un’altra: capire che, se una procedura è descritta con sufficiente precisione, può essere eseguita da qualsiasi cosa che segua regole — anche da una macchina. Non è l’invenzione del computer: è un’idea filosofica che precede il computer di secoli.
Il primo a intuirla con chiarezza fu Gottfried Wilhelm Leibniz (1646-1716), matematico e filosofo tedesco — lo stesso che, insieme a Newton, inventò il calcolo infinitesimale. Leibniz sognava una calculus ratiocinator, una macchina del ragionamento: uno strumento che, riducendo ogni pensiero a simboli e ogni inferenza a un calcolo, avrebbe permesso di risolvere qualsiasi disputa intellettuale come si risolve un’equazione. Progettò anche una macchina calcolatrice meccanica. Il sogno era troppo grande per i mezzi del suo tempo, ma l’intuizione era giusta.
Due secoli dopo, nel 1854, il matematico inglese George Boole pubblicò Le leggi del pensiero: un’opera in cui dimostrava che la logica aristotelica poteva essere tradotta in un sistema algebrico — quello che oggi chiamiamo algebra booleana — in cui ogni affermazione vale 1 (vera) o 0 (falsa) e le operazioni logiche (E, O, NON) diventano operazioni aritmetiche. Quasi un secolo dopo, nel 1937, lo studente ventunenne Claude Shannon dimostrò nella sua tesi di laurea che l’algebra di Boole poteva essere realizzata fisicamente con circuiti elettrici: ogni interruttore aperto o chiuso corrisponde a un 0 o a un 1. Era la base teorica dell’elettronica digitale, e quindi di ogni computer moderno.
Ma la tappa concettuale decisiva per capire cosa sia davvero un algoritmo arriva nel 1936, con un articolo del matematico inglese Alan Turing intitolato On Computable Numbers, with an Application to the Entscheidungsproblem — “Sui numeri calcolabili, con un’applicazione al problema della decisione”. L’Entscheidungsproblem, cioè “problema della decisione”, era stato formulato dal matematico tedesco David Hilbert nel 1928: esiste un metodo meccanico — un algoritmo, diremmo oggi — capace di stabilire, per qualsiasi enunciato matematico, se esso è vero o falso? Turing dimostrò che la risposta è no: esistono problemi matematici per i quali nessun algoritmo potrà mai fornire una risposta in tempo finito. Ma per dimostrarlo, inventò qualcosa di straordinario: un modello astratto di macchina calcolatrice — la macchina di Turing — capace di eseguire qualsiasi algoritmo descrivibile in modo preciso. Non era una macchina reale: era un’idea. Ma quella idea conteneva già il concetto fondamentale del computer moderno: una macchina universale che può eseguire qualsiasi programma, a seconda di come la si istruisce.
VI. La definizione: che cosa è, esattamente, un algoritmo
Arriviamo ora alla definizione. Non partendo dall’informatica, ma da tutto il percorso che abbiamo fatto.
Un algoritmo è una procedura finita di istruzioni esplicite che, partendo da determinati dati in ingresso, conduce — attraverso un numero finito di passaggi, ciascuno dei quali è precisamente definito — a un risultato. Tre aggettivi sono essenziali e meritano attenzione:
Finita: la procedura deve terminare. Un algoritmo che non finisce mai non è utile — è come una ricetta che dice “continua a mescolare per sempre”. Ogni algoritmo deve avere un punto di arrivo.
Esplicita: ogni istruzione deve essere così precisa da non lasciare spazio all’interpretazione. “Aggiungi un po’ di sale” non è un’istruzione algoritmica. “Aggiungi 5 grammi di sale” lo è. L’algoritmo non tollera ambiguità.
Deterministica (nel caso più classico): dati gli stessi dati in ingresso, l’algoritmo produce sempre lo stesso risultato. È riproducibile: chiunque segua le stesse istruzioni nello stesso ordine ottiene la stessa risposta. Questa è la differenza tra un algoritmo e un’opinione.
Ma c’è una definizione più profonda, che va oltre quella tecnica. L’algoritmo è il tentativo umano di trasformare una decisione in una procedura, affinché possa essere ripetuta senza dover ogni volta ricominciare a ragionare da capo. È, in questo senso, la più antica forma di intelligenza collettiva: il sapere di una generazione, codificato in una procedura, tramandato alle generazioni successive. Quando uno scriba babilonese incideva su una tavoletta di argilla i passi per calcolare l’area di un campo, stava facendo esattamente questo: fissare una conoscenza in una forma che altri potessero ripetere senza doverla reinventare.
Vale la pena aggiungere un punto fondamentale e da tenere sempre a mente: l’algoritmo non conosce la realtà. Conosce una sua rappresentazione — i dati. I dati sono sempre una traduzione parziale e imperfetta della realtà: scelgono cosa misurare, cosa ignorare, come classificare. Ogni algoritmo lavora su questa traduzione, non sul mondo diretto. È un punto apparentemente tecnico che ha conseguenze filosofiche e politiche enormi, come vedremo.
VII. La questione dell’informazione: cosa sono i dati
Prima di arrivare al presente, vale la pena fermarsi su un concetto che il XX secolo ha chiarito in modo fondamentale: cos’è un’informazione?
Nel 1948 il matematico americano Claude Shannon — lo stesso che aveva collegato la logica booleana ai circuiti elettrici — pubblicò A Mathematical Theory of Communication, opera fondatrice della teoria dell’informazione. La sua risposta alla domanda “cos’è un’informazione?” è semplice e profonda: un’informazione è una differenza che riduce un’incertezza. Se so già che pioverà, la conferma del meteorologo non mi dà informazione nuova. Se non lo sapevo, la notizia mi informa. Il valore dell’informazione non dipende dalla sua verità in assoluto, ma dalla misura in cui riduce la mia incertezza su qualcosa.
Questa definizione ha una conseguenza straordinaria: qualsiasi cosa — un’immagine, una parola, una melodia, un prezzo di borsa, il battito cardiaco di un paziente — può essere tradotta in una sequenza di differenze binarie: 0 e 1, acceso e spento, sì e no. Tutto diventa, in linea di principio, un dato. E qualsiasi dato può diventare materiale per un algoritmo. È la premessa teorica che ha reso possibile il mondo digitale: non la potenza dei computer, ma l’idea che la realtà possa essere interamente tradotta in numeri.
VIII. Il grande salto: gli algoritmi prendono il governo
Per la maggior parte della loro storia, gli algoritmi erano strumenti nelle mani di specialisti: scribi, astronomi, ingegneri, matematici, poi programmatori. La loro influenza sulla vita quotidiana delle persone comuni era indiretta. Questo è cambiato radicalmente nell’ultimo trentennio, con l’avvento di internet, degli smartphone e soprattutto con la diffusione dei big data — le enormi quantità di informazioni che ogni persona produce ogni giorno usando un telefono, un motore di ricerca, una carta di credito, un’applicazione di navigazione.
Oggi gli algoritmi decidono quale notizia appare in cima al tuo feed di notizie e quale scompare. Decidono il prezzo del biglietto aereo che stai per acquistare — e quel prezzo cambia di ora in ora, in funzione di decine di variabili che non conosci. Decidono se il tuo curriculum sarà letto da un selezionatore umano o eliminato automaticamente prima di arrivare a lui. Decidono il credit score — il punteggio di affidabilità creditizia che determina se ti verrà concesso un mutuo, e a quale tasso. Decidono, in alcuni sistemi giudiziari, la probabilità statistica che un imputato commetta reati in futuro — e questa probabilità influenza la sentenza.
Non è fantascienza: è il presente. E questo presente pone domande che non sono domande tecniche, ma domande politiche, etiche e filosofiche.
IX. Il potere invisibile: chi controlla l’algoritmo?
Il problema fondamentale degli algoritmi nella vita pubblica contemporanea non è la loro efficienza o la loro velocità. È la loro opacità — il fatto che, nella maggior parte dei casi, chi viene colpito dalle loro decisioni non sa come quelle decisioni sono state prese, non può contestarle, non può nemmeno sapere quali criteri le hanno determinate.
Il caso più studiato e più inquietante è quello del sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), usato in diversi stati americani per valutare la probabilità di recidiva — cioè la probabilità che un condannato commetta nuovi reati — e quindi per orientare i giudici nella determinazione delle pene e nella concessione della libertà condizionale. Un’analisi di oltre settantamila casi, pubblicata dall’organizzazione giornalistica ProPublica, ha mostrato che il sistema classificava i detenuti afroamericani come ad alto rischio di recidiva in proporzioni doppie rispetto ai detenuti bianchi, indipendentemente dai reati effettivamente commessi. Il motivo non era una programmazione deliberatamente razzista: era che l’algoritmo era stato addestrato su dati storici che riflettevano decenni di discriminazione nel sistema penale americano. Il passato ingiusto era stato codificato nell’algoritmo, che lo proiettava sul futuro amplificandolo.
Amazon ha usato per anni un algoritmo di selezione del personale che penalizzava sistematicamente i curricula di candidate donne: perché era stato addestrato sui curricula dei dipendenti assunti negli anni precedenti, in un settore prevalentemente maschile, e aveva imparato a replicare il pregiudizio esistente. Ci vollero anni per accorgersene. Nel settore medico, algoritmi di diagnosi addestrati su immagini quasi esclusivamente di pazienti anziani, maschi e bianchi hanno mostrato prestazioni molto peggiori sulle categorie sottorappresentate nei dati di addestramento.
Il bias algoritmico — la distorsione sistematica che un algoritmo incorpora quando i dati su cui è stato addestrato riflettono pregiudizi, squilibri o ingiustizie della realtà — è forse la sfida più urgente che le democrazie contemporanee devono affrontare nel campo della tecnologia. Non perché gli algoritmi siano malvagi: ma perché un algoritmo è sempre il prodotto di scelte umane — su cosa misurare, su quali dati raccogliere, su quale obiettivo ottimizzare — e quelle scelte incorporano inevitabilmente i valori, i pregiudizi e gli interessi di chi le ha compiute.
Di qui le domande che qualsiasi cittadino informato dovrebbe imparare a porre davanti a qualsiasi sistema algoritmico che lo riguardi: chi ha progettato questo algoritmo? Con quale obiettivo? Su quali dati è stato addestrato? Chi controlla il controllore? Chi può contestare le sue decisioni? E — la domanda più radicale — è giusto lasciare che questa decisione venga presa da un algoritmo, oppure richiede un giudizio umano che nessuna procedura può sostituire?
X. L’intelligenza artificiale: un algoritmo più complesso, o qualcosa d’altro?
Negli ultimi anni la parola “algoritmo” si è affiancata — e talvolta confusa — con un’altra espressione altrettanto inflazionata: “intelligenza artificiale”. Vale la pena distinguere con precisione.
Gli algoritmi tradizionali — quelli che abbiamo percorso fin qui — sono deterministici e trasparenti: un programmatore definisce esplicitamente ogni regola, ogni condizione, ogni passaggio. Il comportamento del sistema è in linea di principio completamente spiegabile: se hai questi dati, ottieni questo risultato, per questi motivi.
I sistemi di intelligenza artificiale basati sull’apprendimento automatico — in inglese machine learning, la tecnica alla base di quasi tutta l’IA moderna — funzionano in modo fondamentalmente diverso: non vengono programmati esplicitamente. Vengono addestrati su grandi quantità di dati, e imparano da soli a riconoscere pattern — strutture ricorrenti — e a fare previsioni. Il programmatore non scrive le regole: scrive il metodo con cui la macchina imparerà le proprie regole dai dati. Il risultato è spesso un sistema che funziona molto bene, ma le cui decisioni interne sono difficili o impossibili da spiegare anche per chi lo ha costruito. È quello che i ricercatori chiamano il problema della “scatola nera” — un sistema che produce output, ma di cui non si riesce a ricostruire il ragionamento interno.
Questo non significa che l’IA sia magia, o che sia incomprensibile per principio. Significa che ha limiti e rischi specifici, diversi da quelli degli algoritmi tradizionali, e che richiede strumenti di controllo e di valutazione diversi. L’IA è, in ultima analisi, un algoritmo — ma un algoritmo la cui struttura interna emerge dall’addestramento sui dati, non dalla progettazione esplicita. La differenza non è di natura, ma di grado e di opacità.
XI. La quintessenza: cosa resta, alla fine
Abbiamo percorso tremila anni di storia, dall’argilla di Babilonia ai sistemi di intelligenza artificiale che orientano i giudici americani. Cosa rimane, come nucleo essenziale?
Un algoritmo è, nella sua quintessenza — la quinta essenza degli antichi, la sostanza più pura e fondamentale che rimane dopo aver eliminato tutto il superfluo — il tentativo umano di trasformare il giudizio in procedura. Di prendere una decisione — come calcolare l’area di un campo, come trovare la via più breve tra due città, come valutare il rischio di credito di un cliente — e di descriverla in modo così preciso da poterla ripetere, delegare, automatizzare.
Questo tentativo ha prodotto risultati straordinari: ha reso possibile la navigazione astronomica, la medicina moderna, la comunicazione digitale, la previsione del tempo, la gestione dei voli aerei. Ha liberato gli esseri umani da lavori ripetitivi e ha moltiplicato enormemente la capacità di calcolo collettiva.
Ma ha anche prodotto un rischio che è, in senso preciso, il rovescio della sua forza: quando trasformiamo un giudizio in una procedura, tendiamo a dimenticare che quella procedura era nata da un giudizio. Tendiamo a trattare l’output dell’algoritmo come neutro, oggettivo, inevitabile — come se non fosse il prodotto di scelte umane su cosa misurare, come pesare le variabili, quale obiettivo ottimizzare. Il rischio non è l’algoritmo in sé: è l’oblio delle scelte che lo hanno costruito.
La risposta non è rifiutare gli algoritmi — sarebbe come rifiutare le procedure, il metodo, la ragione stessa. È capire che ogni algoritmo incorpora una visione del mondo, e che quella visione merita di essere esaminata, discussa, contestata democraticamente come qualsiasi altra scelta che riguarda la vita collettiva. Il codice non è legge naturale: è politica. E la politica, in una democrazia, appartiene ai cittadini — anche a quelli che non sanno programmare.
Giustizia e libertà sempre e per tutti
