Diciamo che la storia di ciascuno di noi è fatta di incontri, di casualità e di occasioni. Io ero uno dei tanti ragazzi di Roma degli anni 90 che pensava che il suo futuro fosse quello di finire gli studi e poi cercare uno dei tanti possibili impieghi sul mercato del lavoro. Stavo studiando ingegneria, però mentre facevo ingegneria, profeticamente un professore di filosofia del liceo aveva visto in me qualcosa che io magari non avevo visto quando gli avevo detto che preferivo la tecnica alla filosofia. Lui mi aveva detto: Beh, preferirei far carriera che non capire la realtà. Ecco, a un certo punto, mentre stavo verso il quarto anno di ingegneria, mi sono reso conto che l'ingegneria era potentissima, ma mi dava un buono schema per approssimare la realtà. Desideravo qualcosa di più. Non me lo sono sinceramente andato a cercare, però, come tante volte accade, all'epoca avevo una storia con una ragazza, questa ragazza mi fatto incontrare I frati e un giorno, durante un incontro, ho visto in quella forma di vita, in quella possibilità di poter cercare il senso delle cose per tutta la mia vita un qualcosa che mi piaceva tantissimo Da lì è partito un percorso che mi portato prima a studiare filosofia, poi teologia e finito il percorso teologico ho fatto una specializzazione in etica Dopo la specializzazione in etica sostanzialmente ho preso una borsa di studio per Georgestown, dove mi hanno invitato a fare un dottorato, o parte di un dottorato, perché poi per motivi ecclesiali il titolo mi serviva che fosse di un'Università pontificia, sull'intersezione tra umano, tecnologia e quant'altro. E lì ho potuto recuperare in questo percorso di studi tanto gli studi tecnici quanto gli studi etici e filosofici. E così è venuto fuori questo Pitch D, questo dottorato sull'intersezione tra umano e macchina e sulle sfide tra umano e macchina e dentro questo dottorato c'erano 3 sfide, erano 3 gli ambiti tecnologici che andavo a indagare. Uno era quello delle nanotecnologie, uno era quello delle biotecnologie cognitive e uno era quello dell'intelligenza artificiale. Era il 2009 e all'epoca pensavo che fossero le neurotecnologie dell'enancement, quelle che più promettevano un impatto forte. Era partita la primavera delle intelligenze artificiali, è tornato in Italia, quello è stato un po' il grande cammino di approfondimento.

umani? Dunque, noi abbiamo visto un profondo momento di trasmutazione profonda del nostro vivere con la rivoluzione industriale, quando una macchina improvvisamente è riuscita a prendere il posto del nostro muscolo, della nostra forza muscolare. A partire dagli anni 'cinquanta dello scorso secolo, abbiamo iniziato a pensare di potere, grazie alla computazione, a questa forza che di fatto le macchine calcolatrici ci davano, diventati poi computer, di poter far prendere alla macchina anche un'altra funzione umana, che è quella della cognizione. Le tecnologie cosiddette intelligenti nascono come un'evoluzione che però rischia di fare un'ulteriore rivoluzione industriale, questa volta dagli effetti molto più deflagranti e globali. Tutto questo si gioca attorno a un fattore chiave che è la computazione. Uno dei padri di questo mondo, Alan Turing, contemporaneamente a un altro studioso che si chiama Church, formulano indipendentemente ma connessi quello che è un po' il postulato dei Church Touring. Il postulato è questo: qualsiasi operazione computabile, indipendentemente dal substrato che lo computa, prima o poi potrà essere computata analogamente da un'altra macchina. E quindi, se l'intelligenza è qualcosa di calcolabile, prima o poi qualcosa di non biologico potrà in qualche misura calcolarlo nella stessa maniera. Quello che negli anni 50 era un sogno oggi lo vediamo con Alpha Fold, con Deepmind, con GPT-tre sempre più vicino. Ecco, ma questa trasformazione è veramente analoga all'essere umano? Ecco, se mi permettete di giocare un po' con le parole, la computazione inizia con la lettera C, ecco, ci sono almeno altre C che poi dopo 50-settanta anni ci siamo resi conto che non sono computabili. Uno è il corpo, perché c'è il cosiddetto paradosso di Moravec, per cui un'intelligenza artificiale riesce a fare molto bene un compito cognitivo alto, il logaritmo di 12, e riesce a fare molto meno bene un compito cognitivo basso, come aprire la maniglia di una porta. Per cui una calcolatrice che fa un logaritmo la compro a pochi dollari o a pochi centesimi, anche su una piattaforma di e-commerce. Una mano robotica che apre la maniglia, ecco, mi serve un grande istituto italiano di tecnologia e costa centinaia di migliaia di euro. Mentre un bambino, a 5 anni, apre la maniglia di casa e se ne va a giocare, per fare il logaritmo deve arrivare alle superiori. La corporeità e il dono che la corporeità ci fa come intelligenza e intelligenza motoria non si computa. L'altra cosa è la coscienza. Ecco, il paradigma di Church Turing è connesso a un fattore, un problema è computabile, sto semplificando molto, se conosce un suo termine, qualcosa che a che fare con un interrupt. Ecco, la nostra coscienza, se un interrupt, gli succede qualcosa di molto brutto che si chiama morte. Quindi la coscienza non è un problema Turing computabile. Corpo, coscienza, ma c'è un'altra cosa che le macchine non ci riescono a dire, sempre con la C, la causalità. Ecco, noi possiamo prendere qualcosa che è correlativo, Si aprono gli ombrelli, quindi piove, l'accelerometro del mio telefonino dice che sto rallentando, quindi c'è traffico. Ma perché c'è traffico? Non lo riusciamo a dire. E quindi la causazione è ancora qualcosa che di fatto appartiene solo all'umano. Ecco, questi fattori non computabili ci dicono che c'è uno spazio umano di differenza qualitativa rispetto alla macchina. Che cos'è l'algoretica? E' cercare di scrivere un nuovo capitolo di questo spazio umano e solo umano che è l'etica, non è animale perché gli animali hanno gli istinti, non è delle macchine perché le macchine hanno la progettazione E questa volta, nel momento in cui la macchina può surrogare alcune decisioni umane, questo spazio di etica, computabile dalla macchina, algoretica, dovrebbe funzionare come una sorta di grande guard rail, come qualcosa che tiene la macchina all'interno di questa strada, all'interno di questo sentiero. Non è un'etica normativa, fai questo e non fare quell'altro, ma è una di quelle forme dell'etica, le più antiche, come diceva Aristotele, probabilmente anche più legata all'etica delle virtù. Se noi dovessimo scegliere tra un'intelligenza artificiale giusta e una ingiusta, quale vorremmo? Se dovessimo scegliere tra un'intelligenza artificiale equa e una non equa, tra un intelligenza artificiale inclusiva e una non inclusiva. Ecco l'algoretica cerca di fornire degli strumenti computazionali che in qualche misura mitighino e guidino la macchina verso I fini che noi vogliamo. Grazie, questo

cominciamo dal dire che non esiste una tecnologia neutrale. Quando abbiamo chiaramente inventato la clava 60000 anni fa il primo uomo che l' presa in mano si sarà chiesto se quella era un'arma o era un utensile. Bene, al di là di questi semplici artefatti che sono direttamente legati alla nostra mano quando la tecnologia è diventata infrastruttura, ecco l'infrastruttura inocula dentro questo suo disporsi qualcosa che è anche connesso e legato a una visione del mondo, quindi a una visione politica. Un esempio è quando abbiamo creato l'infrastruttura elettrica. Con l'infrastruttura della rete elettrica noi conosciamo almeno 2 modelli di distribuzione, uno fatto da Samuel Linsul, fondatore della General Electric Company, che seguiva quella modalità americana di chiamare un qualcosa democratizzato, democratizing, se era disponibile per tutti sul mercato. Quindi abbassiamo I costi, le famiglie possono comprare elettricità, l'elettricità si diffonde. Ma se noi andiamo in Unione Sovietica, troviamo che il primo piano quinquennale di Lenin, il Goelro, prevede la sovietizzazione delle repubbliche socialiste mediante la diffusione dell'energia elettrica. Quindi l'infrastruttura è sempre una forma d'ordine, è sempre una disposizione di potere. E qui arriviamo a 2 modalità che oggi stanno ai 2 estremi, anche geografici, rispetto all'Europa. Da una parte l'idea che il singolo e la libertà del singolo sia liberamente disponibile per far tutto, dall'altra l'idea che invece una centralizzazione aumenti l'efficienza e aumenti l'efficacia. Se mi posso permettere una piccola critica, un modello troppo liberista, noi abbiamo visto, e questo dobbiamo dire grazie anche al coraggio femminile nell'anno del Me Too, che forse abbiamo un problema sul consenso. Quando un uomo pensa che un sì di una donna sia un sì a qualsiasi cosa, questo crea un grande problema sociale Tanti gruppi ci stanno dicendo che un modello di lavorazione dei dati della Silicon Valley è un po' macchiato di quel modello di consenso un po' maschilista, no? Faccio clic una volta su consenso e poi sui miei dati puoi fare quello che vuoi. Ecco, quella libertà di quel tipo per noi europei suona troppo di potere non bilanciato. Cioè qualcuno che molto più potere di te non può abusare di te, in qualsiasi modo lui voglia. Di contro, la società dell'informazione e del controllo, dove il consenso neanche c'è, alla fine paradossalmente arriva agli stessi esiti, ma con un controllore centrale che non è detto che risponda a quei valori per I quali abbiamo versato così tanto sangue nell'Europa moderna, che sono I valori di legittimazione della cosa pubblica e dello stato sociale. E allora come fare? Ecco, una via che noi stiamo percorrendo è questa della regolamentazione che procede in 2 direzioni: da una parte riconoscere che non tutte le infrastrutture hanno la stessa pericolosità. E' chiaro che distribuire un sistema di riconoscimento video facciale un impatto molto diverso dall'utilizzare, per esempio, un sistema di qualità video nella produzione dei bottoni all'interno di una fabbrica, di una press. Quindi dire che non tutto è uguale è un livello di riflessione, di tempo e di spazio pubblico di riflessione tipico della tradizione europea, che da almeno 800, 900000 anni conosce la grande tradizione delle universitas, cioè dove diversi saperi si confronta. Dall'altra è sfruttare il fatto che tra Europa e Gran Bretagna si crea un grande corridoio commerciale, il famoso blu banana. Banana perché una forma un po' a banana, blu perché è il colore dell'Europa e quel grande corridoio commerciale, che è il più grande corridoio di scambio che esiste al mondo, un potere sul mercato globale. Ecco, in fondo a produttori di massa che non sempre stanno accorti alla qualità come produttori cinesi abbiamo imposto un marchio di qualità e ugualmente all'America rispetto alla produzione di altri servizi. Riusciremo anche a farlo con l'intelligenza artificiale? Ecco, la sfida è aperta. Per certi elementi io sono molto ottimista. Rispetto ad altri effetti e al non è detto che riusciamo a vedere tutto prima in anticipo, questo mi fa essere un po' più pessimista. Però un dispositivo regolamentativo non è detto che sia scritto sulle tavole di pietra, se mi consentite di fare questo gioco di parole. E quindi però è un primo tentativo che dice al mondo il cittadino, l'uomo deve stare al centro.

Allora, questa è una domanda complessissima e io la spacchetterei, mettiamola così, su 3 livelli. Allora, un primo livello è un livello che riguarda una sfida fondamentale che accade oggi. La sfida fondamentale che accade oggi è tra l'uomo e la macchina. Stiamo in qualche misura perdendo, di fronte a macchine così capacitive, così potenti la capacità di dire qual è l'uomo. Se Grozio all'inizio dell'età moderna ragionava nell'etica Ut si deus non dartor oggi nelle stesse decisioni stiamo ragionando un pochino cioè come se l'uomo che cos'è che ci fa uomini in qualche misura ci stesse sfuggendo. Ed ecco che nascono tutta una serie di critiche molto efficientiste tanto dalla Silicon Valley tanto dal modello cinese sulla qualità del giudizio umano cioè ci viene detto questa cosa che voi prendevate appunto di riferimento che è l'uomo e il suo decidere non è detto che sia così performante Daniel Kahnema, premio Nobel per la psicologia ci detto, nella sua psicologia cognitiva, ci detto che di fatto ragioniamo su pensieri lenti e pensieri veloci. Dati alla mano, in Israele, un giudice dà condanne molto meno severe dopo che fatto la pausa caffè, mentre dà condanne molto più pesanti quando bisogno del caffè. Quindi questo ci potrebbe portare a dire che in fondo l'uomo è imperfetto. Il medico che salva così tante vite, mediamente nel mondo non è così efficiente. Ma questa è un'efficienza quantitativa e non qualitativa. Se noi guardiamo alla storia dell'uomo, in particolare nell'ambito della giustizia, chi può giudicare un altro uomo? Questa è una domanda che attraversato la riflessione umana per tanti secoli. E mai ci siamo detti che quella persona poteva fare il giudice perché il suo giudizio sarebbe stato sempre perfetto fino in fondo. Ma quella persona qualitativamente impiegato se stessa nei confronti di un mestiere con un commitment, con un impegno che durava tutta la vita. Il medico, il giudice, il prete erano persone che si dedicavano tutta la vita a fare del loro meglio per fare qualcosa. Ecco, questa qualità non è una quantità. Diremmo con le parole di non è un problema computabile. Il secondo livello di questa domanda riguarda invece la qualità della macchina. E' chiaro, un calcolo 3 più 2 uguale a 5. Ma un giudizio su un comportamento, un giudizio penale o un giudizio anche penale connessa all'etica non avviene solo su valori numerici ma avviene su valori che sono valori etici, costituzionali e quant'altro che non sono semplicemente esprimibili in quantità numeriche e di fronte a questa potenza della macchina c'è qualcuno che crede più affidabile alla macchina che non l'umano Da una parte stiamo depotenziando l'umano, dall'altra stiamo in qualche misura idolizzando o idealizzando la macchina. In realtà, una serie di elementi che sempre di più compaiono sotto I nostri occhi ci dicono che il giudizio della macchina è tutt'altro che perfetto. Anche la macchina commette degli errori sistematici chiamati bias in inglese, li potremmo tradurre per giudizi, preferisco errore sistematico, non voglio dare l'idea che qualcuno apposta fatto quella cosa. Che però sono inevitabili quando si lavora sui dati. Proviamo a fare un esempio. Se io raccogliessi tutti I voti di tutti gli elettori dalla prima elezione del Presidente degli Stati Uniti ad oggi, cioè avessi un dataset di ogni voto espresso negli Stati Uniti e avessi un algoritmo di machine learning perfetto e dessi quei dati all'algoritmo, improvvisamente potrei chiedere all'algoritmo chi sarà il prossimo Presidente degli Stati Uniti. Mi direbbe quasi certamente un uomo, un po' meno certamente caucasico, un po' ancora meno certamente di circa sessant'anni. Perché non mi dice una donna? Semplicemente perché nei dati una donna non c'è mai stata. E allora l'idea che nei dati una donna non c'è mai stata produce un errore sistematico non voluto, ma comunque difficile da gestire. Anche la macchina sbaglia come l'uomo. Quindi questa superiorità qualitativa non c'è. E cosa accade però? Un motto degli ingegneri, lo dico in inglese, poi lo traduco, è: Think twice cat ones. Misura 2 volte, poi taglia, perché una volta che hai tagliato, hai tagliato. C'è un principio di precauzione. Quindi anche il giudice di Kahneman, che è più severo quando bisogno del caffè, prima o poi si stanca. Un algoritmo non si stanca mai. Ecco che gli effetti di questi errori sistematici applicati a una macchina che continuamente fa questi calcoli senza fermarsi, potrebbero produrre una sorta di tsunami di ingiustizia sociale capace veramente di creare degli effetti notevolissimi e profondamente ingiusti Arriviamo a un terzo livello della domanda Ma questo quindi è vero in assoluto? Ecco, dipende dall'applicazione, dipende dalla circostanza. Supponiamo di dover parlare di cure mediche in un ambiente rurale con basso tasso di medici specializzati. E' chiaro che io difficilmente trovo un oculista specializzato in una retinopatia, in un territorio molto vasto, magari in un territorio più disagiato o povero. E quindi è molto probabile che lì io non abbia per niente una diagnosi fatta da un uomo Posso utilizzare in quella circostanza un algoritmo di intelligenza artificiale con uno smartphone? Ecco, magari qualcosa in più me la dà rispetto a niente ed ecco quindi che se filosoficamente ci colpisce tanto questo desiderio di surrogare il giudizio umano imponderabile con un giudizio macchinico ingiustificabile dall'altra dobbiamo riconoscere che per alcune circostanze estreme che ci troviamo a vivere sul pianeta non è detto che questo non possa dare una mano Questo è molto diverso da dire che mettiamo sullo stesso livello macchina e uomo

tema è che quando io condanno un giudice per corruzione, c'ho la causa del giudizio errato. Una macchina, e una macchina che noi utilizziamo per fare tutto questo, è opaca, non una causalità Se io aprissi idealisticamente il cofano di questa macchina, quello che troverei dentro sono solo numeri che forniscono spiegazioni subsimboche, cioè non forniscono una causalità. La causalità era una di quelle C che non riuscivamo a calcolare. E allora, se io domani dovessi avere che I giudizi di condanna sono sbilanciati del 7.8910 por 100 su una minoranza etnica, non saprò mai se è perché il giudice digitale fa un errore sistematico o se è perché veramente c'è un'eccedenza di reati in quel gruppo etnico. Ecco, questo ancora peggiore, perché non riuscirei mai a trovare la causa di questo probabile errore sistematico. Chiaramente su un tema così delicato, dove il mio crimine qualcosa che merita o non merita una punizione, non può essere affidato a un calcolo statistico, a un tiro di dati. Ora ti leggerò un estratto di un libro che è uscito da poco,

Dunque, ci sono in maniera informale, io stesso ho partecipato a un paio di forum, di incontri anche con Eric Schmitt, c'era pure Peter Thiel, ce n'erano diversi di questi, come alto livello. Poi per il resto noi ci troviamo di fronte a un'istituzione accademica che è ancora molto moderna, cioè ancora molto in container verticali abbastanza rigidi. Ma già come un fenomeno come TED ci mostrato, ecco l'idea di container rigidi lungamente estesi nel tempo stride con la grande ridefinizione delle competenze e delle conoscenze che accade oggi e quindi c'è bisogno di una cosa nuova che si chiama la contaminazione abbiamo bisogno di contaminare I saperi l'uno con l'altro Abbiamo bisogno sostanzialmente di ricreare quella piazza che era all'interno della polis greca, che è la matrice del nostro occidente. Forse proprio noi, come occidentali, quando abbiamo perso l'idea della piazza a favore dell'idea della via, della via che ci porta dritti a una destinazione, abbiamo perso qualcosa di noi. Ma se vogliamo vivere tutto questo secondo quella matrice più autentica, che è la matrice democratica, che è la matrice di gestione della grande potenza delle grandi risorse che tutto questo ci dà, abbiamo bisogno di tornare a fare democrazia, abbiamo bisogno di tornare a fare piazza, abbiamo bisogno di tornare ad ascoltarci. Ecco, questo ascoltarci con competenze diverse, questo spazio vuoto che in realtà ci arricchisce, che non serve a qualcosa, ma che è pieno di senso, è forse una cosa che abbiamo un po' perso, e ricreare spazi come questi, e non sappiamo ancora bene dove costruire queste piazze, è forse l'urgenza più grande per darci la capacità di vivere quel futuro che in fondo desideriamo vivere.

ne suggerisco 2, esagero un pochino. Una cosa è un testo che ho scritto che si chiama Human in the loop, che cerca di essere un po' un unicum in questa voce, nel senso che cerca di dare uno spazio dell'umano per intercettare la tecnologia. È un testo di Mondadori, c'è una prefazione addirittura di Giuliano Amato, quindi per dire che anche la Costituzione, cioè l'ordine democratico, cerca di interrogarsi su come la tecnologia cambi le relazioni tra di noi. E questo amplifica più o meno tutte le cose che ci siamo detti da Kahneman fino alla democrazia. La seconda questione è invece un forum molto, come dire, bottom up, nasce dal basso, è un forum di persone che si interrogano sul significato di questi cambiamenti. È un forum che appartiene a una rivista un po' storica che si chiama Alt 2006. È una rivista dei primi hacker bianchi, di coloro che cercavano di modificare la tecnologia per capirne il senso. Ancora molto attivo e si trovano un sacco di buoni suggerimenti su quello che sta accadendo in questo mondo tecnologicamente ben spiegato e quali potrebbero essere gli effetti sulla capacità di poter vivere ancora in uno stato democratico come quello che vogliamo avere noi.