Siamo nella seconda fase della lotta al Coronavirus. Nella ripartenza del Paese, che si spera sarà fatta con intelligenza e prudenza, è prevista, il lancio avverrà entro questo mese, l’utilizzo di un app. di tracciamento. App. che fa discutere l’opinione pubblica.
Quali limiti invalicabili per la nostra privacy? Quali speranze può suscitare la tecnologia nella lotta al Covid-19. E quale sarà il ruolo della scienza nel mondo post-pandemia? Di tutto questo parliamo, in questa intervista, con il professor Paolo Benanti.
Paolo Benanti, teologo, classe 1973, è un francescano del Terzo Ordine Regolare – TOR – e si occupa di etica, bioetica ed etica delle tecnologie. In particolare i suoi studi si focalizzano sulla gestione dell’innovazione: internet e l’impatto del Digital Age, le biotecnologie per il miglioramento umano e la biosicurezza, le neuroscienze e le neurotecnologie.
Come scrive lui stesso, “cerco di mettere a fuoco il significato etico e antropologico della tecnologia per l’Homo sapiens: siamo una specie che da 70.000 anni abita il mondo trasformandolo, la condizione umana è una condizione tecno-umana…”
Presso la Pontificia Università Gregoriana ha conseguito nel 2008 la licenza e nel 2012 il dottorato in teologia morale. La dissertazione di dottorato dal titolo “The Cyborg. Corpo e corporeità nell’epoca del postumano” ha vinto il Premio Belarmino – Vedovato.
Dal 2008 è docente presso la Pontificia Università Gregoriana, l’Istituto Teologico di Assisi e il Pontificio Collegio Leoniano ad Anagni. Oltre ai corsi istituzionali di morale sessuale e bioetica si occupa di neuroetica, etica delle tecnologie, intelligenza artificiale e postumano. Ha fatto parte della Task Force Intelligenza Artificiale per coadiuvare l’Agenzia per l’Italia digitale. E’ membro corrispondente della Pontificia accademia per la vita con particolare mandato per il mondo delle intelligenze artificiali. A fine 2018 è stato selezionato dal Ministero dello sviluppo economico come membro del gruppo di trenta esperti che a livello nazionale hanno il compito di elaborare la strategia nazionale sull’intelligenza artificiale e la strategia nazionale in materia di tecnologie basate su registri condivisi e blockchain. Tra le sue numerose pubblicazioni segnaliamo il nuovissimo EBook appena uscito per l’Editore “Castelvecchi”: Se l’uomo è solo. Speranze e limiti della tecnologia nella lotta al Covid-19.
Professore, siamo, nel nostro paese, nella “Fase 2” della lotta contro il coronavirus. Una fase, delicatissima, che è molto importante per la ripartenza dell’Italia. Oltre alla riapertura, prudente, di alcune realtà produttive – rispettando i protocolli di sicurezza – è previsto anche l’utilizzo di un “app” (facoltativa) a sostegno della lotta contro il coronavirus. Sappiamo che si chiama “Immuni”. Servirà per evitare che il contagio si diffonda, attraverso un processo di tracciamento di un eventuale contatto con una persona contagiata. Questa tecnologia ha creato molte discussioni, ovvero su una possibile violazione della privacy, sulla raccolta dei dati e della loro gestione. Il governo ha stabilito che i dati raccolti saranno conservati fino al 31 dicembre di quest’anno .Dopo quella data verranno cancellati. Quindi , professore, non dovremmo avere più nessun dubbio circa l’utilizzo di questa applicazione?
Il tema centrale resta quello della giusta proporzionalità tra quanto consegniamo di noi come contributo al bene comune e il vantaggio che tutti ne abbiamo. E’ questo ciò che distingue un’eventuale app di tracciamento dall’essere utile oppure una minaccia della libertà. Immuni va giudicata dal reale bilanciamento che saprà fare tra questi due elementi. E qui arriva un’altra questione: quella dei dati che vengono utilizzati per il controllo dei contatti con eventuali Covid positivi, che hanno un grande valore. Ecco quindi che nel patto tra assistenza sanitaria, Stato e cittadino ci dev’essere la risposta al “quando”. Cioè, per quanto tempo verranno conservati e per cosa verranno utilizzati. Solo se il periodo previsto sarà lo stretto necessario e se verranno impiegati esclusivamente per questa finalità, allora potremo dire di mitigare gli effetti di questo sistema che di fatto è di controllo delle persone. Se ci concentriamo solo sull’app stiamo dicendo che è importante solo la vita di chi usa lo smartphone. Questo può essere uno strumento in più ma la risposta deve essere sociale, perché ognuno è una vita che ha dignità e diritti. Su questo non possiamo delegare alla tecnologia, che può essere un supporto, restando però sempre umani.
La risposta a questa pandemia dev’essere una risposta umana. Altrimenti rischiamo dei profili distopici e disumani. Ritenere il modello smartphone quello standard, significa infatti affermare che chi resta fuori, bambini, anziani, poveri, è di serie B. Se noi mettiamo l’altare della privacy contro quello della comunità stiamo creando un falso dilemma. Perché nella modalità con cui questa app funziona, il tracciamento è anonimo. Piuttosto si tratta di dati personali e non di privacy. La privacy è quel recinto all’interno del quale ognuno di noi fa quello che desidera e nessuno può entrare. Ma qui la differenza è che stiamo fornendo uno strumento flessibile ed anonimo per poter ricostruire gli ultimi 14 giorni di una vita che però prevede molti scambi e incontri.
Allarghiamo lo sguardo al nostro tempo. La pandemia, con la sua impressionante velocità di diffusione, ci ha scaraventati in un mondo, per alcuni versi, ignoto. Dovremo ripensare, in profondità, la nostra società. Ora qualche studioso ha affermato, anche, che siamo nel tempo del “post – umano”. Come si interseca questo con la costruzione del mondo “post-Covid”?
Il movimento post-umano parte dall’assunto che una trasformazione profonda nel vivere dell’uomo è già avvenuta e che il risultato di questa trasformazione genera un cambiamento nel suo modo di essere dando inizio all’era post-umana. Da questo punto di vista il movimento post-umano, pur nella sua eterogenesi e nella sua diversità, si differenzia dai numerosi altri movimenti, come ad esempio il Cyberpunk: chi si riconosce appartenente alla corrente post-umana non guarda al futuro possibile ma alla realtà presente, riconoscendo che un cambiamento radicale nel modo di essere uomini già c’è stato. Il compito che si attribuiscono gli appartenenti al postumanesimo è, allora, quello di descrivere e analizzare la condizione post-umana. Il postumanesimo capisce se stesso e si descrive anche in relazione e contrasto con quello che viene definito umanesimo: da una prospettiva generata dalla recente filosofia continentale europea, l’umanesimo è visto non come un movimento progressista ma come una corrente reazionaria, in base al modo in cui si appella – positivamente, cioè facendovi ricorso come criterio fondativo – alla nozione di un nucleo di umanità o a una funzione essenziale comune nei termini della quale l’essere umano può essere definito e capito. Quello che il movimento post-umano contesta in maniera decisa è l’esistenza di un’idea di umano e umanità che sia immutabile. La tecnologia, più che la scienza, ha, agli occhi dei postumanisti, distrutto l’idea di una natura immutabile dell’uomo, rendendo evidente come l’essere umano sia un essere malleabile e capace di essere modificato a piacimento. È questo il punto che cambia la condizione umana in una condizione post-umana. Il mondo “post-Covid” potrebbe essere quello che sancisce per sempre l’idea di una umanità sconfitta dalle sfide della storia e che consegna alla macchina la supremazia nel decidere e nell’organizzare le relazioni umane.
Sempre per rimanere nell’ambito delle definizioni. C’è un legame tra la postmodernità e il post umanesimo? Il postumanesimo è cesura radicale con tutto il passato?
Il movimento post-umano prende lentamente forma a partire dalla seconda metà del secolo scorso. Alcuni studiosi suggeriscono di guardare al 1982 come data in cui il movimento si inizia a costituire attorno ad alcune idee chiave. Il motivo di questa scelta è legato ad un articolo pubblicato dal popolare settimanale Time che, all’epoca, suscitò numeroso scalpore nell’opinione pubblica mostrando un mutamento ormai compiutosi nella società occidentale. Il Time è un settimanale statunitense che dedica la prima copertina di ogni nuova annata alla persona più influente dell’anno appena trascorso. Al personaggio prescelto è attribuito il titolo di Man of the Year. Nel 1983 il settimanale nordamericano, proseguendo una tradizione lunga oltre cinquanta anni, indica così le qualità che contraddistinguono il vincitore del 1982 è giovane, affidabile, silenzioso, pulito e intelligente. È bravo con i numeri e insegnerà o intratterrà i bambini senza un lamento. Il Time non si riferiva però ad un essere umano ma ad un computer: nell’editoriale che accompagnava la proclamazione del vincitore, Otto Friedrich fa notare che nonostante molti uomini avessero potuto essere eletti a rappresentare il 1982 nessuno era in grado di simbolizzare l’anno appena trascorso come un elaboratore elettronico. Seguendo le lettere di risposta dei lettori che seguirono la scelta del Time ci sembra di poter indicare in questo evento un simbolo di quanto il postumanesimo avrebbe proposto da lì a poco: “questa volta, sembrava, l’umanità ha fallito nel lasciare un segno. In fatti, il riconoscimento di ‘Uomo dell’anno’ non era più applicabile, così la copertina era decorata con un nuovo titolo: ‘Macchina dell’anno’. Al centro della pagina stava la macchina vittoriosa, con il suo schermo vivo con tutte le informazioni. Una scultura logora e senza vita di una figura umana che faceva da spettatore, con il suo epitaffio formato dalle quattro parole sotto il titolo principale: ‘Il computer arriva’”.
La nostra identità umana è un impasto di tanti elementi. Com’è l’identità dell’uomo nel tempo “post – umano”? È arrivato il tempo del “Cyborg”?
Viene sancita l’idea di un uomo in crisi, incapace di saper gestire le macchine che lui stesso aveva creato, destinato ad essere confinato in un passato fatto di residui archeologici.
Il post-umano si configura, quindi, attorno all’idea centrale di un’umanità sconfitta dal suo stesso progresso. Le difficoltà e le trasformazioni che ha conosciuto l’Occidente industrializzato nel primo dopoguerra hanno fatto emergere una serie di dubbi sulle capacità dell’uomo di saper gestire la complessità tecnico-sociale che egli stesso andava producendo. Queste riflessioni sono il nucleo su cui si fonda il pensiero raccolto ed elaborato dai postumanisti. Con il cyborg parliamo di un uomo che in qualche modo pensiamo migliore e che interagisca con la tecnologia non solo mediante interfacce hard (macchine, computer o simili) ma anche mediante interfacce soft (farmaci o molecole appositamente modificate). Oggi si può parlare di cyborg non per la sola inserzione di componenti meccaniche o elettroniche nel corpo ma per una serie di relazioni tra uomo e tecnologia che hanno come finalità il miglioramento delle prestazioni: l’improvement. Il cyborg si presenta quindi come una questione che tocca direttamente le finalità della tecnologia biomedica e il destino dell’uomo.
Questo tempo, tra l’altro, è caratterizzato dall’affermarsi della A.I. Ovvero dalla “intelligenza artificiale”. Una sfida affascinante ma al tempo stesso carica di incognite. . `Viviamo nella “dittatura” del “dataismo” (parafrasando il dadaismo).. Perché, per lei, questa è nuova religione? E chi sono i sommi sacerdoti?
Oggi l’umanesimo è di fronte una sfida esistenziale e l’idea di “libero arbitrio” è in pericolo. Le conoscenze neuroscientifiche suggeriscono che i nostri sentimenti non sono una qualità spirituale unicamente umana. Piuttosto, sono meccanismi biochimici che tutti i mammiferi e uccelli utilizzano per prendere decisioni calcolando rapidamente probabilità di sopravvivenza e la riproduzione: anche i sentimenti sono capiti come algoritmi!
Se portiamo questo processo alla sua logica conclusione dovremmo dare agli algoritmi artificiali l’autorità di prendere le decisioni più importanti della nostra vita, come oggi decidiamo in forza dell’autorità che diamo ai nostri sentimenti e vissuti, come dice l’umanesimo. Nell’Europa medievale sacerdoti e genitori avevanoil potere di scegliere il partner per le persone. Nelle società umaniste diamo questa autorità ai nostri sentimenti. In una società dataista chiederò a Google di scegliere. «Hallo Gooogle», dirò, attivando il sistema di intelligenza artificiale. «Sia Giovanna che Maria mi corteggiano. Mi piacciono entrambe, ma in un modo diverso, ed è così difficile decidere. Dato tutto quello che sai dei miei dati, che cosa mi consigli di fare?».
E Google risponderà: «Beh, io ti conosco dal giorno in cui sei nato. Ho letto tutti i vostri messaggi di posta elettronica, ho registrato tutte le chiamate telefoniche, e conosco i tuoifilm preferiti, il tuo DNA e l’intera storia biometrico del tuo cuore. Ho i dati esatti su ogni appuntamento e posso mostrarti secondo per secondo i grafici dei livelli di frequenza cardiaca, pressione sanguigna e lo zucchero per ogni appuntamento che hai avuto con Giovanna e Maria. E, naturalmente, li conosco così come conosco te. Sulla base di tutte queste informazioni, sui miei algoritmi superbi e grazie a statistiche di milioni di rapporti negli ultimi decenni, ti consiglio di scegliere Giovanna: hai una probabilità dell’87% di essere più soddisfatto di lei nel lungo periodo».
Il dataismo è la religione perfetta per gli studiosi e gli intellettuali: promette di fornire un Santo Graal scientifico che ci è sfuggito da secoli: una singola teoria globale che unifica tutte le discipline scientifiche, dalla musicologia, passando attraverso l’economia, fino alla biologia.
Secondo il dataismo la Quinta sinfonia di Beethoven, una bolla speculativa in borsa e il virus dell’influenza sono solo tre modelli di flusso di dati che possono essere analizzati con gli stessi concetti e strumenti di base. Questa idea è estremamente attraente e dà a tutti gli scienziati un linguaggio comune per costruisce ponti che superino le spaccature accademiche e le fratture interdisciplinari, essendo facile esportare le scoperte dataiste oltre i confini disciplinari.
La tecnologia è sempre più questione antropologica e religiosa che non tecnica!
Per contenere la “dittatura” dei dati e degli algoritmi c’è bisogno di un Algor -etica. Più precisamente cosa vuol dire?
L’industria informatica ha prodotto una nuova cultura, un nuovo modo di abitare il mondo. Una delle più grandi trasformazioni attraversa il mondo del lavoro, che si disintermedia mentre appare un nuovo attore sociale, l’algoritmo, e nuove forme di potere: le piattaforme digitali. Con la sua grande capacità narrativa, Ken Loach fotografa cosa significa oggi lavorare per un algoritmo che tende a ottimizzare il nostro processo produttivo. Con la scusa di considerare le persone “imprenditori di se stessi” si introducono nuove forme di lavoro a cottimo senza tutele.
Se le macchine riescono a surrogare l’uomo in tante decisioni, dobbiamo chiederci con quali criteri può avvenire questa surrogazione. In altre parole, se la macchina commette un errore chi è responsabile? L’etica diventa il guard rail che ci permette di convivere in modo più sicuro con queste macchine sapienti. L’etica, però, è una questione di valori difficili da comunicare alle macchine, che funzionano sulla base di numeri. E allora bisogna mettere insieme algoritmi ed etica. Da qui nasce un nuovo termine, l’algoretica, la nuova disciplina che vorrebbe rendere le macchine capaci di computare princìpi tipicamente umani. Un percorso che coinvolge più discipline: non bastano più filosofia, tecnologia, informatica, serve la contaminazione
Mentre in tutto il mondo si sta ricercando un vaccino che ci liberi da questa dannazione, in questi giorni abbiamo sperimentato il coraggio umano dei nostri medici. Per loro prendersi cura dei malati di Covid-19 è stato un autentico martirio. Nel mondo “post-Covid” avremo sempre più bisogno di Sanità e di grandi investimenti nella ricerca scientifica biologica. Che lezione trarre da quello che è successo?
Il Covid ci ha fatto pesantemente confidare nella digitalizzazione e nei sistemi informatici. Vogliamo sempre più usare le intelligenze artificiali e i sistemi esperti per la medicina e la sanità pubblica. Già da ora dobbiamo chiederci quali saranno le conseguenze per la sanità, specie per i modelli che prevedono un sistema pubblico. Per inquadrare bene lo scenario ci serve partire dalla storia recente. Non molto tempo fa la città di Chicago ha consegnato il controllo dei suoi parchimetri a un gruppo di investitori privati. I funzionari hanno pubblicizzato l’accordo come un’innovativa “win-win situation” — un’espressione idiomatica inglese che indica un accordo da cui entrambe le parti emergono con un vantaggio. La municipalità di Chicago, in cambio di un contratto di affitto di 75 anni, ricevette una somma forfettaria che andava a colmare un vuoto di bilancio cittadino. La prospettiva storica ci fa riconoscere che quel grosso pagamento anticipato era di gran lunga inferiore ai potenziali guadagni dei contatori: era almeno di 1 miliardo di dollari troppo basso. Al momento i sistemi diagnostici dotati di AI sembrano promettere di far risparmiare soldi a una sanità pubblica sempre più in difficoltà ma è un vero risparmio? Ad oggi non è chiaro. Quello che è certo è che nel frattempo, gli sviluppatori di questi sistemi diventeranno capaci di acquisire knowledge e capacità di intelligence sulla salute e sull’evoluzione delle condizioni cliniche dei cittadini. Le scelte tecnologiche che faremo potrebbero affidare non più al medico ma alla macchina la conoscenza di come sono distribuite le patologie, come queste evolvono, che connessione tra fattori secondari e condizioni mediche, l’efficacia delle terapie, le strategie di mitigazione di epidemie e anche dati sulle abitudini sessuali degli inglesi e sulle malattie sessualmente trasmissibili. I dati raccolti possono portare a miniere di informazioni ancora inimmaginabili. Questo know-how, inoltre, potrà essere rivenduto alle sanità e alle assicurazioni sanitarie di tutto il mondo. Dopo il Covid dobbiamo chiederci se e come sarà ancora possibile una sanità pubblica.
Lei è un religioso francescano, le chiedo quale potrebbe essere il ruolo della Chiesa nel tempo “postumano”?
Nel corso della sua storia il cristianesimo ha abitato con competenza fine tutti i domini del sapere, a favore dell’intera famiglia umana. In questo passaggio della storia, segnato da una rivoluzione tecnologica permanente, il cristianesimo non si tira indietro: è generosamente al lavoro con una dedizione che onora la sapienza del passato. Il compito della Chiesa è quello di associarsi tutti gli uomini di buona volontà che riconoscono la necessità di lavorare uniti per stabilire principi etici, tenendo conto delle complesse sfide che abbiamo in parte delineato. Noi tutti ci auguriamo che questo modo di accompagnare lo sviluppo tecnologico, che cerca di anticipare i problemi e la ricerca di soluzioni, anziché intervenire solo a posteriori, possa essere fruttuoso dando contenuto buono, forza e sostegno a quel neonato movimento culturale che si interroga criticamente sull’intelligenza artificiale. L’obiettivo è guidare la tecnologia verso un umanesimo che salvaguardi e promuova sempre la dignità dell’essere umano
Condividi su Facebook
Sì è una sfida gigantesca. Si tratta di ricordarsi che nel nostro mondo iperglobalizzato la forza complessiva del sistema dipende da quella umana, la più vulnerabile. Nei sistemi complessi la ridondanza, la duplicazione di alcuni dei sottosistemi, serve a garantire l’efficacia, il funzionamento, anche a scapito parziale dell’efficienza. In termini concreti, il fattore umano è stato quello sacrificato sempre di più negli ultimi 30, costretto ad adattarsi ai ritmi e alle velocità degli altri (le merci, il denaro, le informazioni). Si immagini se una nave venisse progettata, costruita e condotta ignorando la necessità di proteggere l’equipaggio. Eppure è la stessa logica che si sta riaffermando, quando si oppongono le ragioni della ripresa dell’economia a quelle della sicurezza dei lavoratori: la necessità di fatturare e fare profitti, rispetto ai costi della protezione dei lavoratoti. Ma la sicurezza è il presupposto perché i talenti di ognuno possano trasformarsi in ricchezza per tutti.