Scrito in evidenza

Questa quarta rivoluzione, tutta tecnologica, nascendo da tecnologie informatiche e non da teorie informatiche sta portando alla luce la natura intrinsecamente informazionale degli agenti umani. Alla luce di queste trasformazioni non dobbiamo essere indotti soltanto a concepire erroneamente le ICT digitali come mere tecnologie che apportano miglioramenti. È in gioco una trasformazione più sottile, meno sensazionale, e tuttavia più fondamentale e profonda nel nostro modo di concepire che cosa sia un agente e quale tipo di ambiente questi nuovi agenti abitino attraverso una trasformazione radicale della nostra comprensione della realtà e di noi stessi.

A ben vedere stiamo passando da una metafisica materialista, incentrata su oggetti e processi fisici, a una che ruota attorno all’informazione: Floridi associa a questa rivoluzione la figura di Alan Turing, il matematico inglese che per primo concettualizzò una macchina universale in grado di calcolare tutto il calcolabile semplicemente leggendo e scrivendo degli 1 e degli 0 su un ipotetico nastro, ponendo così le basi teoriche per il successivo sviluppo dell’informatica.

Mettendo insieme sia l’aspetto concettuale-scientifico, ossia una nuova visione del mondo e di noi stessi che ruota attorno all’informazione e ai relativi processi, sia quello tecnologico, ossia lo sviluppo delle tecnologie digitali che stanno trasformando molti settori di attività nonché la vita stessa delle persone, emerge il carattere distintivo della rivoluzione dell’informazione rispetto alle precedenti: l’essere una rivoluzione tecnologica che interroga la scienza per comprendere la natura dell’informazione stessa e di conseguenza tutte le altre discipline che da questa nuova o, meglio, rinnovata visione del reale sono chiamate a ricomprendere l’uomo e il suo mondo.

Assistiamo al sorgere di nuove sfide: la sfida di cominciare a concepire l’uomo come animale informazionale al fianco di altri, inserito all’interno dell’infosfera; la sfida di farsi carico di una nuova società, la società dell’informazione, cresciuta molto più rapidamente della capacità dell’uomo di sviluppare solide radici concettuali, etiche e culturali in grado di comprenderla, gestirla e orientarla verso il bene comune e lo sviluppo.

A questo punto entrano in scena le intelligenze artificiali e il loro impatto narrativo, il modo con cui connettono i dati, potrebbe portare a un nuovo e inedito modo di spiegare il mondo: basato sui dati ma di natura religiosa. Proponiamo per questo tipo di scenario un nome evocativo, dataismo, giocando per assonanza con il Dadaismo, movimento artistico-letterario d’avanguardia sorto a Zurigo nel 1916, e diffusosi poi in Francia e Germania, basato sulla negazione di tutti i valori razionali e sull’esaltazione di quelli istintivi, elementari, infantili, gratuiti e arbitrari dell’individuo. Proviamo a immaginare uno scenario dataista.

Questo potere che deriva dal controllo informatico della vita rientra appieno in uno dei trend che il mondo dei dati ci fa percepire come sviluppo e nuova frontiera della società attuale. Investire nel suo sviluppo, credere nella bontà di un investimento in questa direzione, sono scelte basate sui dati. È la nascita di una nuova forma di credenza che ha i tratti di un credo religioso. Cerchiamo di capire come una visione del mondo come quella che propone la teoria dell’informazione sta pian piano assumendo il contorno di una visione religiosa.

Nella storia del pensiero, al di là dei momenti di discussione accademica e di riflessione che hanno segnato lo sviluppo della filosofia, si è assistito al ricorso a diverse forme di autorità per sintetizzare criteri che fondassero e orientassero le scelte delle persone. Per migliaia di anni gli esseri umani hanno indicato l’autorità come proveniente dagli dei, e da loro consegnata agli uomini. Poi questo è stato affidato alle strutture codificate dalle grandi religioni. Dopo ancora, durante l’epoca moderna, l’umanesimo ha gradualmente spostato l’autorità dalle divinità alla persona.

Jean-Jacques Rousseau, nel 1762, riassunse questa rivoluzione nell’Emilio, il suo celebre trattato sull’educazione. Parlando di regole di condotta nella vita, Rousseau dice di averle trovate «nel profondo del mio cuore, tracciate dalla natura in caratteri che nulla può cancellare. Ho bisogno solo di consultare me stesso per quanto riguarda ciò che desidero fare; quello che sento di essere buono è buono, quello che sento di essere cattivo è cattivo». I pensatori umanisti come Rousseau trasformarono il principio di autorità, e consegnarono alla società una prospettiva rivoluzionaria. Secondo il nuovo sguardo, non gli dei ma i sentimenti e i desideri umani sono la fonte ultima di significato. La volontà dell’uomo risultava così essere la più alta fonte di autorità.

Al giorno d’oggi, in questa epoca di insorgenza delle intelligenze artificiali, assistiamo a una nuova rivoluzione della fonte di autorità e dei riferimenti che sostengono i giudizi. Proprio come l’autorità divina è stata legittimata da mitologie e credenze religiose e l’autorità umana è stata legittimata da ideologie umanistiche, così i nuovi guru dell’high-tech e i profeti della Silicon Valley stanno creando una nuova narrazione universale che legittima un nuovo principio di legittimità: gli algoritmi e i Big Data.

Il dataismo non ha fedeli né luoghi di culto, eppure merita il proprio nome: perché l’onda informatica che sta sommergendo la realtà, e la mancata messa in discussione dei presupposti di questa, può diventare una credenza con caratteristiche analoghe a quelle di un credo religioso.

Nella sua forma estrema i fautori di questa visione del mondo dataista percepiscono l’intero universo come un flusso di dati, vedono gli organismi viventi come poco più di algoritmi biochimici e credono che esista una vocazione cosmica per l’umanità: creare un sistema di elaborazione dati onnicomprensivo per poi, nell’eschaton del cosmo (ossia nel suo fine ultimo) fondersi in esso. Il rischio per l’uomo è di essere considerato alla stregua di un minuscolo chip inserito in un sistema gigante che, sempre più guidato e sviluppato dalle intelligenze artificiali, nessuno capisce davvero fino in fondo.

L’uomo moderno, partecipe di questo processo, assorbe giornalmente innumerevoli bit di dati tramite e-mail, telefonate e articoli. Attraverso il pensiero, non fa che elaborare dati e ritrasmettere, nel grande flusso cosmico, nuovi bit attraverso nuove e-mail, telefonate e articoli di risposta.

Dove i dati prodotti dall’uomo moderno si inseriscano nel grande schema delle cose, o come i bit di dati prodotti da ciascuno si colleghino con i bit prodotti da miliardi di altri esseri umani e dai milioni di computer è ancora cosa ignota. Il flusso incessante di dati è una realtà in crescita costante; la sua interruzione provocherebbe un collasso economico e sociale tanto indesiderabile quanto immaginabile. Aderire a una visione del mondo poco chiara e mai interamente spiegata, e affidare ai dati una sempre maggiore fonte di autorità sulla nostra vita, risulta essere attualmente la scelta più facile.

L’uomo moderno, completamente integrato in questo processo globale, sente di non aver bisogno di capire. Ciò che deve fare è rispondere alle e-mail più velocemente. Come i capitalisti del libero mercato credono nella mano invisibile del mercato, i dataisti confidano nella mano invisibile del flusso di dati. Mentre il sistema di elaborazione dati globale diventa onnisciente e onnipotente, la stessa connessione al sistema diventa fonte di ogni significato. Il nuovo motto dice: «Se si verifica qualcosa – registrarlo. Se si registra qualcosa – caricarlo. Se si carica qualcosa – condividerla».

Oggi l’umanesimo si trova di fronte a una sfida esistenziale e l’idea di “libero arbitrio” è in pericolo. Le conoscenze neuroscientifiche suggeriscono che i nostri sentimenti non sono una qualità spirituale unicamente umana. Piuttosto, sono meccanismi biochimici che tutti i mammiferi e tutti gli uccelli utilizzano per prendere decisioni calcolando rapidamente le probabilità di sopravvivenza e quelle di riproduzione: persino i sentimenti vengono considerati traducibili in algoritmi.

Seguendo una logica dataista, gli algoritmi artificiali potrebbero un giorno sostituire il ruolo che attribuiamo oggi ai sentimenti, e acquisire l’autorità di guidarci nelle decisioni più importanti della nostra vita. Nell’Europa medievale sacerdoti e genitori avevano il potere di scegliere il partner per le persone. Oggi, nelle società umaniste, questa autorità è da noi conferita ai nostri sentimenti. In una società dataista, fede e fiducia potrebbero essere attribuite a un gigante delle tecnologie informative. «Hello Sistema», potrebbe dire un dataista, attivando il sistema di intelligenza artificiale, «sia Giovanna che Maria mi corteggiano. Mi piacciono entrambe, ma in un modo diverso ed è così difficile decidere. Dato tutto quello che sai dei miei dati cosa mi consigli di fare?».

A questo punto l’intelligenza artificiale potrebbe rispondere: «Ti conosco dal giorno in cui sei nato. Ho letto tutti i vostri messaggi di posta elettronica, ho registrato tutte le chiamate telefoniche, conosco i vostri film preferiti, il tuo dna e l’intera storia biometrica del tuo cuore. Ho i dati esatti su ogni appuntamento e posso mostrarti secondo per secondo i grafici dei livelli di frequenza cardiaca, pressione sanguigna e lo zucchero per ogni appuntamento che hai avuto con Giovanna e Maria. E, naturalmente, li conosco così come conosco te. Sulla base di tutte queste informazioni, sui miei algoritmi superbi e grazie a statistiche di milioni di rapporti negli ultimi decenni, ti consiglio di optare per Giovanna: hai una probabilità dell’87 per cento di essere più soddisfatto di lei nel lungo periodo».

Questa rivoluzione non toccherà solo il mondo degli affetti e delle scelte di vita. Anche gli altri aspetti del decidere umano saranno espressioni del culto dataista. Anche l’accesso al mondo dell’università e la ricerca di un posto di lavoro saranno profondamente diversi da come li conosciamo oggi. In un contesto dataista non saranno più esami di ammissione o colloqui di lavoro che dovranno stabilire il nostro valore, le nostre conoscenze o l’attitudine ad alcuni campi di studio o di lavoro. I dati ci diranno chi va bene per cosa: profili genetici e profilazioni fatte in base ai dati che abbiamo prodotto, e che sono conservati nei sistemi informatici globali, saranno il modo con cui i sacerdoti e gli oracoli di questo nuovo culto, i server, decideranno sulle persone e sulle loro vite. Uno scenario simile a quanto alcuni autori di fantascienza hanno già in parte immaginato come, per fare un esempio, nel film Gattaca, dove la popolazione umana è suddivisa in caste in base alla qualità del loro profilo genetico.

Il dataismo è la religione perfetta per gli studiosi e gli intellettuali della Digital Age. Nell’epoca dell’informazione digitale, ci promette di ottenere un Santo Graal scientifico che ci è sfuggito per secoli: una singola teoria globale che unifica tutte le discipline scientifiche, dalla musicologia, all’economia alla biologia. Secondo il dataismo la Quinta Sinfonia di Beethoven, una bolla speculativa in borsa e il virus dell’influenza sono solo tre modelli di flusso di dati che possono essere analizzati utilizzando gli stessi concetti e strumenti di base. Questa idea, estremamente attraente, dà a tutti gli scienziati un linguaggio comune per costruire ponti capaci di superare le spaccature accademiche e le fratture interdisciplinari: le scoperte dataiste possono essere facilmente esportate oltre i confini disciplinari.

Secondo uno studio condotto da ricercatori britannici e americani e pubblicato sulla rivista «Nature», l’analisi di alcune mammografie può essere condotta con notevole successo da un software basato sull’intelligenza artificiale. La mammografia di screening non è una diagnosi di fronte a un problema manifesto, ma mira a identificare il carcinoma mammario nelle prime fasi della malattia, quando il trattamento può avere più successo. Nonostante l’esistenza di programmi di screening in tutto il mondo, l’interpretazione delle mammografie è influenzata da alti tassi di falsi positivi e falsi negativi legati, come tutte le analisi compiute dall’uomo, dalla qualità dell’immagine e dalla perizia dell’esaminatore. Potrebbe sembrare una grande vittoria, e l’ennesimo esempio di come l’AI (Intelligenza Artificiale) trasformerà presto l’assistenza sanitaria: siamo in grado di trovare più tumori! Ci sono meno falsi positivi! Un modo migliore e più economico per fornire cure mediche di alta qualità!

Forse però dobbiamo resistere alla tentazione di troppe espressioni piene di punti esclamativi. L’assistenza sanitaria aumentata dal machine learning e dall’AI potrebbe portare molti benefici negli anni a venire, ma questi dipenderanno da come implementeremo le sue modalità di utilizzo. Se i dottori dovessero porre alla macchina le domande sbagliate, se si dovesse mettere l’AI a servizio di una ricerca con premesse fallaci, allora la tecnologia non sarà un successo ma rischia di essere un clamoroso fallimento. Potrebbe persino servire ad amplificare degli errori precedenti o delle supposizioni sbagliate orientando erroneamente la ricerca.

In un certo senso, è quello che è successo con il recente studio di Google. L’azienda di Mountain View sta cercando di replicare, e quindi superare, le prestazioni umane operando su quello che alla sua base è un intervento medico profondamente imperfetto. Nel caso in cui non stiate seguendo con passione le polemiche decennali sullo screening del tumore, si riduce a questo: quando sottoponi le persone prive di sintomi a mammografie e simili, finirai per trovare molte cose che sembrano tumori ma non minacceranno mai la vita di nessuno. Con l’avanzare della scienza e della biologia si è diffuso lo screening del tumore. Con il tempo i ricercatori hanno imparato che non tutti i tumori sono destinati a diventare mortali. In effetti, molte persone ospitano forme “indolenti” di tumore che non rappresentano un rischio per la loro salute. Sfortunatamente i test di screening standard, nei numeri, si sono dimostrati i più abili nel trovare proprio queste ultime forme, quelle a crescita più lenta che sarebbe meglio ignorare.

Questo potrebbe non essere così male, in teoria. Quando un test di screening scopre un tumore innocuo, si può pensare semplicemente di ignorarlo, giusto? Il problema è che è quasi impossibile sapere al momento dello screening se una particolare lesione finirà per essere pericolosa o poco importante. In pratica, la maggior parte dei medici è incline a trattare qualsiasi tumore scoperto come una potenziale minaccia, e la questione se le mammografie effettivamente salvino o meno la vita è una questione sottoposta a intenso dibattito. Alcuni studi suggeriscono che lo fanno, altri ritengono che non lo fanno, ma anche se prendiamo le più rosee interpretazioni esistenti in letteratura al valore nominale, il numero di vite salvate da questo massiccio intervento diffuso è piccolo. Alcuni ricercatori hanno persino calcolato che la mammografia è in una posizione di equilibrio: ugualmente dannosa per la salute dei pazienti; vale a dire che il suo aggregato danneggia, in termini di trattamento in eccesso e che i tumori provocati dalle sue radiazioni potrebbero, secondo questi calcoli, superare come costo in termini di salute, il beneficio che promettono.

In altre parole, i sistemi di intelligenza artificiale come quello di Google promettono di combinare esseri umani e macchine al fine di facilitare la diagnosi dei tumori, ma hanno anche il potenziale per peggiorare problemi preesistenti come i test eccessivi o non necessari, l’overdiagnose e l’overtretment. Non è nemmeno chiaro se i miglioramenti nei tassi di falsi positivi e falsi negativi riportati in questo studio si applicherebbero in contesti del mondo reale. Lo studio di Google ha scoperto che l’AI ha ottenuto risultati migliori rispetto a sei radiologi che non sono stati specificamente formati nell’esame delle mammografie. Sarebbe il migliore contro un team di esperti più specializzati? È difficile dirlo senza adeguato studio. Inoltre, la maggior parte delle immagini valutate nello studio sono state create con dispositivi di imaging realizzati da una singola azienda. Resta da vedere se questi risultati si generalizzerebbero con immagini di altre macchine.

Il problema va oltre il semplice screening del cancro al seno. Parte del fascino dell’AI è che può scansionare pacchi di dati personali e individuare variabili che non abbiamo mai pensato fossero importanti. In linea di principio, questa capacità potrebbe aiutarci a diagnosticare qualsiasi malattia in fase iniziale, allo stesso modo in cui le piccole oscillazioni di un sismografo possono darci avvertimenti precoci di un terremoto. Ma a volte quelle variabili nascoste non sono davvero importanti. Per fare un esempio banale pensiamo al caso in cui il set di dati fosse tratto da una ricerca clinica di screening del cancro che esegue i test del tumore al polmone il venerdì. Di conseguenza, un algoritmo basato sulle AI potrebbe decidere che le scansioni eseguite il venerdì hanno maggiori probabilità di essere un tumore ai polmoni. Questa banale e triviale relazione verrebbe quindi inserita nella formula per fare ulteriori diagnosi.

Anche quando sono accurati, le diagnosi precoci della malattia potrebbero non essere sempre un vantaggio. Altri recenti progetti di AI medica si sono concentrati sulla diagnosi precoce dell’Alzheimer e dell’autismo, due condizioni in cui una rilevazione più rapida probabilmente non cambierà molto il risultato di un paziente. Queste sono opportunità fantastiche per mostrare come un algoritmo può imparare a identificare le caratteristiche che gli insegniamo a trovare, ma non rappresentano progressi che faranno la differenza nella vita dei pazienti.

Alcuni usi degli algoritmi e del machine learning possono anche introdurre problemi nuovi e sconcertanti per i medici. Pensiamo alla funzione presente nell’Apple Watch per rilevare la fibrillazione atriale, un tipo di aritmia cardiaca che è un fattore di rischio per l’ictus. La fibrillazione atriale viene trattata con fluidificanti del sangue, che hanno effetti collaterali che possono trasformare una piccola caduta in una lesione potenzialmente letale. Se sei davvero in pericolo di avere un ictus, è un rischio che vale la pena correre. Che dire delle persone la cui fibrillazione atriale è stata rilevata dal loro smartwatch, però? Tradizionalmente, la condizione viene diagnosticata quando qualcuno si reca dal medico lamentando altri sintomi; ora Apple monitora le persone sane senza sintomi e trova nuovi casi che potrebbero non presentarsi mai nella prassi clinica. Non è chiaro se questo gruppo di pazienti potrebbe avere lo stesso beneficio netto dal trattamento tradizionale.

«In realtà non sappiamo se questi due gruppi di persone, queste due popolazioni, sono uguali» ricorda Venkatesh Murthy, cardiologo presso il Frankel Cardiovascular Center di Ann Arbor, nel Michigan. L’approccio più fruttuoso potrebbe essere quello di utilizzare l’AI per identificare le persone che ottengono il massimo beneficio dai trattamenti disponibili.

Perché l’AI si dimostri veramente rivoluzionaria, dovrà fare di più che ripristinare lo status quo che oggi abbiamo in medicina; e prima che venga adottato un simile approccio, è importante rispondere a un paio di domande fondamentali: quale problema sta cercando di affrontare la tecnologia e come migliorerà i risultati dei pazienti? Potrebbe essere necessario del tempo per trovare le risposte necessarie.

Ecco perché il famoso motto di Mark Zuckerberg – «Muoviti velocemente e rompi le cose» – potrebbe andare bene per Facebook, ma non è eccezionale per la medicina, con o senza AI. Secondo Vinay Prasad, autore di Ending Medical Reversal e ematologo-oncologo presso la School of Medicine della Oregon Health & Science University, la mentalità della Silicon Valley può essere pericolosa per i clinici. È quel tipo di atteggiamento – quando sono in gioco le vite che dobbiamo mettere in atto nuove idee promettenti il più rapidamente possibile – che ci ha portato in questo pasticcio per lo screening del cancro con Google. La mammografia è stata adottata prima che tutte le altre evidenze fossero presenti, afferma Prasad, e una volta che una pratica medica è diventata standard, è molto difficile eliminarla gradualmente. «In una cultura che è abituata all’immediatezza e alle affermazioni gonfiate, è difficile avere umiltà e pazienza».

La questione sui dati che servono per l’AI, specie per quella in ambiti critici come la medicina, sono questioni di buon senso. Allora parafrasando quanto sopra potremmo dire che l’etica è una forma di buonsenso e per domande lineari e semplici la verità etica risulta evidente. L’etica è lo studio con regole proprie e metodo scientifico della ricerca dell’agire corretto e buono. Di quelle forme dell’agire che garantiscono non solo il rispetto dei valori ma anche la tutela di ogni uomo, specialmente dei più vulnerabili. Tanto più l’agire si fa complesso e le questioni intricate, tanto più serve l’approccio scientifico e sistematico dell’etica perché la risposta è meno evidente e meno lineare.

In altri termini l’etica non è che l’estensione del buon senso con mezzi scientifici e filosofici. L’etica è una formalizzazione della domanda di senso che chiede di essere vissuta e attuata nel qui e ora di ogni decisione e azione. Sia essa umana o algoritmica.

Oggi che la decisione si automatizza in maniera algoritmica abbiamo bisogno di scrivere un nuovo capitolo di questa scienza del bene, di questo buon senso rigoroso. Il capitolo dell’etica che si fa computabile dalle macchine. Per fare questo il processo etico deve iniziare dai dati: dalla raccolta, dal loro essere processato e dal loro essere trasmesso. L’algor-etica, questo nuovo capitolo dell’etica, parte dai datasheets for datasets.

Però non si conclude con i dati. Perché l’etica vuole trasformare l’innovazione. Non si accontenta di guardare e di giudicare, vuole guidare l’azione. L’algor-etica come disciplina dello sviluppo di AI giuste e rispettose dell’umano vuole trasformare l’innovazione in sviluppo.

Integrale: di tutto l’uomo e di tutta la donna. Abbiamo creduto a chi ci diceva che la felicità era: avere di più, consumare di più, conquistare, sopraffare. Oggi siamo disillusi ma nel profondo non cessa la speranza per la felicità.

Gentile: mettere al centro l’umano significa che l’uomo è una parte di un tutto, la casa comune, che si fonda su delicati equilibri. Essere umano significa rispettare la bellezza e riconoscere il valore di tutto ciò che esiste.