venerdì, 5 giugno 2020
  Username:   Password:
Ricordami su questo PC

Perché abbiamo bisogno di una Algor-etica

(ma cosa è?)


Le decisioni, anche le più importanti come quelle in ambito medico, economico o sociale, sono oggi il frutto di volere umano e di una serie di contributi algoritmici. La vita umana, quindi, viene a trovarsi al punto di convergenza tra l’apporto propriamente umano e il calcolo automatico, cosicché risulta sempre più complesso comprenderne l’oggetto, prevederne gli effetti, definirne le responsabilità sono le criticità del rapporto tra uomo e tecnologia, tema del workshop “Il buon algoritmo? Intelligenza artificiale: etica, legge, salute” (The “good” Alghoritm? Artificial Intelligence: Ethics, Law, Health) che si è svolto in Vaticano presso la Pontificia Accademia per la Vita dal 26 al 28 febbraio scorsi.

Tre giorni di convegni a cui hanno partecipato oltre 450 fra accademici, scienziati e ingegneri di multinazionali della tecnologia, culminati con la firma di una “call for ethics” (una dichiarazione di impegno) sul rapporto tra etica e tecnologia che farà da guida alle future evoluzioni del settore e che è stato presentato a Papa Francesco che ha pure inviato un suo messaggio al convegno.

È stata la stessa Microsoft, a chiedere alla Pontificia Accademia della Vita un incontro di questo tipo, seguita da IBM e da altre multinazionali. Queste aziende, spiega Mons. Vincenzo Paglia, sono ben consapevoli che la gran parte dei loro responsabili sono tutti ingegneri e la loro è una prospettiva tecnologica, tecnocratica non certamente etica. Loro però hanno sentito l'urgenza di essere accompagnati. Ecco quindi che nasce l'esigenza di un ideale tavolo attorno al quale ci sono certamente gli ingegneri, ma anche politici, economisti, filosofi, rappresentanti delle religioni; indispensabile perché si possa intraprendere un percorso umano anche nella tecnologia.

Ma partiamo dalle basi: cosa è l’intelligenza artificiale (in seguito IA)? Negli algoritmi di apprendimento automatico, si fanno vedere alla macchina tante coppie di sequenze che rappresentano una situazione del mondo e la conseguente azione da prendere: il processo decisionale. Detto diversamente non è la macchina a pensare, è l’uomo ad essere in grado di scrivere dei programmi che non codificano il comportamento della macchina e che le permettono di decidere cosa fare in una data situazione, senza che il comportamento sia stato esplicitamente previsto”. Insomma, la macchina riesce a produrre un’azione in maniera autonoma sulla base degli esempi che le sono stati mostrati e delle informazioni che ricava dal mondo. A questo punto è necessaria una precisazione in merito a ciò che si intende per intelligenza. Essere intelligenti significa che, in base alla nostra capacità di comprendere il mondo che ci circonda, prendiamo decisioni basandoci sui nostri valori. La macchina ha però valori differenti rispetto all'uomo. Infatti la sua capacità di prendere decisioni si basa su presupposti differenti, perché la sua esperienza, per quanto semplice e meno complessa, è molto diversa da quella dell'uomo.

Uno degli esempi della diversità di valori tra le macchine e l’uomo riguarda il robot che pulisce per terra. La ragione d’essere di questa soluzione tecnologica è ovviamente quella di tenere pulita la casa. Supponiamo però di avere un gatto che perde i peli. Un’aspirapolvere intelligente si accorge che il gatto sporca e per risolvere il problema potrebbe decidere di ucciderlo: per lui questa è la soluzione più ovvia. La grossa questione dell’intelligenza artificiale è proprio questa: come programmare la macchina perché non consideri lecita un’azione del genere. Questo cortocircuito logico per cui alla macchina appare più conveniente e rapido eliminare l’origine del problema è stato ampiamente utilizzato dalla fantascienza distopica che immagina un futuro in cui le macchine, ritenendo l’uomo troppo illogico, emotivo e irrazionale e quindi causa di tutti i mali del mondo, decidono di eliminarlo! In fondo all’articolo riporto alcuni titoli a proposito.

In effetti l'intelligenza artificiale non è il futuro, ma è il presente già da molto tempo, lo sviluppo tecnologico ha permesso di costruire macchine che riescono ad imparare, a capire, a registrare, a codificare dati, a predire quello che facciamo, i nostri desideri e ciò di cui abbiamo bisogno. Basti pensare alle pubblicità profilate, che oggi popolano i siti web e che sembrano pensate esattamente per noi, come se sapessero cosa abbiamo intenzione di comprare.

Sanno tutto di noi, chiunque faccia uso degli smartphone è completamente immerso in questo mondo.

L'utente abita questo ambiente digitale, dove trova innumerevoli servizi da utilizzare, tuttavia, allo stesso tempo, la persona viene consegnata alle rete e alle macchine pensanti: gli spostamenti, le ricerche online, gli acquisti vengono registrati, codificati ed utilizzati. Nonostante tutto questo avvenga secondo una normativa ben precisa, diventa necessario un utilizzo responsabile e consapevole da parte di ciascun fruitore.

La straordinaria capacità di queste macchine di immagazzinare e di processare dati molto velocemente apre possibilità fino ad ora inimmaginabili. Partiamo da un esempio: non è la prima volta che mettiamo in atto dei sistemi che decidono da soli. Tanti di noi avranno preso, per esempio, il trenino che in aeroporto porta da un terminal ad un altro senza un guidatore. Negli anni 70, quando è stato sviluppato, una filosofa di Oxford Philippa Ruth Foot ha messo tutti d'accordo nel dire che se il trenino si fosse trovato in una condizione in cui doveva decidere se far del male a 3 persone o ad una sola, in quel caso avrebbe minimizzato il danno purtroppo per la persona sola rispetto alle 3. Ecco che oggi, quando si stanno diffondendo per esempio le auto a guida autonoma e quando queste auto costano parecchie centinaia di migliaia di euro, la domanda è: ma potremmo fare delle auto che proteggono il passeggero rispetto magari a tre sconosciuti perché il passeggero è quello che compra l'auto? Ecco quindi che le differenti condizioni sociali, le differenti condizioni di utilizzo rimettono in discussione dei limiti di operatività che prima erano dati per scontato. Quando parliamo di etica e di IA significa ridefinire queste regole comuni che fanno sì che la complessità della società possa essere compatibile con l'automatizzazione.

Un altro esempio? Negli USA i giudici vengono assistiti dalle macchine a calcolare gli elementi raccolti durante un processo e a decidere se concedere o no la libertà vigilata. Si è visto che questi algoritmi hanno al proprio interno una serie di filtri che, ad esempio, penalizzano la popolazione afroamericana rispetto ai bianchi. L’utilizzo etico di questi strumenti prevede di togliere queste distorsioni di calcolo che l’algoritmo fa per assegnare risultati diversi a seconda del colore della pelle.

Il limite Il punto nodale del ragionamento è legato al rischio che l’uomo venga sostituito dalla tecnologia. Tuttavia, questo è proprio ciò che l’intervento dell’etica vuole evitare. Il ruolo delle macchine è di assistere le decisioni umane. Ma è la persona, con le sue capacità di coscienza, di libertà e di responsabilità, che deve rimanere al centro. Quindi l’obiettivo è costruire una tecnologia umano-centrica, cioè un nuovo umanesimo che la tecnologia non possa soppiantare. Occorre un’etica che rifletta sui criteri che sottendono la progettazione stessa degli algoritmi e sulle responsabilità di chi opera nei singoli stadi della loro produzione.

Dobbiamo riconoscere all’etica un ruolo non solo quando il prodotto è “fatto e finito”, quando ormai non resta altro da fare che (tentare di) regolarne l’uso. L’esperienza ci dice che questo intervento dell’etica “a giochi fatti” risulta quasi inutile.

Anche Papa Francesco nel suo messaggio al convegno pone degli interrogativi precisi:

Dalle tracce digitali disseminate in internet, gli algoritmi estraggono dati che consentono di controllare abitudini mentali e relazionali, per fini commerciali o politici, spesso a nostra insaputa. Questa asimmetria, per cui alcuni pochi sanno tutto di noi, mentre noi non sappiamo nulla di loro, intorpidisce il pensiero critico e l’esercizio consapevole della libertà. Le disuguaglianze si amplificano a dismisura, la conoscenza e la ricchezza si accumulano in poche mani, con gravi rischi per le società democratiche.

La correlazione e l’integrazione fra la vita vivente e la vita vissuta non possono essere rimosse a vantaggio di un semplice calcolo ideologico delle prestazioni funzionali e dei costi sostenibili. Gli interrogativi etici che emergono dal modo in cui i nuovi dispositivi possono “disporre” della nascita e del destino delle persone richiedono un rinnovato impegno per la qualità umana dell’intera storia comunitaria della vita.

E qui il Papa chiama in causa il ruolo antico e sempre nuovo della Chiesa: far sì che la persona, immagine di Dio, sia il centro e non il margine di ogni conquista umana. Nel caso degli apparati tecnologici questo vuol dire che non basta la coscienza di chi li inventa, ma serve formare pure quella di chi li usa.

Si intravede una nuova frontiera che potremmo chiamare “algor-etica”. Essa intende assicurare una verifica competente e condivisa dei processi secondo cui si integrano i rapporti tra gli esseri umani e le macchine nella nostra era. Nella comune ricerca di questi obiettivi, i principi della Dottrina Sociale della Chiesa offrono un contributo decisivo: dignità della persona, giustizia, sussidiarietà e solidarietà.

In conclusione del workshop c’è stata la firma della Call in cui i firmatari esprimono il desiderio di lavorare insieme, in questo contesto e a livello nazionale e internazionale, per promuovere una “algor-etica”, ovvero lo sviluppo e l’utilizzo dell'Intelligenza Artificiale secondo i seguenti principi, fondamentali di una buona innovazione:


  1. Trasparenza: in linea di principio i sistemi di intelligenza artificiale devono essere comprensibili;
  2. Inclusione, devono essere prese in considerazione le esigenze di tutti gli esseri umani in modo che tutti possano beneficiare e che a tutti gli individui possano essere offerte le migliori condizioni possibili per esprimersi e svilupparsi;
  3. Responsabilità: coloro che progettano e implementano soluzioni di Intelligenza Artificiale devono procedere con responsabilità e trasparenza;
  4. Imparzialità: non creare o agire secondo il pregiudizio, salvaguardando così l'equità e la dignità umana;
  5. Affidabilità: i sistemi di Intelligenza Artificiale devono essere in grado di funzionare in modo affidabile;
  6. Sicurezza e privacy: i sistemi di Intelligenza Artificiale devono funzionare in modo sicuro e rispettare la privacy degli utenti.

Primi firmatari: Mons. Vincenzo Paglia, Presidente della Pontificia Accademia per la Vita; Brad Smith, Presidente Microsoft; John Kelly III, Vice Presidente Esecutivo IBM; Dongyu Qu, Direttore Generale della FAO; Paola Pisano, Ministra per l’innovazione tecnologica e la digitalizzazione; Davide Sassoli, Presidente del Parlamento Europeo.

L’intento della Call è dar vita a un movimento che si allarghi e coinvolga altri soggetti: istituzioni pubbliche, ONG, industrie e gruppi per produrre un indirizzo nello sviluppo e nell’utilizzo delle tecnologie derivate dall’IA. Da questo punto di vista possiamo dire che la prima firma di questa call non è un punto di arrivo, ma un inizio per un impegno che appare ancora più urgente e importante di quanto fin qui fatto.

Mi si permetta qui un approfondimento personale: la tematica dell’IA è stata ampiamente esplorata già da parecchi anni dalla letteratura e il cinema di fantascienza, a partire dal famoso scrittore di fantascienza Isaac Asimov che introdusse le 3 leggi della robotica nel suo romanzo “Circolo vizioso” del 1942.

Sulla pericolosità potenziale dell’IA per l’uomo ricordo il famoso duello intrapreso fra gli astronauti della Discovery e il computer HAL9000 in “2001 odissea nello spazio” di Stanley Kubrick (1968).

Ecco di seguito un breve elenco di film sul tema che mi sento vivamente di consigliare (oltre al già citato “2001 odissea...), alcuni prendono in considerazione anche il fatto che l’IA nell’evolversi arrivi anche a sviluppare una autocoscienza:

Blade Runner di Ridley Scott – 1982

L’uomo bicentenario di Chris Columbus – 1999

Terminator di James Cameron – 1984 (e i vari sequel)

A.I. - Intelligenza artificiale di Steven Spielberg - 2001

Io, robot di Alex Projas – 2004

Lei (Her) di Spike Jonze - 2013

Ex Machina di Alex Garland – 2015

Westworld di Jonathan Nolan e Lisa Joy – 2016, 10 episodi; 2018, 10 episodi: 2020, 8 episodi (in uscita adesso), serie trasmessa da Sky e tratta a sua volta da:

Il mondo dei robot di Michael Crichton - 1973

P.S. Parlando di IA non posso non ricordare la figura del geniale e sfortunato matematico inglese Alan Turing: oltre ad essere l’inventore di quello che è considerato il primo computer elettromeccanico, sviluppato durante la 2° guerra mondiale per decifrare le comunicazioni militari del regime nazista, crittografate tramite la macchina Enigma ritenuta inviolabile, fu anche il primo ad introdurre il concetto di IA e a formulare un test, il famoso “Test di Turing”, basato su un gioco di ruolo (the imitation game), il cui superamento da parte del computer sarebbe stato indice di sviluppo di una IA.


“The imitation game” è anche il titolo dell’interessante film del 2014 di Morten Tydlum che racconta lo sviluppo della macchina di decrittazione dei codici citata sopra, oltre che parte della vita di Turing.

Alberto Saccani


Azione Cattolica Italiana - Diocesi di Reggio Emilia-Guastalla - Atto normativo

sito registrato nella