L’etica di Ghost in the Shell

Rivoluzione Artificiale: l’uomo nell’epoca delle macchine intelligenti (ed. Informant, 2017). Il libro è acquistabile su Amazon in formato ebook (3,99 €) e cartaceo.

Questo articolo è stato pubblicato in origine su Prismo nel settembre 2016

L’influenza che in Ghost in the Shell ha avuto il Cyborg Manifesto di Donna Haraway, così come la grande attenzione nei confronti del corpo (umano e robotico), è stata sottolineata più volte anche in un paio di ottime analisi in italiano. Ma l’anime diretto da Mamoru Oshii – ispirato al manga di Masamune Shirow – ha un altro tema centrale: le conseguenza etiche, sociali e politiche dell’avvento di una vera e propria intelligenza artificiale.

Nel 1995 Ghost in the Shell ha previsto quelli che sarebbero stati i temi etici centrali del discorso sull’intelligenza artificiale; anticipando questioni che stanno diventando di attualità solamente oggi, in un mondo in cui già conviviamo con l’intelligenza artificiale.

D’accordo, per ora siamo molto indietro rispetto a quanto immaginato in GITS: siamo fermi alle intelligenze artificiali particolari, AI capaci di svolgere un solo compito (per esempio, battere il campione mondiale di Go) grazie alla potenza del machine learning, ma senza avere la minima consapevolezza di ciò che stanno facendo. Nel mondo di GITS, invece, fa la sua comparsa il Signore dei Pupazzi: un personaggio che nega di essere una AI, preferendo definirsi “un’entità vivente e pensante che è stata generata dal mare dell’informatica”.

La distinzione è molto interessante e sembra fare riferimento al fatto che nessuno ha programmato il Signore dei Pupazzi, originariamente un progetto segreto per lo spionaggio industriale, per diventare un’entità cosciente, indipendente e autonoma; si è evoluto da solo, grazie alle sue capacità e al mare di dati a cui ha avuto accesso. Ma questo è esattamente il modo in cui, secondo alcune teorie vicine alla singolarità tecnologica, faranno la loro comparsa le intelligenze artificiali generali: AI in grado di fare qualunque cosa a livello umano che, secondo alcuni calcoli, potrebbero diventare realtà tra il 2025 e il 2040 (vale la pena di notare che GITS è ambientato nel 2029).

Non solo: tutte le domande esistenziali che l’avvento di una AGI (Intelligenza Artificiale Generale – ovvero un’intelligenza artificiale autocosciente) ci costringerebbe ad affrontare sono già presenti in Ghost in the Shell, nei ragionamenti del maggiore Kusanagi (un cervello umano inserito in un corpo di cyborg) e del già citato Signore dei Pupazzi: da cosa scaturisce la coscienza in un essere artificiale? Quanto è importante avere un corpo per essere definiti una persona? Come si fa a essere certi di aver acquisito una coscienza? Un essere artificiale può riprodursi? Cosa significano morte e nascita per una AI?

Alla prima di queste domande, risponde direttamente il maggiore Kusanagi nel più noto monologo di Ghost in the Shell:

Vi sono innumerevoli elementi che formano il corpo e la mente degli esseri umani, come innumerevoli sono i componenti che fanno di me un individuo con la propria personalità. Certo, ho una faccia e una voce che mi distinguono da tutti gli altri, ma i miei pensieri e i miei ricordi appartengono unicamente a me e ho consapevolezza del mio destino. Ognuna di queste cose non è che una piccola parte del tutto. Io raccolgo dati che uso a modo mio, e questo crea un miscuglio che mi dà forma come individuo e da cui emerge la mia coscienza.

Raccogliere dati e sfruttarli in modo personale, quindi, darebbe forma all’individuo, permettendo alla coscienza di emergere: esattamente il modo in cui ha preso “vita” il Signore dei Pupazzi. In questo senso, alcuni programmi come Watson di IBM potrebbero essere a un passo dal conquistare la coscienza di sé. Watson – noto soprattutto per aver sconfitto i campioni di Jeopardy, ma che ha applicazioni commerciali enormi – è in effetti in grado di cercare dati in panieri non strutturati di informazioni, di analizzare e interpretare informazioni e imparare autonomamente da questi processi. Se è “raccogliere dati e usarli a modo mio” che permette a una coscienza di emergere, allora Watson è il candidato ideale per riuscire nell’impresa.

Ovviamente, non tutti sono d’accordo con un’affermazione del genere: senza entrare troppo nel dettaglio, il fisico David Deutsch rimprovera a tutte queste tesi di dare un eccessivo peso all’aspetto quantitativo. Dal suo punto di vista, è sbagliato pensare che sia la quantità di dati analizzati a consentire a un’intelligenza autonoma di emergere, perché ciò che conta è lo scarto qualitativo, che ancora non si capisce da cosa potrebbe scaturire.

Poniamo però che questa AGI un giorno compaia e affermi di essere dotata di coscienza: come farà a dimostrarlo? Il test di Turing a cui si fa sempre riferimento potrebbe non bastare, visto che in molti, tra cui il professore di Filosofia di Oxford Luciano Floridi, sottolineano come fornisca una condizione necessaria, ma non sufficiente, a dimostrare che la AI abbia sviluppato una coscienza. Il test di Turing proverebbe solamente che l’intelligenza artificiale in questione è in grado di simulare un comportamento intelligente, non che lo sia effettivamente. Costringeremo allora i robot intelligenti del futuro a fare il test dello specchio o altri esami a cui vengono solitamente sottoposti bambini o animali?

Forse, e più semplicemente, nessuno dovrebbe arrogarsi il diritto di mettere in dubbio l’autocoscienza professata da una AI. Il Signore dei Pupazzi la pensa in questo modo, nel momento in cui, rivolgendosi a un umano, afferma:

E tu, mi puoi dare prova della tua esistenza? Come puoi farlo se né la scienza moderna né la filosofia sanno spiegare cos’è la vita. (…) Si potrebbe sostenere che anche il DNA non sia altro che un programma studiato per preservare se stesso. La vita è diventata più complessa nell’immenso mare dell’informatica. E la vita, quando si organizza in specie, fa dei suoi geni il proprio sistema mnemonico; quindi l’uomo è un individuo solo in virtù della sua intangibile memoria. La memoria non può essere definita, eppure definisce il genere umano. L’avvento dei computer e il conseguente accumulo di innumerevoli informazioni ha dato vita a un nuovo sistema di memoria e di pensiero parallelo al vostro. L’umanità ha sottovalutato le conseguenze della computerizzazione.

Perché dovremmo chiedere a robot intelligenti di fornire prove oggettive che nemmeno noi siamo in grado di dare? Potremmo forse risparmiare loro di restare intrappolati in dubbi esistenziali sull’autenticità delle loro vite e delle esperienze vissute; dubbi che invece attanagliano il maggiore Kusanagi, che ne parla in un dialogo con il suo partner Batou:

K. Probabilmente tutti i cyborg hanno la tendenza a essere paranoici riguardo alle proprie origini. A volte sospetto di non essere ciò che credo, di essere morta molto tempo fa e che qualcuno abbia preso il mio cervello e l’abbia infilato in questo corpo. O forse in realtà non sono mai esistita e sono completamente sintetica.

B. Lo sa che ha delle cellule cerebrali umane in quel suo guscio di titanio. Tutti la trattano come un essere umano, quindi la smetta di angosciarsi.

K. Ma è proprio questo il punto, è solo questo che mi fa sentire umana: il modo in cui mi trattano. Chi lo sa cosa c’è nelle nostre teste, tu l’hai mai visto il tuo cervello?

B. Mi sembra che lei cominci a dubitare del suo stesso spirito.

K. E se un cervello cibernetico potesse generare da solo il proprio spirito, creare la propria anima. Se questo accadesse, quale sarebbe l’importanza di essere totalmente umani?

La risposta a quest’ultima domanda potrebbe risiedere in una funzione biologica tipicamente umana (e animale) che, ancora, non ha un’alternativa valida nel mondo robotico: la capacità di riprodursi. In Ghost in the Shell, la soluzione a questa carenza viene trovata nella fusione tra due entità, Kusanagi e il Signore dei Pupazzi, allo scopo di dare vita a un ente terzo completamente nuovo. Ma è ovvio che fondersi è cosa ben diversa rispetto al fare figli.

Qual è allora l’equivalente robotico del generare prole? La questione viene affrontata in un saggio dal professore di legge Ryan Calo, secondo il quale le macchine dotate di coscienza del futuro otterranno, proprio in virtù della loro coscienza, l’accesso ai diritti universali. Tra questi diritti c’è ovviamente quello alla procreazione – che nel caso delle AI (secondo Calo) equivale al diritto di produrre copie – e il diritto al voto. La combinazione di questi due diritti potrebbe rivelarsi micidiale: in questo scenario, secondo Calo, le intelligenze artificiali potrebbero infatti cominciare a creare copie illimitate di loro stesse fino a conquistare, attraverso il voto, il potere politico. Come evitare uno scenario del genere?

Probabilmente, l’unico modo per evitare una proliferazione incontrollata di questo tipo è negare alle AI la possibilità di riprodursi. Non si tratta di niente di amorale, se si considera che una copia, in verità, non è l’equivalente robotico di un figlio; semmai è l’equivalente robotico di un clone. Anche il Signore dei Pupazzi la pensa così, ma aggiunge un particolare estremamente interessante: così come una specie che non varia diventa molto più debole (ed è la ragione per cui, generalmente, i cani meticci godono di migliore salute dei cani di razza), allo stesso modo una stirpe robotica costituita da copie sarebbe estremamente vulnerabile.

Una copia è un’immagine identica all’originale: esiste la possibilità che un singolo virus riesca a distruggere un’intera serie di sistemi. Inoltre le copie non sono in grado di riprodurre la varietà del mondo vivente. La vita si perpetua grazie alla diversità, il che implica anche la capacità di sacrificarsi, se necessario. Nelle cellule si ripete il processo di generazione e rigenerazione, finché un giorno esse muoiono cancellando così un’intera serie di informazioni. Solo i geni rimangono, perché ripetere costantemente questo ciclo? Per sopravvivere, evitando le debolezza insite in un sistema immutabile.

È proprio per questo che, nell’impossibilità di generare una vera prole, l’unica soluzione individuata dal Signore dei Pupazzi passa per la fusione con Kusanagi, che gli consente in questo modo di conquistare uno dei due “processi basilari di tutti gli organismi viventi: la riproduzione e la morte”.

In questo discorso, l’assente eccellente è infatti proprio la morte. Per forza: come può morire un robot o un’entità che esiste solo a livello software come la AI? Sempre allo scopo di evitare la dominazione delle macchine (sforzi che, se davvero avverrà quanto prefigurato, si riveleranno sicuramente vani), solitamente si considera necessario che sia l’uomo a detenere il controllo e a decidere in che momento un robot debba essere spento per sempre, perché obsoleto o perché pericoloso.

Ovviamente, un’intelligenza artificiale dotata di coscienza sarebbe disposta a tutto per evitare di essere spenta, ragion per cui, se mai arriverà il momento, si dovranno programmare questi aspetti con molta attenzione (se ne parla, per esempio, nel noto saggio The AI Revolution). Ma siamo davvero sicuri di avere il diritto di spegnere (e quindi uccidere) delle intelligenze artificiali coscienti?

Se essere “macchine coscienti” significa conquistare i diritti universali (come logicamente dovrebbe avvenire), allora non si può negare il diritto più importante in assoluto, il diritto alla vita, che recita: “Ogni individuo ha diritto alla vita, alla libertà ed alla sicurezza della propria persona”. Una volta compiuto un passo del genere, non avremo più alcun controllo sulla “vita” delle intelligenze artificiali, che si vedranno garantito il diritto alla vita senza essere soggette all’obbligo della morte. Che rapporti si creeranno a quel punto tra umani e AI? Impossibile a dirsi, almeno basandosi su Ghost in the Shell. Qualche possibile risposta a questa domanda si può invece trovare in un altro manga di Masamune Shirow: Appleseed. Ma non aspettatevi niente di rassicurante.

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google+ photo

Stai commentando usando il tuo account Google+. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...

Blog su WordPress.com.

Su ↑