Questo articolo è stato pubblicato in origine su Prismo
L’influenza che in Ghost in the Shell ha avuto il Cyborg Manifesto di Donna Haraway, così come la grande attenzione nei confronti del corpo (umano e robotico), è stata sottolineata più volte anche in un paio di ottime analisi in italiano. Ma l’anime diretto da Mamoru Oshii – ispirato al manga di Masamune Shirow – ha un altro tema centrale: le conseguenza etiche, sociali e politiche dell’avvento di una vera e propria intelligenza artificiale.
Technosapiens è acquistabile a questo link.
Nel 1995 Ghost in the Shell ha previsto quelli che sarebbero stati i temi etici centrali del discorso sull’intelligenza artificiale; anticipando questioni che stanno diventando di attualità solamente oggi, in un mondo in cui già conviviamo con l’intelligenza artificiale.
D’accordo, per ora siamo molto indietro rispetto a quanto immaginato in GITS: siamo fermi alle intelligenze artificiali particolari, AI capaci di svolgere un solo compito (per esempio, battere il campione mondiale di Go) grazie alla potenza del machine learning, ma senza avere la minima consapevolezza di ciò che stanno facendo. Nel mondo di GITS, invece, fa la sua comparsa il Signore dei Pupazzi: un personaggio che nega di essere una AI, preferendo definirsi “un’entità vivente e pensante che è stata generata dal mare dell’informatica”.
La distinzione è molto interessante e sembra fare riferimento al fatto che nessuno ha programmato il Signore dei Pupazzi, originariamente un progetto segreto per lo spionaggio industriale, per diventare un’entità cosciente, indipendente e autonoma; si è evoluto da solo, grazie alle sue capacità e al mare di dati a cui ha avuto accesso. Ma questo è esattamente il modo in cui, secondo alcune teorie vicine alla singolarità tecnologica, faranno la loro comparsa le intelligenze artificiali generali: AI in grado di fare qualunque cosa a livello umano che, secondo alcuni calcoli, potrebbero diventare realtà tra il 2025 e il 2040 (vale la pena di notare che GITS è ambientato nel 2029).
L’intelligenza artificiale generale e il Signore dei Pupazzi
Non solo: tutte le domande esistenziali che l’avvento di una AGI (Intelligenza Artificiale Generale – ovvero un’intelligenza artificiale autocosciente) ci costringerebbe ad affrontare sono già presenti in Ghost in the Shell, nei ragionamenti del maggiore Kusanagi (un cervello umano inserito in un corpo di cyborg) e del già citato Signore dei Pupazzi: da cosa scaturisce la coscienza in un essere artificiale? Quanto è importante avere un corpo per essere definiti una persona? Come si fa a essere certi di aver acquisito una coscienza? Un essere artificiale può riprodursi? Cosa significano morte e nascita per una AI?
Alla prima di queste domande, risponde direttamente il maggiore Kusanagi nel più noto monologo di Ghost in the Shell:
Vi sono innumerevoli elementi che formano il corpo e la mente degli esseri umani, come innumerevoli sono i componenti che fanno di me un individuo con la propria personalità. Certo, ho una faccia e una voce che mi distinguono da tutti gli altri, ma i miei pensieri e i miei ricordi appartengono unicamente a me e ho consapevolezza del mio destino. Ognuna di queste cose non è che una piccola parte del tutto. Io raccolgo dati che uso a modo mio, e questo crea un miscuglio che mi dà forma come individuo e da cui emerge la mia coscienza.
Raccogliere dati e sfruttarli in modo personale, quindi, darebbe forma all’individuo, permettendo alla coscienza di emergere: esattamente il modo in cui ha preso “vita” il Signore dei Pupazzi. In questo senso, alcuni programmi come Watson di IBM potrebbero essere a un passo dal conquistare la coscienza di sé. Watson – noto soprattutto per aver sconfitto i campioni di Jeopardy, ma che ha applicazioni commerciali enormi – è in effetti in grado di cercare dati in panieri non strutturati di informazioni, di analizzare e interpretare informazioni e imparare autonomamente da questi processi. Se è “raccogliere dati e usarli a modo mio” che permette a una coscienza di emergere, allora Watson è il candidato ideale per riuscire nell’impresa.
Ovviamente, non tutti sono d’accordo con un’affermazione del genere: senza entrare troppo nel dettaglio, il fisico David Deutsch rimprovera a tutte queste tesi di dare un eccessivo peso all’aspetto quantitativo. Dal suo punto di vista, è sbagliato pensare che sia la quantità di dati analizzati a consentire a un’intelligenza autonoma di emergere, perché ciò che conta è lo scarto qualitativo, che ancora non si capisce da cosa potrebbe scaturire.
Poniamo però che questa AGI un giorno compaia e affermi di essere dotata di coscienza: come farà a dimostrarlo? Il test di Turing a cui si fa sempre riferimento potrebbe non bastare, visto che in molti, tra cui il professore di Filosofia di Oxford Luciano Floridi, sottolineano come fornisca una condizione necessaria, ma non sufficiente, a dimostrare che la AI abbia sviluppato una coscienza. Il test di Turing proverebbe solamente che l’intelligenza artificiale in questione è in grado di simulare un comportamento intelligente, non che lo sia effettivamente. Costringeremo allora i robot intelligenti del futuro a fare il test dello specchio o altri esami a cui vengono solitamente sottoposti bambini o animali?
Forse, e più semplicemente, nessuno dovrebbe arrogarsi il diritto di mettere in dubbio l’autocoscienza professata da una AI. Il Signore dei Pupazzi la pensa in questo modo, nel momento in cui, rivolgendosi a un umano, afferma:
E tu, mi puoi dare prova della tua esistenza? Come puoi farlo se né la scienza moderna né la filosofia sanno spiegare cos’è la vita. (…) Si potrebbe sostenere che anche il DNA non sia altro che un programma studiato per preservare se stesso. La vita è diventata più complessa nell’immenso mare dell’informatica. E la vita, quando si organizza in specie, fa dei suoi geni il proprio sistema mnemonico; quindi l’uomo è un individuo solo in virtù della sua intangibile memoria. La memoria non può essere definita, eppure definisce il genere umano. L’avvento dei computer e il conseguente accumulo di innumerevoli informazioni ha dato vita a un nuovo sistema di memoria e di pensiero parallelo al vostro. L’umanità ha sottovalutato le conseguenze della computerizzazione.
Un pensiero su “L’intelligenza artificiale e l’etica di Ghost in the Shell”