La coscienza dei robot

Di seguito, un estratto dal secondo capitolo di Rivoluzione Artificiale (ed. Informant, 2017). Il libro è acquistabile su Amazon in formato ebook (3,99 €) e cartaceo

Rivoluzione Artificiale: l’uomo nell’epoca delle macchine intelligenti

E se avesse ragione Alan Turing? Se davvero un programma dotato di intelligenza, sentimenti, libero arbitrio e coscienza potesse essere scritto? D’altra parte, non sono solo i bizzarri “singolaritariani” a pensarla così, ma anche uno scienziato come Adam Trischler, che indaga le potenzialità del deep learning nel linguaggio naturale presso la start-up Maluuba (recentemente acquistata da Microsoft): «Non vedo valide ragioni per cui dei neuroni artificiali di silicio (o di qualunque materiale saranno i chip del futuro) non possano interagire nello stesso modo in cui interagiscono i neuroni biologici. Di conseguenza, penso che la creazione di una intelligenza artificiale cosciente sia una cosa assolutamente plausibile».

Nonostante i limiti qualitativi e tecnologici evidenziati in precedenza, rimane viva in molti la convinzione che, in un modo o nell’altro (probabilmente passando anche dalla riproduzione artificiale del cervello umano), in futuro arriveremo a creare un essere artificiale dotato di vera intelligenza e di coscienza. Secondo Trischler, uno dei più importanti traguardi in questo senso è quello analizzato nel capitolo 1.3: la possibilità di dotare questi software di memoria.

«A Maluuba, e in altri laboratori, abbiamo scoperto che fornire un set di neuroni ‘memoria’ incrementa notevolmente le capacità dei nostri modelli di capire e ragionare. Nel momento in cui questi modelli apprendono e registrano le loro esperienze in una memoria, diventano qualcosa di simile a degli individui? Conquistano un’identità? Come dovremmo sentirci nel cancellare integralmente la memoria che hanno acquisito attraverso migliaia di ore di allenamento? Oggi come oggi, non mi fa provare nulla; ma quando immagino la stessa cancellazione della memoria applicata a Dolores, uno dei primi ospiti di Westworld, provo orrore e repulsione. Questo è il potere della fantascienza: metterci faccia a faccia con il futuro prima che diventi realtà».

Come comportarci, da un punto di vista etico, quando scopriremo di aver creato esseri davvero intelligenti, non più riducibili al semplice rango di “cose”?

Se dotare questi software di memoria è il primo passo per renderli coscienti, allora dobbiamo iniziare a riflettere su come comportarci, da un punto di vista etico, quando scopriremo di aver creato esseri davvero intelligenti, non più riducibili al semplice rango di “cose”. Come capire, però, se un essere è realmente intelligente? Generalmente, si fa riferimento al test di Turing, un criterio per determinare se una macchina è in grado di mostrare un comportamento abbastanza intelligente da non rendere più possibile distinguerla da un essere umano. Nel mondo della fantascienza, il test di Turing (o qualcosa di molto simile) è stato utilizzato in Blade Runner, per distinguere gli esseri umani dai replicanti, o in Ex Machina, per valutare le capacità dell’androide Ava. Nel mondo reale, però, nessuna macchina è ancora riuscita a passare davvero il test di Turing: nonostante il risultato sia stato rivendicato in ben tre occasioni, ogni volta si è dovuti ricorrere a escamotage di qualche tipo.

Ma sarebbe sufficiente che una macchina riuscisse a superare realmente il test di Turing per dichiararla intelligente? Secondo alcuni filosofi, tra cui John Searle (che a tal proposito ha ideato il famoso esperimento mentale della “stanza cinese”), la risposta è negativa: il fatto che una macchina sia in grado di simulare un comportamento intelligente non significa che sia davvero intelligente.

L’obiezione di Searle può essere però disinnescata partendo da un punto di vista differente, come avviene nel particolare test di Turing eseguito in Ex Machina: «Il vero test è mostrarti che si tratta di un robot. E poi vedere se tu ritieni comunque che abbia una coscienza», spiega Nathan, tech-miliardario della Silicon Valley creatore del robot Ava, al suo dipendente Caleb. Nonostante Caleb sappia che Ava è un robot e che quindi non possa essere davvero cosciente, secondo Nathan la simulazione sarà talmente convincente da indurlo a considerarla comunque alla stregua di un essere umano.

D’altra parte, avrebbe detto Cartesio, è il pensiero, cosa di cui Ava dà ottime prove, che dimostra il fatto di essere, non viceversa (nell’ottica del filosofo francese, peraltro, il corpo dell’uomo non è altro che una macchina perfetta). Ma se anche l’analogia tra macchine intelligenti ed esseri umani fosse possibile, gli uomini continuerebbero a differire essenzialmente dagli automi per il fatto, per esempio, di provare dolore. Oppure no? «In una scena di Terminator 2, John Connor chiede al suo protettore robot: ‘Fa male quando ti sparano?’. Terminator risponde: ‘Percepisco un infortunio, questo dato può essere chiamato dolore’. Materialisti come Thomas Hobbes sarebbero stati d’accordo: forse il dolore è semplicemente la confluenza di due segnali, uno indica uno stimolo esterno negativo e l’altro l’obiettivo dell’autoconservazione», scrive ancora Adam Trischler.

Ma abbiamo davvero bisogno di prove scientifiche per capire se un essere è intelligente, autocosciente e, in definitiva, vivo?

Probabilmente, se ci trovassimo ad avere a che fare con una macchina capace di superare il test di Turing e di registrare segnali di “dolore”, qualche problema etico inizieremmo a porcelo. A quel punto vorremmo però capire se l’essere che ci troviamo davanti ha sviluppato un’ulteriore, e fondamentale, caratteristica: l’autocoscienza. Per riuscire nell’impresa, secondo il professore di Oxford Marcus du Satoy, potremmo affiancare al test di Turing una seconda prova: il test del “riconoscimento nello specchio”, utilizzato per capire se alcuni animali (o, come in questo caso, delle macchine), dimostrano di aver sviluppato il senso del sé riconoscendo la propria immagine riflessa.

Ma abbiamo davvero bisogno di prove scientifiche per capire se un essere è intelligente, autocosciente e, in definitiva, vivo? Ritornando a Ex Machina, il fatto di sapere di essere di fronte a un robot non impedisce a Caleb di sviluppare empatia nei confronti dell’androide. Non è stato necessario condurre nessuna indagine sperimentale sul funzionamento interno di Ava, ma solo parlare con lei e osservare il suo comportamento. «Questo non implica che l’indagine scientifica non debba influenzare il modo in cui guardiamo un altro essere, specialmente nei casi più esotici», scrive Murray Shanahan, professore di Robotica Cognitiva all’Imperial College di Londra. «Il punto è che lo studio di un meccanismo può essere solo complementare all’osservazione e all’interazione, ma non può sostituirle».

Per chiarire il suo concetto, Shanahan richiama uno dei filosofi più citati quando si tratta di affrontare il tema della coscienza di un automa: Ludwig Wittgenstein. «Riflettendo sul fatto che un suo amico potrebbe essere un semplice automa – o uno ‘zombie fenomenologico’, come diremmo oggi – Wittgenstein nota di non poter essere sicuro che il suo amico abbia un’anima. Piuttosto, ‘la mia attitudine nei suoi confronti è l’attitudine nei confronti di qualcuno dotato di un’anima (dove per ‘avere un’anima’ possiamo interpretare qualcosa di simile a ‘essere coscienti e capaci di provare gioia e sofferenza’). Il punto è che, nella vita di tutti i giorni, non ci mettiamo a pesare tutte le prove che abbiamo a disposizione per concludere se i nostri amici o amati siano creature coscienti come noi o meno. Semplicemente, li vediamo in questo modo e li trattiamo di conseguenza. Non abbiamo alcun dubbio su quale sia il corretto atteggiamento da tenere nei loro confronti».

D’altra parte, non possiamo chiederci ogni volta che incontriamo un essere che ci sembra intelligente se lo sia davvero o se si stia solo comportando come tale. Il punto, anzi, potrebbe proprio essere che se qualcuno è in grado di comportarsi in modo intelligente significa che è intelligente. E che quindi vada trattato come tale.

saggio divulgativo intelligenza artificiale

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google+ photo

Stai commentando usando il tuo account Google+. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

w

Connessione a %s...

Blog su WordPress.com.

Su ↑