Così l’essere umano si trasforma in macchina

Da quando le intelligenze artificiali hanno iniziato a mostrare le loro potenzialità, la società si domanda inquieta se le macchine stiano diventando sempre più simili agli esseri umani. Nella fretta di immaginare improbabili scenari alla Terminator, non abbiamo compreso che la domanda cruciale della nostra epoca è opposta: sono gli esseri umani che stanno diventando sempre più simili alle macchine? «Se progettassimo un ambiente all’interno del quale gli umani si comportano sempre in maniera perfettamente logica, allora diventeremmo simili alle macchine. E questo dovrebbe preoccuparci», ha affermato Brett Frischmann, accademico e co-autore di Re-engineering Humanity.

Acquista Technosapiens: come l’essere umano si trasforma in macchina (2021, D Editore)

Dobbiamo essere preoccupati? Stiamo creando un ambiente improntato esclusivamente alla razionalità e all’efficacia, in cui quindi gli esseri umani si fanno macchine? I segnali, in effetti, iniziano a essere numerosi. Ne sono un esempio gli strumenti della nudge society, la società del pungolo che attraverso i dispositivi tecnologici mobile – in grado di monitorare i nostri comportamenti – ci sprona esplicitamente ad assumere comportamenti considerati razionali: a fare più attività fisica, a non procrastinare i nostri impegni, a lavorare di più; sempre sottoposti al bastone delle reprimende digitali e alla carota dei premi (che assumono la forma di medaglie virtuali che, come vedremo, hanno più potere su di noi di quanto potremmo pensare).

Technosapiens è acquistabile a questo link.

Ma questi sistemi improntati alla massima efficacia e razionalità stanno ormai tracimando in ogni luogo: in alcune scuole, per ora soprattutto in Cina, gli studenti sono monitorati da tecnologie di riconoscimento facciale che analizzano il loro livello di attenzione e lo segnalano in tempo reale a professori, dirigenti scolastici e genitori, costringendoli a un comportamento da studenti modello che non è più frutto di una loro scelta (o educazione), ma un obbligo dal quale non possono nemmeno cercare di sottrarsi (la possibilità di scegliere, e anche di compiere scelte che consideriamo sbagliate, è una caratteristica fondante dell’essere umano).

Non è tutto: per far funzionare le auto autonome anche in città, dove mai sarebbero in grado di districarsi tra vicoletti, pedoni che attraversano ovunque, tram, auto in doppia fila e motorini, esperti di intelligenza artificiale del calibro di Andrew Ng hanno proposto di ripensare le città affinché siano adattate alle auto autonome e quindi improntate a una totale e inaggirabile razionalità. Invece di concentrarci su come rendere le città maggiormente a misura d’uomo, studiamo come renderle a misura di robot: un processo che, inevitabilmente, ci renderà a nostra volta un po’ più simili a dei robot.

Siamo noi che stiamo imparando a parlare come una macchina. In un certo senso, è Alexa che ci sta addestrando

Gli smart speaker che si stanno diffondendo in ogni casa sono un altro esempio. Alexa o Siri non sono davvero in grado di capirci. Siamo noi che, sfruttando l’elasticità della mente umana, abbiamo imparato a rivolgerci alla macchina in una maniera schematica, sempre uguale, priva di quei tic e di quelle ambiguità che contraddistinguono il linguaggio umano. È l’unico modo per essere da lei compresi. Ciò che rende lo scambio possibile è quindi il fatto che noi stiamo imparando a parlare come una macchina. In un certo senso, è Alexa che ci sta addestrando.

Lo stesso vale per i processi di gamification che si diffondono nel mondo del lavoro: con la scusa di rendere la giornata lavorativa più “coinvolgente”, i dipendenti delle aziende sono sottoposti a un monitoraggio costante che conferisce punteggi e che trasforma il lavoro in una competizione con i propri colleghi; obbligando a un comportamento professionale improntato alla massima razionalità ed efficacia: misurabile, prevedibile e costantemente ripetuto. Un modello che potremmo chiamare taylorismo sotto steroidi, che cancella il valore della cooperazione e del pensiero a lungo termine per incentivare la competizione e il perseguimento di obiettivi di brevissimo termine. E che, ancora una volta, costringe gli esseri umani a comportarsi come macchine.

La gamification ci trasforma in “meccanismi privati dei sensi e spronati ad andare avanti a ogni costo pur di conquistare la ricompensa”

La gamification ci trasforma in “meccanismi privati dei sensi e spronati ad andare avanti a ogni costo pur di conquistare la ricompensa”, come ha scritto il filosofo Steven Conway. Se progettare un ambiente che costringe l’umanità a comportamenti sempre perfettamente razionali è il primo passo per rendere gli esseri umani stessi simili alle macchine, i segnali che ciò stia già avvenendo sono tutti attorno a noi. E sono collegati tra loro da un unico filo rosso: il ruolo sempre più importante che le nuove tecnologie giocano nelle nostre vite.

Dal presente degli smartphone al futuro prossimo dei visori in realtà aumentata, fino alle utopie delle interfacce cervello-computer, le tecnologie digitali si stanno gradualmente fondendo con il corpo umano, creando le condizioni necessarie per un’umanità potenziata: più efficiente, più razionale, più veloce e più misurabile. Ma chi ci guadagna davvero da tutto ciò? E soprattutto: qual è il prezzo da pagare? Dalla diffusione di stimolanti per tenere il ritmo dell’efficienza resa possibile dalla tecnologia, fino ai timori che sia in corso un’epidemia di disturbi mentali: la realtà digitalmente aumentata in cui siamo immersi rischia, secondo molti esperti, di far collassare il nostro sistema operativo – il cervello – richiedendo interventi farmacologici per assicurarsi che l’intera società possa tenere i ritmi richiesti dal turbocapitalismo senza cadere vittima di un burnout collettivo.

C’è una via d’uscita da tutto ciò? Tra nuove teorie politiche che si muovono sul confine tra utopia generazionale e fantascienza irrealizzabile, e progetti concreti che mirano a restituire ai cittadini un pieno controllo sulla tecnologia digitale, la speranza che si possa invertire, o almeno correggere, la rotta è ancora accesa. Ma la strada da percorrere è lunga. E il tempo stringe.

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...