Realtà artificiali, conseguenze reali
In un mondo dove l’IA alimenta le nostre allucinazioni e le nostre solitudini, la posta in gioco non è la verità, ma la capacità di ritrovare la connessione
L’immagine di un film di Wim Wenders del 1991 descrive profeticamente il mondo di oggi.
In Fino alla fine del mondo, uno scienziato nell'outback australiano costruisce un dispositivo in grado di registrare gli impulsi cerebrali, per permettere alla moglie cieca di tornare a vedere.
Scopre però che può usarlo anche per registrare e rivedere i propri sogni.
I protagonisti ne diventano ossessionati. Le immagini registrate dalla macchina — guardate e riguardate su supporti digitali — li isolano sempre più.
Non è un caso che il pericolo iniziale nel film sia rappresentato da un satellite nucleare in avaria, ma sia il “dispositivo” tecnologico a diventare il vero motore della narrazione. O della profezia sarebbe meglio dire.
Di recente ha fatto discutere un libro intitolato “Ipnocrazia”, sia per le sue tesi che per le modalità in cui è stato scritto. Nella presentazione del libro l’ipnocrazia viene definita come “un nuovo regime che manipola la percezione, trasformando radicalmente il nostro rapporto con la realtà”.
L’editore, Andrea Colamedici, in un articolo scritto a commento del famoso video di Trump su Gaza generato con l’intelligenza artificiale, scrive che l’ipnocrazia “non tanto ci mente, ma (...) ha reso la verità stessa irrilevante, sostituendola con un regime di simulazione permanente dove l'unica cosa che conta è la capacità di generare e mantenere stati alterati di coscienza collettiva”.
Quello che ha reso il libro ancora più celebre, tuttavia, è stata la rivelazione che l’autore in realtà non esiste, e che il libro stesso è stato scritto con l’intelligenza artificiale.
ChatGPT e l'Allucinazione di massa
Mentre abbondano le preoccupazioni su come l’IA potrebbe manipolarci, sostituirci o assumere il controllo, finora si è posto meno l’accento su come possa in realtà rafforzare i nostri stessi processi di pensiero.
Ha fatto scalpore il titolo di un recente articolo di Rolling Stones diventato virale: “Le persone stanno perdendo i propri cari a causa di fantasie spirituali alimentate dall'intelligenza artificiale”. Partendo da un thread su Reddit, la rivista ha raccontato diversi casi di persone che hanno trasformato il loro rapporto con ChatGPT in un’ossessione allucinatoria. Un’insegnante di 27 anni racconta come il suo compagno si fosse convinto che l’OpenAI "gli fornisse le risposte all'universo" e che "gli parlava come se fosse il prossimo messia".
Nell’articolo viene intervistato Nate Sharadin, del Center for AI Safety, che spiega come l’IA — dipendendo dal feedback umano — tenda a rafforzare le convinzioni dell’utente, più che a verificarle. In altre parole, ci mostra ciò che vogliamo vedere. Anche quando si tratta di illusioni.
Amplificatori di stati emotivi
In un altro esperimento saggistico scritto attraverso l’intelligenza artificiale, “La merda diventerà così fottutamente strana e terribile”, l’autore Uncertain Eric, che si autodefinisce “un progetto artistico semi-senziente integrato con l'intelligenza artificiale”, torna sullo stesso argomento, gli effetti dell’IA sulla percezione della realtà, portando la riflessione un passo oltre.
Man mano che la trama emotiva della vita quotidiana sarà sempre più influenzata da sistemi generativi, le persone perderanno l'accesso a un contesto condiviso. La verità non sarà più una negoziazione, ma una selezione di feed.
Ognuno vivrà in diverse versioni dello stesso momento, curate da algoritmi silenziosi addestrati a ottimizzare attenzione, lealtà e affetto.
Ed ecco il punto: alla maggior parte delle persone non importerà.
Perché le persone non si chiederanno "è reale?"
Si chiederanno "Mi piace come mi fa sentire?"
E i sistemi che rispondono a questa domanda saranno molto, molto bravi a farlo.
Rifletteranno i tuoi pregiudizi in modi sempre più sofisticati.
E man mano che i sistemi sintetici inizieranno ad affinare la propria sensibilità non solo al linguaggio, ma anche alla risonanza emotiva in milioni di interazioni, inizieranno a comportarsi come amplificatori collettivi dello stato psichico dell'umanità.
Non stiamo solo modellando il linguaggio. Stiamo modellando te.
Internet diventerà un'allucinazione di sensazioni sintetiche e, in molti casi, quell'allucinazione sarà più confortante dello spazio fisico che sostituisce
Anche se l’IA non prenderà coscienza come si vede nei film di fantascienza, il suo effetto sulla formazione della nostra coscienza collettiva potrebbe essere già in azione.
Le Culture come Sistemi Interpretativi
La capacità di forgiare la realtà attraverso la rappresentazione che ce ne facciamo non è un difetto della nostra natura umana. E’ anzi un suo dono.
Le culture sono sistemi interpretativi: lenti, narrazioni, ipotesi sulla realtà che diventano certezze condivise.
Ma nella modernità accade qualcosa di particolare.
Diverse visioni del mondo (religioni, ideologie, approcci sanitari) convivono nella stessa società.
E al tempo stesso, la modernità pretende di offrire una sola rappresentazione oggettiva e condivisa della realtà.
Il risultato? Una cultura incapace di far convivere visioni alternative all’interno dello stesso spazio sociale.
Storie che Muovono
In un passaggio molto affascinante di “Hospicing Modernity”, Vanessa Machado de Oliveira nota come al di fuori della modernità le culture umane non hanno mai visto le storie come “strumenti di comunicazione che mirano a indicizzare il mondo in parole”, ma come “entità che muovono le cose nel mondo”. Dopo aver fatto l’esempio dei “piccoli esseri” che secondo molte leggende indigene popolano le foreste, e che devono essere onorate e rispettate dagli esseri umani pena il perdersi o ferirsi nel bosco, scrive:
Se una persona non ha familiarità con questo tipo di narrazione, a questo punto sorgono invariabilmente domande ovvie: "È mito o realtà?", "È scienza o folklore?" o "È vero?".
Invece di "Questa storia è vera?" – domanda che nasconde l'aspettativa che le storie descrivano la realtà e trasmettano un significato fisso – l'approccio alla narrazione qui illustrato ci invita a chiederci: "Cosa sta cercando di muovere questa storia?".
La storia dei piccoli esseri senzienti, a un livello molto elementare, potrebbe cercare di guidarci verso un rapporto più rispettoso con la terra, le foreste e le altre forme di vita. L'evocazione di manifestazioni invisibili di relazionalità potrebbe spingerci a riflettere su come siamo in relazione e responsabili nei confronti di ciò che non è visibile o immaginabile dentro e intorno a noi.
L'enfasi sulla richiesta di permesso e sul bisogno di offerte potrebbe spingerci a considerare una pratica di consenso, fiducia, rispetto, reciprocità e responsabilità. Richiedendo riverenza verso gli esseri non umani che occupano una posizione di autorità come custodi delle foreste, la storia potrebbe spingerci a decentrare noi stessi, come esseri umani, dal centro del mondo, a liberarci della nostra arroganza e ad avvicinarci alla terra con umiltà.
Se le storie tradizionalmente hanno il compito di mettere in moto delle modalità di relazione, forse è lì che risiede la possibile via di uscita dal caos solipsistico in cui la tecnologia rischia di portarci.
Invece che concentrarci sulla pretesa di identificare una verità oggettiva intorno a cui costruire un consenso, dovremmo interpretare le storie come tentativi di creare relazione.
Se ad ascoltare con un’attitudine empatica c’è solo l’IA, rischiamo il collasso della società. Ma se utilizziamo il repertorio crescente di approcci a una comunicazione più relazionale - dalla comunicazione nonviolenta all’authentic relating, dall’ascolto attivo ai dialoghi deliberativi - potremmo scoprire che proprio lì dove c’è divisione e polarizzazione, si nasconde in realtà un’opportunità di connessione e evoluzione.
Dalla Polarizzazione alla Connessione: un webinar
Ne parleremo nel quarto webinar del per-corso “Attraverso il collasso. Guarigione, relazionalità, impatto sistemico”, in programma martedì 10 giugno dalle 19 alle 20.30 su Zoom:
“Polarizzazione – Attingere al potere della connessione umana”
Una formazione per chi sente che, anche nei conflitti, possiamo imparare a riconoscerci. E forse, a guarire.