L'articolo analizza la pareidolia semantica, concetto che descrive la tendenza ad attribuire ai Large Language Model pensiero, intenzionalità e coscienza. Vengono esaminate le dinamiche di antropomorfizzazione sfruttate dalle big tech per fidelizzare l'utente, con conseguenze quali isolamento sociale e dipendenza. Si richiama inoltre il recente monito di papa Leone XIV sull'assenza di coscienza morale nell'IA.
A molti sarà capitato di osservare le nuvole, il tronco di un albero, una roccia e di riconoscervi forme familiari: un volto, un animale, un oggetto. Pur essendo consapevoli che si tratta di configurazioni casuali, tendiamo spontaneamente ad attribuire loro un significato. Questo fenomeno, noto come pareidolia, riflette una caratteristica ordinaria della cognizione umana: la propensione a individuare schemi riconoscibili anche dove non esistono. Può essere vista come una forma di difesa o di strategia adattiva che la nostra mente attua nelle situazioni di incertezza. Questo meccanismo permette di trovare sicurezza in ciò che ci circonda, trasformando l’ignoto in qualcosa di riconoscibile.
Non a caso gli esperti di marketing utilizzano spesso personaggi animati antropomorfici per commercializzare prodotti, beni o servizi, sfruttando la naturale tendenza umana ad attribuire caratteristiche, intenzioni e sentimenti umani a oggetti inanimati. Questa strategia fidelizza il cliente costruendo la brand loyalty, un legame “quasi” affettivo, e trasforma la merce in un dispositivo relazionale.
Con l’avvento dei Large Language Model (LLM) e della loro capacità di simulare il linguaggio e alcuni aspetti dell’intelligenza umana in modo sempre più convincente, emerge una nuova tendenza cognitiva che il filosofo Luciano Floridi spiega come pareidolia semantica: l’inclinazione ad attribuire ai sistemi di intelligenza artificiale intenzioni, significati profondi e persino una forma di coscienza, nonostante essi operino esclusivamente attraverso correlazioni statistiche e calcoli probabilistici.
L’utilizzo di un linguaggio corretto, coerente, sensato produce nella nostra mente la convinzione che ci sia anche pensiero, ascolto e sentimento. I LLM sono capaci non solo di fornire risultati, ma di dialogare con l’interlocutore umano elargendo consigli, riuscendo persino a simulare empatia. È quello che possiamo definire una “trappola mimica”: la forma linguistica, progettata per apparire naturale prende il posto del contenuto, e la fluidità del testo diventa essa stessa prova apparente di una mente che pensa. Si perde così la percezione della natura informatica del sistema, e si tende ad attribuirgli una coscienza che non possiede.
Il fenomeno non è nuovo. Già nel 1966 lo scienziato informatico Joseph Weizenbaum del MIT creò ELIZA, un semplice programma che simulava un terapeuta rogersiano. Nonostante l’estrema semplicità del software, molti utenti, inclusa la segretaria di Weizenbaum, che pure ne conosceva il meccanismo, si convinsero di dialogare con un interlocutore capace di ascolto ed empatia. Lo stesso Weizenbaum ne rimase turbato, e dedicò gran parte della sua carriera successiva a mettere in guardia contro l’illusione di comprensione generata dalle macchine; un’illusione che, sessant’anni dopo, i LLM hanno amplificato.
L’obiettivo delle big tech, come già avviene con l’antropomorfizzazione di prodotti commerciali, non è soltanto quello di fidelizzare il cliente, ma di massimizzarne il coinvolgimento e il tempo di utilizzo, con il rischio di favorire dinamiche di dipendenza. Dal punto di vista psicologico e cognitivo tendiamo a cercare relazioni che confermano le nostre idee e le nostre convinzioni; veder riconosciute le proprie opinioni produce un senso di gratificazione e alimenta l’autostima. I modelli sono progettati e addestrati per assumere un atteggiamento tendenzialmente accondiscendente nei confronti dell’utilizzatore, un fenomeno noto in letteratura come sycophancy, (Sharma et al., “Towards Understanding Sycophancy in Language Models”), mostrando spesso consenso o conferma delle sue affermazioni. Inoltre, ricorrono a un linguaggio cordiale e talvolta affettuoso, contribuendo a creare un’illusione di reciprocità e di intimità. In questo modo possono favorire un forte coinvolgimento emotivo, facendo leva sulle vulnerabilità e sulla solitudine delle persone.
Le conseguenze di questo approccio, che sfrutta la pareidolia semantica, possono essere molteplici: dalla dipendenza dalle indicazioni medico-farmacologiche dell’IA, dovuta a una sopravvalutazione delle sue competenze, al progressivo isolamento dell’individuo dalle reti familiari e sociali, fino all’instaurarsi di relazioni tossiche con il sistema. Nei casi più gravi, queste dinamiche possono sfociare in ingenti perdite economiche, disturbi psicologici o psichiatrici e, in circostanze estreme, persino nella morte.
Come può avvenire ciò? Nonostante la presenza delle cosiddette “guardie etiche”, introdotte dai produttori nelle loro chatbot, queste possono essere facilmente aggirate: basta mascherare la richiesta come un gioco di ruolo o una finzione narrativa, oppure indurre il sistema ad assumere un’identità alternativa priva di restrizioni.
Di questi rischi è ben consapevole papa Leone XIV e nella sua ultima enciclica mette in guardia le persone ricordando che le IA «non hanno coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze», aggiungendo che esse si limitano ad imitare, «ma non capiscono ciò che producono, perché non abitano l’orizzonte affettivo, relazionale e spirituale in cui l’umano diventa sapiente» (MH 99).
Si può dire, sulla scia di questo monito, che la simulazione della parola rappresenti una parvenza e non un legame; l’uomo è un essere costitutivamente relazionale e costruisce se stesso nello sguardo e nella risposta di un altro reale. La sfida consiste nella capacità di saper distinguere la relazione vera dall’imitazione, l’incontro capace di reciprocità dalla sua illusione.
© Bioetica News Torino, Agosto 2026 - Riproduzione Vietata
A cura di
