Un testo invisibile può orientare una decisione dell’Intelligenza Artificiale. Il problema non è soltanto tecnico: riguarda la fiducia, la responsabilità e il modo in cui affidiamo alle macchine valutazioni che possono incidere sulle persone e sulla loro vita.
L’Intelligenza Artificiale ci sta abituando a una nuova modalità di accesso alle informazioni: leggere documenti, sintetizzarli, valutarli e persino formulare giudizi o raccomandazioni. Proprio per questo appare particolarmente interessante una vulnerabilità recentemente evidenziata dalla ricerca scientifica e riportata anche dalla cronaca italiana. Attraverso quella che viene definita indirect prompt injection, un documento può contenere istruzioni nascoste capaci di influenzare il comportamento dell’Intelligenza Artificiale che lo analizza. In altre parole, il testo sottoposto a valutazione può diventare esso stesso uno strumento per orientare il valutatore artificiale.
La questione è meno tecnica di quanto possa sembrare. Siamo abituati a considerare un documento come un insieme di informazioni: un curriculum racconta il percorso di una persona, un articolo scientifico presenta una ricerca, una relazione clinica descrive una situazione sanitaria. Quando però questi contenuti vengono letti da un sistema di IA, la distinzione tra informazione e istruzione può diventare meno netta. Un documento non si limita più necessariamente a essere valutato: può tentare di influenzare il modo in cui viene valutato.
Da qui emerge una prima questione bioetica: quanto possiamo fidarci di una decisione assistita dall’Intelligenza Artificiale se non abbiamo piena consapevolezza del processo che l’ha generata? Il problema riguarda soprattutto gli ambiti nei quali le valutazioni incidono sulle persone: selezione del personale, istruzione, ricerca scientifica, sanità. Non perché l’IA sia intrinsecamente inaffidabile, ma perché l’affidabilità di un risultato dipende anche dalla qualità e dalla sicurezza del percorso che conduce a quel risultato.
Il tema riguarda inevitabilmente anche il Diritto. Le norme europee sull’Intelligenza Artificiale insistono sulla trasparenza e sulla supervisione umana. Tuttavia, la vicenda delle istruzioni nascoste mostra che non basta sapere che è stata utilizzata un’IA. Occorre poter comprendere quali informazioni siano state elaborate e in che modo il sistema sia arrivato alle proprie conclusioni. La trasparenza, quindi, non può essere soltanto dichiarativa, ma deve riguardare il processo decisionale.
C’è poi un aspetto ancora più rilevante: la responsabilità. Se una valutazione risulta alterata o influenzata, non possiamo limitarci a dire che «ha deciso l’algoritmo». L’Intelligenza Artificiale non può e non deve diventare il luogo nel quale la responsabilità umana scompare. Al contrario, queste vulnerabilità dimostrano quanto sia importante mantenere un controllo effettivo sulle decisioni assistite dalle macchine, evitando di attribuire loro un’autorevolezza automatica.
Forse il punto più interessante è che questa tecnologia ci costringe a ripensare il concetto stesso di documento. Per secoli abbiamo dato per scontato che un testo contenesse informazioni destinate al lettore. Oggi un documento può contenere livelli diversi di comunicazione: alcuni rivolti all’essere umano, altri alla macchina. Non è soltanto un problema di sicurezza informatica. È una questione che riguarda la fiducia, la conoscenza e la responsabilità.
L’errore sarebbe concludere che non dobbiamo utilizzare l’Intelligenza Artificiale. La vera sfida è un’altra: imparare a considerarla uno strumento potente ma fallibile. Perché più affideremo alle macchine il compito di leggere e valutare il mondo, più sarà necessario ricordare che la responsabilità delle decisioni continua a rimanere, inevitabilmente, umana.
© Bioetica News Torino, Ottobre 2026 - Riproduzione Vietata
A cura di
