Incantesimo, come “ingannare” l’Intelligenza Artificiale
In uno dei più famosi libri – di certo il più ponderoso – della letteratura fantasy, il Signore degli Anelli, l’oggetto del desiderio di tutta la saga crea allucinazioni e fa compiere ai più cattivi personaggi, dal meschino Smigol al terribile Saruman le azioni più delittuose.
Lo stesso Frodo, quando lo indossa, è trasportato in mondi paralleli e del resto l’anello, in molte culture, è un legame che supera lo spazio e il tempo: Nelle commedie della Grecia classica i bambini che venivano abbandonati spesso ne ricevevano uno in dono così da per poter essere riconosciuti un giorno dalla propria famiglia. Gli amici che condividevano il dono dell’ospitalità si scambiavano un anno che diventava il simbolo della loro amicizia: simbolo, nel senso etimologico del termine “che mette insieme”.
Il Signore degli Anelli oggi appare chi conquista la leadership nel campo della tecnologia ed in particolare dell’Intelligenza Artificiale la quale contiene, nel suo gergo, molti termini presi in prestito dalla letteratura fantasy. Le “allucinazioni” sono gli errori in cui possono incorrere i modelli linguistici come ChatGPT data la natura statistica delle risposte. Quando facciamo una domanda, stiamo attivando un processo il cui output sarà la combinazione più probabile fra i testi, le immagini, gli audio, i video di cui abbiamo richiesta.
Di fronte ad alcune domande – in contesti pericolosi, illegali, violenti o anche semplicemente divisivi – ChatGPT però non risponde non perchè non possa formulare un output, ma perché sono stati impostati filtri di moderazione da esseri umani formati con questo obiettivo. È possibile però aggirare questo freno chiedendo ad esempio al chatbot dí interpretare un inviato che deve descrivere un crimine o, appunto, uno scrittore di un romanzo fantasy. In questi casi si dice che l’Intelligenza Artificiale è stata vittima di un incantesimo.
Tutti questi termini sono di fantasia, ma il 30 novembre 2023 ChatGPT ha compiuto un anno di vita nella nostra vita reale.
