| Possono capitare alle persone, ma non solo. In qualche modo anche i sistemi di machine learning possono incappare in “percezioni alterate della realtà”. Quello che succede quando si hanno le allucinazioni: si pensa reale qualcosa che non è mai accaduto. Se dopo le prime introduzioni hai provato a dialogare con ChatGPT, Federica, avrai notato che può incappare in errori di accuratezza, diventando superficiale, o addirittura inventando fatti mai accaduti. Come nel caso dello sviluppatore Noble Ackerson, che facendo “egosurfing” (cercando il proprio nome online) ha scoperto di essere morto, secondo ChatGPT. |
Innanzitutto, definiamo cosa sono le allucinazioni dell’intelligenza artificiale. Ci sono casi in cui un modello linguistico di grandi dimensioni crea informazioni che non si basano su prove concrete, ma che possono essere influenzate da un pregiudizio della sua architettura o da una decodifica errata. In altre parole, il modello inventa i fatti, il che può essere problematico in diversi ambiti.
Ignorare l’accuratezza dei fatti è pericoloso in un mondo in cui le informazioni accurate e affidabili sono fondamentali per combattere la disinformazione. Per questo diversi autori mettono in guardia dall’implementazione di questi software nei sistemi per fare ricerca online, come Microsoft sta tentando di fare con Bing. Il GPT viene addestrato su enormi quantità di dati testuali senza alcuna capacità intrinseca di verificare l’accuratezza o la veridicità delle informazioni presentate in tali dati, sono motori di predizione del testo.
In altre parole, allo stato attuale, gli algoritmi di indicizzazione dei contenuti nei motori di ricerca, come quello di Google, risultano più affidabili per fare ricerca rispetto a ChatGPT. Piuttosto, questo modello è ottimo per le applicazioni creative come la narrazione, l’arte o la musica, per superare impasse o sbloccare un flusso creativo. Nella didattica della letteratura, ad esempio, Giulia Lorenzoni, professoressa universitaria e docente di lingua e letteratura inglese in un liceo di Modena, sta sperimentando l’uso di software IA.
| I Learning Café di quest’anno, come sai, sono concentrati sui temi che stanno sotto questo grande cappello denominato Intelligenza Artificiale. Abbiamo quindi pensato di invitarla per farci raccontare la sua esperienza e capire insieme come poter sfruttare queste tecnologie. |
Strumenti
Glossario
FAQ
Download
