Durante la recente conferenza Google I/O, Google ha introdotto numerose innovazioni nel campo delle intelligenze artificiali (AI) generative, evidenziando l’uso quotidiano delle AI attraverso dispositivi mobili.

Tuttavia, la questione delle “allucinazioni” delle AI, ovvero risposte errate o fuori contesto, rimane un problema significativo.

Questo fenomeno non è limitato a Google. Ad esempio, nel febbraio 2023, un errore di Bard, il chatbot di Google, ha causato una perdita immediata di 100 milioni di dollari in borsa. Analogamente, ChatGPT di Microsoft e OpenAI ha generato risposte ripetitive e senza senso a una semplice richiesta di sinonimo, dimostrando limitazioni simili.

Questi errori sono attribuiti alla natura stessa dei modelli linguistici di grandi dimensioni (LLM), che apprendono da vasti set di dati testuali per generare risposte. LLM funzionano tramite reti neurali che calcolano la probabilità delle parole in base ai contesti osservati nei dati di addestramento. Sebbene ciò porti a risposte linguisticamente corrette, spesso mancano di comprensione autentica, generando risposte che solo superficialmente sembrano appropriate.

Il problema delle allucinazioni è noto e studiato da vari esperti. Rodney Brooks, del MIT, descrive ChatGPT come uno strumento che “inventa cose che sembrano giuste”. Allo stesso modo, il termine “pappagallo stocastico” è stato coniato per sottolineare come le AI riproducono frasi senza comprenderne il significato, basandosi su calcoli probabilistici.

L’industria è consapevole di questi problemi e sta cercando soluzioni. Google, ad esempio, ricerca un equilibrio tra creatività e accurata riproduzione dei fatti, mentre Microsoft introduce strumenti per rilevare e correggere gli errori.

In conclusione, mentre le AI generative continuano a stupire con la loro capacità di generare contenuti coerenti a livello linguistico, la sfida di garantire che queste risposte siano anche corrette e significative rimane aperta.

Le ultime notizie in diretta dal Panorama Inter e Intra Nazionale.