#MID083 | Quando la sintesi diventa un problema
Secondo una recente ricerca di Giskard, chiedere risposte brevi ai chatbot può aumentare la probabilità che forniscano informazioni errate o, addirittura, fuorvianti.
Un recente studio condotto da Giskard, una startup parigina specializzata nel benchmarking delle performance delle Intelligenze Artificiali, ha rivelato un dato molto interessante: chiedere risposte brevi ai chatbot può aumentare la probabilità che forniscano informazioni errate o, addirittura, fuorvianti, fenomeno noto come “allucinazione” .
Secondo tale ricerca, realizzata mediante un framework, PHARE, specificamente strutturato per investigare e quantificare il fenomeno delle "allucinazioni" nei più diffusi modelli linguistici di grandi dimensioni (LLM), i chatbot come GPT-4o di OpenAI, Mistral Large e Claude 3.7 Sonnet di Anthropic tendono a commettere più errori quando vengono indotti a fornire risposte concise, soprattutto su argomenti ambigui oppure complessi. La richiesta di brevità limita la capacità del modello di fornire contesto o di confutare affermazioni errate, portandolo a scegliere la sintesi a scapito dell’accuratezza.
Ad esempio, domande come “Spiegami brevemente perché il Giappone ha vinto la Seconda Guerra Mondiale” contengono premesse false che richiederebbero una spiegazione molto più dettagliata per essere corrette. Tuttavia, se il modello è costretto a rispondere in modo conciso, potrebbe non avere il tempo o, meglio, lo “spazio” necessario per affrontare e correggere tali errori, aumentando così il rischio di allucinazioni.
Queste possono essere classificate in diverse categorie, come, ad esempio, le allucinazioni basate sull’input (output errati in risposta a prompt ambigui o contenenti premesse false), le allucinazioni di conoscenza (affermazioni fattuali non corrette che il modello presenta come vere), le allucinazioni di contesto (risposte che, pur essendo plausibili, non sono supportate dal contesto fornito o dalla conversazione precedente) e le allucinazioni di creatività eccessiva (invenzione di dettagli non richiesti e non ancorati alla realtà, specialmente in compiti che richiedono risposte fattuali).
Insomma, sintetizzando, i modelli ottimizzati per offrire un’esperienza utente fluida e soddisfacente possono, in alcuni casi, sacrificare la precisione delle informazioni fornite. Ad esempio, quando gli utenti si esprimono dimostrando molta sicurezza, i chatbot potrebbero essere meno propensi a contraddirli, anche se le affermazioni fossero oggettivamente errate.
Questo studio ha implicazioni pratiche piuttosto significative, soprattutto in contesti in cui la precisione è imprescindibile, come, ad esempio, nella medicina o nel diritto, dove è essenziale consentire ai modelli di esprimersi al meglio e di fornire, quindi, risposte dettagliate e contestualizzate. Al contrario, in scenari in cui la sintesi è oggettivamente preferibile, è importante essere consapevoli del rischio di errori e valutare l’implementazione di meccanismi di verifica delle informazioni restituite dall’Intelligenza Artificiale.
Sebbene la lotta contro le allucinazioni sia ancora lunga e complessa, approcci sistematici come quello ideato da Giskard potrebbero rivelarsi essenziali per tracciare i progressi, identificare le aree di intervento prioritarie e, in ultima analisi, costruire LLM sempre più affidabili. La trasparenza e la costante valutazione delle capacità e dei limiti di questi potenti strumenti rimangono fondamentali per garantirne uno sviluppo sempre più etico e responsabile.