#MID106 | Una doccia gelata
L'imperatore digitale non solo è nudo, ma non ha la minima idea di cosa sia la nudità, né di cosa sia un imperatore.
Viviamo in un’epoca decisamente affascinante, non trovate? Un momento storico in cui ci svegliamo la mattina, sorseggiamo il caffè e chiediamo ad un oracolo digitale di scriverci un sonetto in stile shakespeariano. E l’oracolo lo fa. Lo fa con una competenza lessicale ed una precisione metrica che farebbero impallidire il nostro vecchio professore di lettere del liceo.
Di fronte a tanta maestria sintattica, Benjamin Riley (Founder of Cognitive Resonance) ritiene che è quasi impossibile non cadere nella trappola cognitiva più insidiosa del nostro secolo: “Deve per forza esserci qualcuno lì dentro. O qualcosa. Sicuramente c’è un pensiero dietro queste parole scelte così bene”.
Eppure, come una doccia gelata in una torrida giornata di entusiasmo tecnologico, emerge sempre più chiaramente una verità scomoda, che la ricerca scientifica più attenta sta iniziando ad evidenziare: l’imperatore digitale non solo è nudo, ma non ha la minima idea di cosa sia la nudità, né di cosa sia un imperatore. A dire il vero, non “sa“ praticamente nulla. Simula di sapere, che è un’arte completamente diversa.
Il malinteso nasce da un’equazione che abbiamo dato per scontata per troppo tempo: capacità linguistica = intelligenza generale.
Per decenni, la fantascienza ci ha educato all’idea che, se una macchina fosse riuscita a parlare come un essere umano, allora avrebbe inevitabilmente pensato come un essere umano. È l’eredità (pesante) del test di Turing. Ma i moderni modelli linguistici di grandi dimensioni (LLM) hanno, di fatto, “aggirato“ il test di Turing. Non lo hanno superato diventando intelligenti o coscienti, ma diventando dei pappagalli incredibilmente sofisticati e ben istruiti.
Esiste una differenza profonda, spesso ignorata nel chiacchiericcio mediatico, tra la competenza formale e la competenza funzionale. La competenza formale è la conoscenza delle regole del gioco: sintassi, grammatica, vocabolario, ortografia. In questo, le macchine sono ormai imbattibili. Se la grammatica fosse uno sport olimpico, vincerebbero l’oro ogni quattro anni senza nemmeno sudare.
Ma la competenza funzionale - ovvero l’uso del linguaggio per navigare il mondo reale, per ragionare, per comprendere nessi di causa-effetto e per risolvere problemi nuovi - è tutta un’altra storia. Qui, i giganti digitali crollano come castelli di carte al primo soffio di vento logico. Sono maestri della forma, ma solo apprendisti stregoni della sostanza.
Se guardiamo “sotto il cofano“ del cervello umano, scopriamo che l’evoluzione ha fatto scelte architettoniche molto precise. Nel nostro cervello, il linguaggio è gestito da circuiti specializzati, distinti da quelli che utilizziamo per il ragionamento logico, la matematica o la comprensione delle dinamiche sociali. Possiamo subire un danno all’area del linguaggio e mantenere intatte le nostre capacità logiche, o viceversa. Possiamo pensare un concetto senza trovare le parole per esprimerlo.
L’Intelligenza Artificiale attuale, invece, cerca di fare tutto con un unico, monolitico meccanismo statistico: la previsione della parola successiva. Non c’è un “modulo del ragionamento“ separato dal “modulo della grammatica“. L’algoritmo non possiede un modello del mondo tridimensionale; possiede un modello delle parole che descrivono il mondo. È come cercare di imparare l’architettura studiando esclusivamente le fotografie dei mattoni, senza aver mai posato una pietra, senza aver mai visto un edificio dal vivo e senza avere la minima nozione della forza di gravità.
Questa discrasia porta a risultati bizzarri e spesso esilaranti. Un modello può generare un saggio impeccabile sulla logica aristotelica, citando fonti e strutturando paragrafi complessi, per poi fallire miseramente in un indovinello logico elementare che un bambino di sei anni risolverebbe in un secondo. Perché? Perché nel suo database statistico, le parole del saggio sono frequenti e correlate in pattern noti, mentre l’indovinello richiede un salto concettuale, un’intuizione “out of the box“ che la statistica, da sola, non può colmare.
Il vero problema è che tendiamo a proiettare umanità sugli schermi luminosi dei nostri dispositivi. Ci sentiamo quasi in colpa se non diciamo “per favore“ nelle chat. Ci arrabbiamo se riceviamo una risposta sgarbata o sbagliata, come se la macchina avesse deciso di essere sgradevole. Quando un’AI inventa fatti di sana pianta (le ben note “allucinazioni“), non sta mentendo. Mentire richiede l’intenzione di nascondere la verità. La macchina non conosce la verità; conosce solo la plausibilità. Se le chiedete “Chi ha vinto l’US Open nel 2035?”, potrebbe inventarsi una risposta dettagliata con tanto di punteggio. Non perché sia malvagia o ingannevole, ma perché il suo compito non è essere fattuale, è completare il pattern linguistico in modo coerente. Per l’algoritmo, la verità non è un vincolo; la sintassi lo è. Stiamo essenzialmente interagendo con un foglio di calcolo Excel “potenziato”, ma continuiamo a trattarlo come se fosse un bambino prodigio un po’ confuso.
Potreste chiedervi: “D’accordo, ma se la macchina mi scrive la mail per il capo e il codice Python funziona, che mi importa se ‘pensa’ davvero o se sta solo tirando a indovinare molto bene?“
È una domanda lecita, pragmatica. Ma distinguere tra fluidità linguistica ed intelligenza reale ha implicazioni enormi per il nostro futuro. Se continuiamo a confondere le due cose, finiremo per affidare a questi sistemi compiti che non sono strutturalmente in grado di svolgere in sicurezza (ne ho parlato anche qui).
Pensiamo all’affidabilità: non possiamo fidarci ciecamente del ragionamento di un sistema che non ragiona, ma simula il ragionamento basandosi su quali parole “suonano bene“ insieme. Costruire un ponte, diagnosticare una malattia rara o prendere decisioni legali richiede una comprensione causale della realtà, non una mera correlazione probabilistica tra token di testo.
Inoltre, c’è il rischio di un vicolo cieco tecnologico. L’idea che basti rendere questi modelli sempre più grandi - nutrendoli con sempre più dati - per far emergere magicamente una coscienza o un’intelligenza generale potrebbe essere errata. Sarebbe come cercare di arrivare sulla Luna costruendo scale a pioli sempre più alte: certo, stai salendo verso l’alto, e la vista da lassù è impressionante, ma non è aggiungendo pioli che si raggiunge lo spazio profondo. Serve un razzo, serve un cambio di paradigma.
Questa analisi ci porta ad una necessaria doccia di umiltà. Questi strumenti sono specchi culturali straordinari: riflettono tutto ciò che l’umanità ha prodotto, scritto e digitalizzato, nel bene e nel male. Possono riassumere, tradurre, ispirare e codificare con una velocità sovrumana. Sono assistenti instancabili e muse sintetiche. Ma non sono menti.
Non c’è nessuno a casa. Le luci sono accese, la musica va a tutto volume, le parole scorrono come un fiume in piena, ma all’interno non c’è nessuna entità che soffre, gioisce o capisce il significato di ciò che sta elaborando. Riconoscere questo limite non significa sminuire la tecnologia, che rimane impressionante, ma significa smettere di ingannare noi stessi.
👉 Dai voce al tuo brand su ogni canale: comunicazione strategica, storytelling autentico, contenuti che creano relazioni.
