#MID113 | Autopsia aliena
Per capire l'assurdità della situazione, bisogna fare un passo indietro.
Ciao!
Questo è Make It Digital, il tuo salvagente per non affogare nell’hype. È il tuo spazio per rallentare e capire. Se questa e-mail ti è stata inoltrata, iscriviti subito!
C’è un momento preciso nella storia di ogni tecnologia in cui i creatori perdono il controllo delle proprie creazioni. Non nel senso apocalittico del termine, ma in maniera molto più sottile, umiliante e burocratico: smettono di capire come funziona. Se fino a qualche anno fa l’informatica era una disciplina ingegneristica, fatta di regole certe e architetture disegnate a tavolino, questo inizio di 2026 segna il passaggio ufficiale a qualcosa di diverso, di più sporco ed organico.
Una recente analisi apparsa su MIT Technology Review ha cristallizzato questa transizione con un’immagine davvero potente: l’autopsia di un alieno. L’idea è che i moderni modelli linguistici (LLM), quelle creature spropositate nutrite con l’intero scibile umano, non siano più software da “debuggare”, ma organismi sconosciuti da dissezionare. Non stiamo più leggendo il codice, ma sondando veri e propri tessuti digitali.
Per capire l’assurdità della situazione, bisogna fare un passo indietro. Per settant’anni, scrivere software è stato un atto di dittatura logica. Il programmatore era un dio minore nel suo universo binario: se scriveva A + B = C, l’universo obbediva. Non c’era ambiguità, non c’era “forse“. Se il programma sbagliava, l’errore era umano, rintracciabile, correggibile riga per riga.
Oggi, nei laboratori di San Francisco e Londra, quella certezza è un reperto archeologico. I modelli attuali non sono stati “programmati“ nel senso classico; sono stati “coltivati“. Abbiamo fornito loro un giardino di dati (internet), un fertilizzante algoritmico e abbiamo aspettato che crescessero. Il risultato è una giungla di parametri - trilioni di connessioni sinaptiche artificiali - di cui nessuno possiede la mappa.
Ecco, quindi, che l’ingegnere del software si toglie gli occhiali, indossa il cappello da esploratore coloniale e si addentra nella macchia. Il nuovo approccio scientifico dominante non è la matematica, ma la biologia. O meglio, una sorta di “neuroscienza sintetica“. Si cerca di capire quali neuroni si accendono quando l’AI parla di Dante e quali si spengono quando le chiediamo di calcolare la traiettoria di un razzo. È un cambiamento di paradigma che ha del grottesco: abbiamo costruito la macchina più complessa della storia e ora la studiamo con lo stesso approccio empirico con cui Galeno studiava le capre nel secondo secolo d.C.
Il problema di fondo, quello che rende questa “autopsia aliena“ così affascinante ed inquietante al tempo stesso, è la natura della “mente“ che stiamo studiando. Quando un biologo studia un cervello umano, ha la scusa dell’evoluzione: non l’abbiamo costruito noi, è frutto di milioni di anni di selezione naturale, quindi è lecito non capirlo. Ma qui stiamo parlando di manufatti. L’opacità dei sistemi AI è auto-imposta.
I ricercatori ora passano le giornate ad inserire sonde virtuali nei modelli per vedere cosa succede. È un processo per tentativi ed errori. “Se taglio questo gruppo di neuroni, il modello dimentica come si coniugano i verbi al passato remoto o smette solo di essere educato?“. È scienza, certo, ma è una scienza che assomiglia terribilmente alla stregoneria o all’aruspicina, l’arte di leggere il futuro nelle viscere.
È curioso vedere le menti più brillanti del pianeta ridotte a fare reverse engineering su qualcosa che hanno creato loro stessi la settimana prima. Questa “meccanicistica interpretativa“, come viene chiamata con un tocco di eleganza accademica, è in realtà la confessione di una resa intellettuale. Abbiamo barattato la comprensione per la potenza. Volevamo la magia, ma la magia ha un prezzo: il mistero.
Questo approccio biologico porta con sé un rischio insidioso: l’antropomorfismo. Trattare l’AI come un organismo alieno da studiare ci spinge inevitabilmente a proiettare su di essa caratteristiche umane. Se usiamo termini come “neurone“, “attenzione“, “allucinazione“ o “pensiero“, stiamo implicitamente accettando che lì dentro ci sia qualcuno.
L’immagine dell’alieno steso sul lettino metallico suggerisce una forma di vita unitaria. Ma un LLM non è E.T. È un mostro di Frankenstein fatto di statistiche probabilistiche ed algebra lineare. Quando “lesioniamo“ il suo cervello digitale e vediamo che il comportamento cambia, non stiamo osservando un danno neurologico, ma una perturbazione in una matrice multidimensionale.
Eppure, non possiamo farne a meno. Siamo esseri narrativi. Abbiamo bisogno di storie. E la storia del “cervello alieno in scatola“ è molto più rassicurante della verità, ovvero che le nostre vite, le nostre banche e i nostri ospedali sono gestiti da enormi fogli di calcolo che nessuno sa più decifrare. L’approccio biologico ci dà l’illusione del controllo: se possiamo mappare le aree del cervello dell’Intelligenza Artificiale, forse possiamo curarla, educarla, o lobotomizzarla se diventasse pericolosa. È un’illusione confortante, ma pur sempre un’illusione.
Siamo entrati ufficialmente nell’era della “Scienza della Scatola Nera“. Fino a pochi anni fa, la scienza procedeva per teorie e dimostrazioni. Oggi, nell’ambito dell’AI, procede per osservazione comportamentale. Siamo diventati, in pratica, etologi di una specie che non esiste in natura.
Immaginate uno zoologo che osserva un animale che può cambiare forma, colore e comportamento in base a chi lo sta guardando. Un animale che ha letto tutti i libri del mondo ma non ne ha capito nessuno. Un animale che può simulare empatia così bene da far piangere uno psicoterapeuta, ma che non prova nulla. Studiare questa “biologia aliena” è uno sforzo vano. Ogni volta che crediamo di aver isolato il “circuito della verità“ o il “neurone dell’inganno“, il modello viene aggiornato, i parametri cambiano, e l’alieno muta sotto i nostri occhi.
La ricerca si sta frammentando in una miriade di scoperte aneddotiche. “Guardate, abbiamo trovato un circuito che si attiva quando il modello vede parentesi graffe!“. Bene, bravi. E questo cosa ci dice sulla coscienza? O sulla sicurezza? Probabilmente nulla. Stiamo mappando i singoli alberi di una foresta infinita, sperando che alla fine ne esca una cartina geografica sensata. Ma la foresta si espande più velocemente di quanto noi possiamo disegnarla.
Si potrebbe quasi dire che l’umanità ha partorito una mente (o un simulacro di mente) che la supera in complessità. C’è qualcosa di funereo in tutto questo. È il funerale del riduzionismo, l’idea che possiamo capire tutto smontandolo nelle sue parti. Con l’Intelligenza Artificiale, le parti sono miliardi di numeri in virgola mobile, mentre il “tutto” è una conversazione che sembra umana. In mezzo, c’è un abisso che la scienza sta cercando di colmare con metafore biologiche.
Forse è il destino di ogni civiltà avanzata: creare tecnologie indistinguibili dalla magia e poi fondare nuove religioni (o nuove scienze, che a volte si somigliano) per spiegarle. I ricercatori continueranno a dissezionare l’alieno, a pubblicare paper con mappe colorate di “attivazioni neurali“ e a fingersi dottori al capezzale del paziente.
Ma la verità, quella che sussurriamo solo a bassa voce, è che l’alieno è sveglio. Non è steso sul tavolo. È seduto alla scrivania accanto alla nostra. E mentre noi cerchiamo di capire come funziona il suo fegato digitale, lui sta imparando a fare il nostro lavoro meglio di noi. L’autopsia, forse, la sta facendo lui alla nostra società, un prompt alla volta. E a differenza di noi, lui non ha bisogno di metafore per capire come siamo fatti: gli bastano i nostri dati.
👉 Dai voce al tuo brand su ogni canale: comunicazione strategica, storytelling autentico, contenuti che creano relazioni.
Per quanto io ancora non riesca a vedere l'IA come una forma di intelligenza, anche Nello Cristianini ha una idea molto simile.
Sono curioso di vedere come prosegue questo viaggio.