LittleLearner, l’AI che si è fermata alle elementari (e non cresce)

Qualcuno ha addestrato un’AI solo su materiale delle scuole elementari: è un esperimento vero che ha portato a un modello linguistico da 5 miliardi di parametri costruito al Max Planck Institute for Intelligent Systems di Tübingen. Li, Zeller e colleghi lo chiamano LittleLearner, e il nome è letterale.

Una intelligenza artificiale “bambina”, addestrata solo su una precisa categoria di dati, poi saprà spiegare anche cose che “non ha studiato”, usando quello che capisce? Bella domanda, ma non fatela a me.

Un esperimento per capire dove finisce la scuola

Il punto di partenza non è un LLM ridotto o impoverito per pigrizia. È, come dicevo, un esperimento chirurgico. Il team ha costruito da zero un corpus di addestramento: 88 miliardi di token, filtrati in 5 passaggi successivi per allinearlo al programma scolastico americano dalla prima alla quinta. Nessuna parola o concetto che un bambino di dieci anni non abbia già incontrato in classe: fisica, algebra astratta, geopolitica, tutto fuori. Il risultato si chiama LittleCurriculum, ed è la base su cui LittleLearner è stato addestrato da zero, in parallelo con un modello di controllo addestrato sullo stesso numero di token ma senza filtri.

Perché farlo? Ve l’ho anticipato: il problema che i ricercatori volevano aggirare è vecchio quanto i benchmark. I grandi modelli vengono addestrati su tutto il web in una volta sola, e diventa impossibile capire se una certa capacità l’hanno appresa durante il training o recuperata da qualche angolo del corpus che nessuno aveva notato. Con un confine esplicito e verificabile, quella distinzione diventa finalmente pulita.

È un po’ come chiedersi dove finisce l’intelligenza e dove comincia la biblioteca: LittleLearner è il primo modello in cui quella domanda ha una risposta controllabile.

Cosa succede quando provi a insegnare a LittleLearner qualcosa fuori dalle elementari?

I ricercatori hanno provato 3 strade diverse per spingere LittleLearner oltre il suo confine: aumentare la scala del modello, fare post-training con esempi fuori curriculum, e usare l’in-context learning con suggerimenti avanzati. Nessuna ha funzionato in modo significativo per le capacità fuori curriculum. Ripeto: nessuna.

Certo, ognuna ha migliorato ciò che il modello sapeva già fare (le competenze da elementari), ma senza spostare di un centimetro il soffitto. Il modello più grande è semplicemente più bravo in quinta elementare: non arriva alla prima media.

Questo ha implicazioni scomode per chi sostiene che la scala risolva tutto. Da anni il mantra dominante nel settore è che un modello più grande, con più dati, emerge da limitazioni che sembravano strutturali. LittleLearner suggerisce che non è sempre così: se i dati di training sono il confine, aggiungere parametri non lo sposta, lo approfondisce.

Devo tradurre? L’AGI che tutti promettono potrebbe richiedere qualcosa di molto più radicale di un modello più grande addestrato sulle stesse cose.

Un banco di prova

LittleLearner non è una dimostrazione che i modelli attuali siano stupidi, né che il deep learning abbia un soffitto invalicabile. È uno strumento: un ambiente controllato dove fare domande precise su come un LLM acquisisce conoscenza e la usa. I ricercatori sono interessati, tra le altre cose, a confrontare le traiettorie di apprendimento dei modelli con quelle dei bambini veri su compiti equivalenti, che è il tipo di domanda che dice qualcosa su come funziona la cognizione, non solo sul codice.

Il modello è online e risponde. Potete consultarlo e parlarci anche voi, lo trovate qui a questo indirizzo. Se lo interrogate su qualcosa che si studia alle elementari, risponde bene. Se gli chiedete come funziona una reazione nucleare, si ferma.

Non mente, non inventa: si ferma. Questa cosa, in un settore dove l’allucinazione è quasi la norma, ha un suo peso specifico. È ci lascia con una piccola consolazione per il futuro: forse il modello che sa esattamente cosa non sa è più utile, in certi contesti, di uno che sa tutto male.