Il cambio di paradigma che i team tecnici stanno già notando
Per anni, quando un team di marketing o di sviluppo parlava di «intelligenza artificiale», si riferiva quasi sempre a modelli supervisionati addestrati con dati etichettati: un classificatore di intenti, un sistema di scoring dei lead, un motore di raccomandazione basato su regole e matrici. Nel 2026, quella conversazione si è spostata verso i modelli linguistici di grande scala (LLM), e non sempre per buone ragioni. La confusione tra i due approcci genera decisioni di prodotto sbagliate, budget gonfiati e aspettative che nessun sistema può soddisfare.
La distinzione è importante perché non si tratta della stessa tecnologia con dimensioni diverse. Un LLM è un modello generativo addestrato a prevedere il token successivo su corpus massivi; un modello tradizionale di IA è di solito un sistema discriminativo, addestrato ad assegnare un’etichetta o un valore numerico a un input specifico. Questa differenza strutturale definisce quali problemi risolve ciascuno, quanto costa operarlo e fino a che punto ci si può fidare del suo output.
Cosa sta succedendo nel 2026: segnali concreti dal mercato
Il costo di inferenza non è più proibitivo, ma non è gratis
La compressione dei modelli, la quantizzazione e il miglioramento delle architetture hanno reso fattibile l’esecuzione di un modello da 7-8 miliardi di parametri su una GPU consumer. Questo ha reso popolari gli LLM locali per attività di classificazione ed estrazione, un terreno che prima era occupato dai modelli classici. Tuttavia, in produzione c’è ancora un conto che molti ignorano: il costo per token nelle API cresce con il volume, e un classificatore tradizionale addestrato una volta sola può elaborare milioni di record al giorno con una frazione del dispendio energetico ed economico.
In progetti di assistenza clienti con decine di migliaia di ticket mensili, ho visto come un classificatore di intenti basato su embedding leggeri più una regressione logistica risolvesse la categorizzazione con una latenza di millisecondi e un costo quasi nullo, mentre inviare ogni ticket a un LLM moltiplicava la fattura per dieci senza migliorare la precisione in modo significativo. L’LLM eccelleva, questo sì, nella generazione della risposta finale all’utente.
Valutazione: il punto in cui gli LLM continuano a inciampare
I modelli tradizionali hanno metriche consolidate: precisione, recall, F1, AUC. Con un insieme di validazione ben costruito, sai se il modello funziona. Con gli LLM, la valutazione è un problema aperto. La qualità di una risposta generata non si riduce a un numero, e i benchmark pubblici si contaminano facilmente. Secondo la documentazione ufficiale dei principali fornitori, i punteggi nei test standardizzati non predicono le prestazioni in domini specifici.
Questo ha una conseguenza pratica: se il tuo caso d’uso richiede una decisione binaria verificabile (approvare o negare un credito, contrassegnare un contenuto come fraudolento), un modello classico con soglia calibrata resta più difendibile davanti a un revisore rispetto a un LLM con un prompt accuratamente redatto. La tracciabilità della decisione è un requisito normativo in settori come la finanza o la sanità, e lì i modelli generativi presentano un’opacità difficile da gestire.
Architetture ibride: ciò che sta davvero funzionando
La tendenza più solida del 2026 non è sostituire i modelli classici con gli LLM, ma combinarli. Il pattern che si ripete nei team maturi è una catena in cui il modello tradizionale filtra e l’LLM ragiona sul sottoinsieme risultante.
- Rilevamento di spam e contenuti tossici: un classificatore rapido scarta il 90% del volume; l’LLM esamina i casi ambigui e spiega la decisione.
- Ricerca semantica: gli embedding generati da un modello linguistico alimentano un indice vettoriale, ma il re-ranking finale può continuare a fare logica di business con regole e segnali tradizionali.
- Estrazione di dati dai documenti: OCR più un modello di entità classico per i campi strutturati, e l’LLM solo per normalizzare testo libero o risolvere formati irregolari.
Questo approccio ibrido riduce i costi, mantiene la verificabilità dove serve e sfrutta la flessibilità del linguaggio naturale dove apporta valore reale. L’errore comune è partire dall’LLM e scoprire poi che l’80% del lavoro lo faceva meglio un modello piccolo.
Un caso concreto: quando l’LLM è stata la scelta sbagliata
In un sistema di moderazione dei commenti per una community di qualche migliaio di utenti attivi, il team ha inizialmente optato per un LLM per classificare la tossicità. Funzionava bene nei test manuali, ma in produzione generava falsi positivi davanti al sarcasmo e al gergo locale, e ogni regolazione richiedeva di riscrivere il prompt e validare di nuovo. La soluzione è stata addestrare un modello classico con qualche migliaio di etichette reali del forum stesso, riviste dai moderatori. La precisione è migliorata, la latenza è diminuita e il team ha potuto spiegare ogni blocco con una probabilità concreta. L’LLM è stato riservato alla stesura dell’avviso all’utente, non alla decisione.
Cosa non risolve un LLM anche se la demo lo suggerisce
I modelli linguistici sono scarsi in coerenza numerica e in ragionamento deterministico. Se il problema ha una risposta esatta e verificabile, un sistema di regole o un modello classico ben calibrato offre garanzie che un LLM non può dare. Non sono nemmeno affidabili come fonte di verità senza recupero di informazioni: allucinano con sicurezza, e individuare un’allucinazione in produzione richiede meccanismi aggiuntivi di verifica che rendono il sistema più costoso.
Allo stesso modo, i modelli tradizionali falliscono dove il linguaggio è libero e le categorie non sono predefinite. Se domani compare un tipo di richiesta che non esisteva nell’insieme di addestramento, un classificatore classico non saprà cosa fare; un LLM, con un buon contesto, può gestirlo senza riaddestramento. Questa capacità di generalizzazione è il suo vantaggio autentico e la ragione per cui ha trasformato le interfacce di prodotto, non solo le attività interne.
Cosa guardare nella scelta dell’approccio nel 2026
Prima di decidere, conviene rispondere a tre domande. Prima: l’output deve essere un’etichetta o un testo libero? Se è un’etichetta con soglie chiare, parti dal classico. Seconda: quanto volume elaborerai e con quale latenza? Il costo per token conta quando lo moltiplichi per milioni di richieste. Terza: devi spiegare la decisione a un terzo? La verificabilità favorisce i modelli discriminativi.
La tendenza che si consolida non è la vittoria di una tecnologia sull’altra, ma la specializzazione. I team che stanno risolvendo meglio questa questione trattano l’LLM come un pezzo in più del sistema, non come la soluzione universale. E diffidano, giustamente, delle dimostrazioni che impressionano in una presentazione ma non superano uno stress test con dati reali. Secondo studi del settore, la maggior parte dei progetti generativi che falliscono lo fa per problemi di valutazione e di integrazione con i processi esistenti, non per mancanza di capacità del modello.