I modelli open source erodono il vantaggio competitivo delle big tech dell'IA

Nel mondo degli affari, un «moat» — letteralmente fossato — è quella qualità che rende difficile per i concorrenti intaccare i profitti di un'azienda. Nel settore dell'intelligenza artificiale generativa, la difficoltà e il costo enormi dell'addestramento dei modelli linguistici di grandi dimensioni (LLM) hanno a lungo fatto pensare che colossi come OpenAI e Anthropic potessero contare su una protezione quasi insormontabile. Tuttavia, la rapida diffusione dei modelli open source sta svuotando questo fossato, e l'unico ostacolo che oggi separa un cliente dall'uso di questi modelli sui propri hardware, invece che su quelli dei grandi fornitori, è rappresentato dalle risorse di calcolo fisiche.

Una dimostrazione concreta arriva da TerminalBytes, che ha testato alcuni dei modelli open source più recenti su computer di proprietà personale, mostrando lo stato dell'arte attuale. Il test è partito con la versione da 27 miliardi di parametri del modello Qwen3.8 su un Mac Studio con 256 GB di RAM unificata, una configurazione più che sufficiente per il compito. La stessa piattaforma ha permesso di confrontare Qwen3.6 con Qwen3.8 e di valutare le diverse «quantizzazioni» di ciascun modello. Le quantizzazioni sono versioni compresse dei modelli che richiedono meno bit per memorizzare i pesi, consentendo così di eseguire gli stessi modelli con meno memoria, accettando una perdita minima di fedeltà nelle risposte.

Il dato più rilevante emerso dai test è che molte di queste versioni quantizzate funzionano senza problemi su macchine con 32 GB di RAM o meno, una dotazione che rientra in quella di molti PC gaming di fascia media. Esiste persino una quantizzazione a 1 bit che TerminalBytes ha provato e che può girare agevolmente su una macchina con soli 16 GB di RAM, sebbene con risultati qualitativamente misti. Questo significa che la barriera all'ingresso per utilizzare modelli linguistici avanzati in locale si è abbassata in modo drastico, rendendo di fatto superflua la dipendenza dai servizi cloud dei grandi attori del settore per un numero crescente di utenti e aziende.

È importante sottolineare che questa è solo la fotografia dell'attuale stato dell'arte. Le versioni future dei modelli open source punteranno con ogni probabilità a ottimizzare il numero di token generati per unità di tempo, oppure ad aumentare la qualità delle risposte richiedendo al contempo meno risorse computazionali. La tendenza verso una maggiore efficienza è chiara e potrebbe accelerare ulteriormente il processo di democratizzazione dell'accesso a queste tecnologie.

Nonostante questi sviluppi, è improbabile che la facilità di esecuzione dei modelli in locale sia l'unica causa dello scoppio della cosiddetta bolla dell'intelligenza artificiale. La resistenza al cambiamento e la comodità delle soluzioni già pronte restano fattori potenti: il fatto che non tutti gli utenti di computer utilizzino Linux, nonostante i suoi vantaggi in termini di libertà e personalizzazione, è una prova sufficiente di come l'ecosistema tecnologico tenda a privilegiare la semplicità d'uso rispetto alla piena indipendenza. La sfida per le grandi aziende dell'IA sarà quindi quella di ridefinire il proprio valore in un mercato in cui la tecnologia di base diventa sempre più una commodity accessibile.