Cos'è questa storia dell'open source?

Nel primo post di questa rubrica ho espresso interesse nel parlare e fare divulgazione sui Large Language Model. Sono passati solo due mesi, e il messaggio che ho lanciato "[...] la paura, insieme alla conoscenza, sono le armi del XXI secolo" è più vero che mai. Sono successe tantissime cose in questi 60 giorni, a livello tecnologico ma anche a livello politico, che forse è più importante in questo contesto.

Ma procediamo con ordine: faccio una panoramica degli eventi e dopo ci aggiungerò qualche commento personale.

Il rilascio di Fable 5 e Mythos 5

Il 9 Giugno 2026, Anthropic rilascia i suoi nuovi modelli Fable 5 e Mythos 5. Modelli che, come citato nello scorso post, dovevano rivoluzionare tutto perchè "troppo potenti per essere rilasciati". Dai benchmark sono effettivamente i modelli più potenti sul mercato, il rilascio è accolto con grande fermento e tutti ne parlano.

Il blocco statunitense

Il 12 Giugno 2026, solamente tre giorni dopo il rilascio, il governo degli Stati Uniti decide di bloccare l'accesso ai nuovi modelli di Anthropic, perchè li ritiene "troppo potenti per essere usati dal pubblico", chiedendo all'azienda di potenziare le misure di guardrailing (che significa in soldoni di evitare che il modello risponda a domande con informazioni potenzialmente dannose)

Fable 5 torna disponibile

Il 30 Giugno 2026, Fable 5 torna disponibile al pubblico, ma fortemente depotenziato. Molte persone se ne rendono conto, ed in particolar modo sembrerebbe che i nuovi modelli di frontiera dell'azienda sbaglino volutamente le risposte inerenti allo sviluppo di large language models (link). Sinceramente non ho capito che fine abbia fatto Mythos 5, penso che sia concesso l'uso solamente al governo degli stati uniti o comunque a poche aziende americane, ma non è rilevante per la narrazione.

Esce Kimi K3

Dopo neanche un mese, il 14 Luglio 2026 esce Kimi K3, un modello open source cinese capace di uguagliare e a volte superare le performance dei nuovi modelli di Anthropic e di OpenAI (GPT-5.6 Sol). Kimi K3 è open source, il che significa che è disponibile gratuitamente per tutti. Scoppia la bomba.

Il gap di performance tra Cina e Stati Uniti è stato praticamente colmato. L'amministrazione Trump è infuriata, la Cina non dovrebbe avere accesso alle schede americane Nvidia, eppure si dice che Kimi K3 sia stato addestrato con schede B300. Si parla di bloccare il modello, Accusano Moonshot AI di aver distillato i modelli Anthropic, ci sono lotte interne alla casa bianca. La battaglia non è più tecnologica ma si è spostata sul fronte politico.

La lettera aperta

Tutto questo movimento porta alla stesura di una lettera aperta, pubblicata da Nvidia ma firmata da molteplici realtà tecnologiche come la stessa OpenAI, Amazon, Palantir, Black Forest Lab, Google, Red Hat, la Linux Fundation e tantissime altre, nella quale viene riconosciuta l'importanza della ricerca aperta come mezzo per progredire più velocemente (tramite la competizione tra aziende e centri di ricerca) ma anche per rendere accessibile la tecnologia di frontiera a realtà più piccole delle grosse multinazionali. E fa strano leggere una dichiarazione del genere nel 2026 da società perlopiù americane che hanno sostanzialmente il monopolio di questa tecnologia, per via dei forti investimenti che ci stanno dietro. È un segnale che ci dice che forse c'è ancora dell'umanità nel mondo.

La risposta di Dario Amodei

Dario Amodei, direttore delegato di Anthropic, che volendo o non volendo è l'azienda protagonista di questa faccenda dal lato occidentale, pubblica una risposta alla lettera di Nvidia, firmata di suo pugno ma parlando a nome dell'azienda. E da qua non cercherò neanche di essere imparziale: il suo blog post è un'accozzaglia di affermazioni ipocrite, imperialiste e completamente ingiuste e immorali che ci dovrebbero far riflettere su chi ha attualmente il potere decisionale nelle grandi aziende che gestiscono tecnologia che l'umanità non ha mai visto fino ad ora.

Per prima cosa, se non l'avete notato, Anthropic non ha firmato la lettera aperta. Le motivazioni sono riassunte nel blog post citato, e sono principalmente tre, che elenco qua di seguito:

• Non dobbiamo vendere i chip alla Cina, perchè la Cina è un governo autoritario che userebbe questa tecnologia per scopi malvagi.
• Dobbiamo trovare il modo di vietare la distillazione, perchè la distillazione richiede una frazione minima di compute rispetto al pretraining completo, e unito al punto sopra, limiteremo le capacità dei modelli cinesi.
• Tutti i modelli sufficientemente capaci, aperti o chiusi, dovrebbero passare per dei test obbligatori sulla sicurezza, motivando l'affermazione dicendo che l'uso di tali modelli potrebbe facilitare la creazione di armi biochimiche o attacchi cybernetici.

Cosa ne penso

Non so neanche da dove partire per commentare, ma proverò ad andare con ordine.

La Cina come causa di ogni male

La prima affermazione è un'ammissione di colpe. Già da diverso tempo la Cina, a seguito del blocco della vendita di chip americani, sta costruendo il proprio hardware in casa. E al di là dell'hardware, hanno gruppi di ricerca come Deepseek che ottimizzano l'apprendimento a livello sia software che matematico, introducendo delle innovazioni fuori di testa, e lo fanno pubblicando tutti i loro risultati con licenza open source, in maniera tale che altre realtà possano replicarli. Io fatico a credere che OpenAI e la stessa Anthropic non abbia preso almeno spunto dai loro risultati. Basti vedere DeepEP, un paradigma efficiente per la comunicazione tra esperti delle rete a mistura di esperti che è sostanzialmente il nuovo standard per il training di reti MoE.

Sabotarli volutamente e intenzionalmente in questa maniera è assurdo, sia perchè a lungo andare i produttori cinesi saranno in grado di recuperare il gap introdotto e sia perchè va contro ogni principio del libero mercato che tanto piace agli Stati Uniti. Sull'accusa di "governo autoritario" non voglio neanche esprimermi, linko solamente un articolo di cronaca recente e ricordo tutte le guerre che ci sono in atto in questo momento. Nota bene, con questo non voglio dire che il governo Cinese sia santo e perfetto, ma le stesse accuse mosse da Anthropic verso la Cina possono essere mosse anche verso gli Stati Uniti. Noi comuni mortali non abbiamo scampo.

Inoltre, sempre su questa tema e rimandando al post reddit citato precedentemente, trovo veramente assurdo e ridicolo che si pongono come paladini della giustizia e dell'open source regolamentato quando loro stessi lo sabotano.

Chi dovrebbe gestire questi test?

Secondo Amodei, ogni modello sufficientemente potente dovrebbe passare una serie di test sulla sicurezza. Ma chi li dovrebbe gestire questi test? Un'azienda privata? Un organo statale? Se sì, di quale stato? Un organo parastatale? Una ONG? Come definiamo "troppo potente"? Non abbiamo ancora trovato un modo (e forse non lo troveremo mai) per misurare quantitativamente l'intelligenza, come puoi misurare la pericolosità di un modello? Quale metrica si userebbe?

Questa affermazione non ha senso di esistere per questi motivi e soprattutto perchè dal momento che un individuo ha accesso ai pesi di un modello, è possibile togliere ogni filtro introdotto tramite diverse teniche basate sull'activation steering. La sua affermazione può avere senso solamente per modelli i cui pesi non sono accessibili, e quindi andando contro all'ipotesi iniziale di permettere modelli open source e open weight.

Tornando all'introduzione

Nel blog post precedente ho citato la Magnifica Humanitas di Papa Leone e di come sia necessario regolamentare queste tecnologie per toglierne il controllo da poche aziende private. Penso che quest'affermazione sia ancora più vera passati questi pochi mesi.

Il caso americano fa discutere: il controllo di un modello va in mano ad un'azienda privata o ad un ente governativo? È una domanda che dobbiamo iniziare a porci, perchè i modelli stanno diventanto oggettivamente sempre più capaci, e nel caso americano, il governo ha già vietato l'accesso alla tecnologia al grande pubblico. Questo porta a situazioni di disparità, che tendenzialmente non vanno mai a finire bene.

Io sono dell'idea che il mondo open source e open weight sia essenziale, e che tutti debbano aver accesso a tutto. Prendiamo l'esempio di piccole aziende. Se viene vietato loro l'accesso ai modelli di frontiera, saranno evidentemente più svantaggiate rispetto a chi ne ha accesso. Usiamo come contesto la cybersecurity, se sia attaccante che difensore hanno accesso a modelli di frontiera, la situazione è bilanciata. Se, come successo negli Stati Uniti, vietiamo l'uso dei modelli di frontiera, stiamo creando una possibile disparità tra attaccante e difensore. E questo è solo un esempio stupido per far capire che è un tema molto importante, e che nessuno ancora ne sta discutendo in maniera costruttiva. A chi deleghiamo il potere decisionale? Chi dovrebbe decidere chi o chi non può usare queste tecnologie?

Tornando al mio blog, come missione mi ero dato quella di fare informazioni per dare a chiunque gli strumenti per capire il mondo odierno, e perchè quando finalmente si tratteranno questi argomenti a livello politico anche in Europa, tutti noi saremo forse in grado di capirli e far sentire la nostra voce. Mi rendo conto che è una missione completamente fuori dal mio controllo, un obiettivo irraggiungibile (anche perchè questo blog non è ancora indicizzato su Google...), ma comunque ci voglio provare, nei miei tempi e nelle mie modalità.

Concludo lanciando un nuovo monito: "usate la vostra testa". In un mondo virtuale sempre più controllato da algoritmi in mano a poche aziende, che hanno il potere di modificare l'opinione pubblica tramite feed personalizzati ad hoc, forse dovremmo iniziare a toccare di più l'erba.