Perché i modelli IA “open” sono diventati una questione di sicurezza nazionale americana? | DDay.it

Tre giorni fa una lettera intitolata "Open Weights and American AI Leadership" (Pesi aperti e la leadership Americana nell’IA) ha iniziato a circolare a Washington con 25 firme in calce. Nel giro di ventiquattro ore erano diventate 50, con Jensen Huang, amministratore delegato di Nvidia, tra i primi firmatari, che ha addirittura usato per condividerla il primo post della sua vita su X.

Il documento, non molto lungo, chiede a Washington poche cose precise. Non imporre restrizioni preventive e generalizzate sui modelli scaricabili ; allargare l'accesso al calcolo per startup e ricercatori; investire in dataset e strumenti di valutazione condivisi; e colpire in modo mirato solo il furto di proprietà intellettuale e gli abusi dimostrati, senza sanzioni ad ampio raggio.

La tesi di fondo è che i pesi aperti allarghino l'accesso all'economia dell'IA, rafforzino la concorrenza e diano ai clienti il controllo dei propri dati, e che l'apertura sia una via alla sicurezza e non il suo contrario: un modello che chiunque può ispezionare, sostengono i firmatari, si difende meglio di uno chiuso di cui nessuno all'esterno può vedere i difetti.

Si parla di IA, ma chi avesse letto la lista dei firmatari nelle prime ore della pubblicazione della lettera avrebbe notato subito una cosa: nessuno dei 25 originari vende un modello di frontiera come prodotto principale .

Ci sono i produttori di chip come Nvidia e AMD, i fornitori cloud, le software house, le società di sicurezza, i fondi di venture capital, più Hugging Face, Mozilla e la Linux Foundation. Le tre aziende che dal blocco dei modelli scaricabili avrebbero più da guadagnare, cioè i laboratori proprietari, erano assenti al debutto (oggi i firmatari sono 77 e sono destinati a crescere ancora). OpenAI e Google hanno aggiunto la firma solo dopo che l'omissione era stata notata dai social e da mezza stampa di settore. Nelle ultime ore si è unita anche SpaceX, ma nell’elenco mancano ancora giganti come Amazon e, soprattutto, Anthropic.

La lettera non nomina mai la Cina, che tuttavia è inevitabilmente il convitato di pietra , perché da tempo la sua esistenza nel nuovo settore dell’IA generativa passa per pesi aperti e modelli scaricabili ; e che, proprio per questi due motivi, sta diventando un avversario temibile al crescere delle capacità dei suoi modelli di frontiera e al mantenimento dei bassi prezzi delle API per poterli usare.

Nelle settimane precedenti l'amministrazione statunitense aveva alzato la pressione sui laboratori cinesi su due fronti. Da un lato la minaccia di sanzioni, con il Tesoro che aveva aperto alla possibilità di colpire le aziende cinesi se si fosse dimostrato che i loro modelli erano stati costruiti distillando sistemi americani .<br>La distillazione è la tecnica con cui si addestra un modello usando le risposte di un altro, più potente, per trasferirne le capacità in un sistema più piccolo ed economico.<br>La Casa Bianca ha accusato apertamente Moonshot AI di avere usato la distillazione sul modello Fable 5 di Anthropic per costruire il suo recentissimo Kimi K3 da 2.800 miliardi di parametri.<br>Dall'altro lato la minaccia di un divieto d'uso, con l'amministrazione a stelle e strisce che sta valutando un bando vero e proprio dei modelli open cinesi.

Le due minacce, però, rischiano di rimbalzare sull'intero settore. Sanzionare la distillazione in modo indiscriminato colpirebbe una pratica che anche i laboratori americani usano correntemente per costruire modelli più piccoli ; bandire i modelli aperti cinesi potrebbe aprire la strada a restrizioni più larghe sui pesi aperti in quanto tali. Per questo una fetta consistente dell'industria tecnologica americana ha scelto di scrivere nero su bianco che colpire i modelli scaricabili sarebbe un errore , e per questo la lettera difende esplicitamente la distillazione come tecnica legittima di sviluppo, distinguendola dall'appropriazione illecita.

Al di là della questione distillazione che cerca di proteggere una “categoria” specifica, il documento poggia su una frase che ne condensa la tesi principale e spiega, più di ogni altra, chi ha firmato e chi no. La leadership americana nell'IA, sostiene la lettera, non si misurerà con un singolo modello di frontiera ma con la capacità degli Stati Uniti di costruire un ecosistema aperto che permei ogni settore.

Se credi in quella frase firmi. Se il tuo piano di business dipende dal fatto che "il tuo modello chiuso di frontiera" sia la misura della leadership, non firmi. E infatti Anthropic è mancata .

E allora perché OpenAI ci ha ripensato e ha firmato? Perché OpenAI, nomen omen, è nata aperta. GPT-2 fu pubblicato progressivamente con i pesi, e l'anno scorso la società ha comunque dato vita ai modelli gpt-oss sotto licenza Apache 2.0, più per questioni di marketing e di tensioni legali con Elon Musk che per un reale interesse nelle distribuzioni open. Probabilmente...