“Software libero, l’open source e possibili usi a scopo militare
L’open source non implica necessariamente che il software sia gratuito e ha trovato applicazione in diversi ambiti tecnologici tra cui i modelli di intelligenza artificiale. In questo caso significa indicare che non solo il codice sorgente ma, in alcuni casi, anche i parametri e l’architettura, sono resi pubblicamente disponibili
Servizio di Paolo Benanti
29 novembre 2024
Uno dei luoghi informatici su cui oggi si muovono numerose forme di attivismo è l’open source. Con questo termine si indica un programma il cui codice sorgente, quella parte del software che i programmatori possono manipolare per cambiarne il funzionamento o aggiungere nuove funzionalità, è reso disponibile al pubblico con una licenza che permette a chiunque di studiare, modificare e redistribuire il software. Il movimento open source si basa su valori come la condivisione della conoscenza, la trasparenza e la partecipazione collettiva e si contrappone al software proprietario, che limita l’accesso e la modifica del codice solo ai detentori dei diritti.
Open source e software gratis
L’open source non implica necessariamente che il software sia gratuito e ha trovato applicazione in diversi ambiti tecnologici tra cui i modelli di intelligenza artificiale. In questo caso significa indicare che non solo il codice sorgente ma, in alcuni casi, anche i parametri e l’architettura, sono resi pubblicamente disponibili.
Personalmente più che dell’open source sono sostenitore, anche per l’amicizia personale con Richard Stallmann, del cosiddetto software libero. In più di una chiacchierata su Mumble, un esempio di software libero, il padre del software libero mi ha ricordato la differenza tra i due approcci che si basa su diverse filosofie e priorità, pur condividendo molti aspetti pratici.
Il software libero si concentra principalmente sulla libertà degli utenti con un accento posto sul rispetto della libertà individuale e collettiva, con l’obiettivo di garantire che gli utenti abbiano il controllo completo sul software che utilizzano.
Il termine open source, nato nel 1998, ha un focus più pragmatico sulla collaborazione aperta e sulla qualità del software. Le licenze del software libero sono progettate per garantire che il software rimanga sempre libero per tutti gli utenti e spesso includono clausole di “copyleft”, che impongono che qualsiasi modifica o distribuzione del software mantenga le stesse libertà originali.
Le licenze open source, invece, possono variare molto e non impongono necessariamente che le modifiche vengano distribuite con le stesse condizioni. Quella del software libero, di fatto, è una visione più politica e sociale, dove l’accento è posto sulla cooperazione e sulla condivisione come valori fondamentali. Al di là delle simpatie etiche che mi spingono più verso il software libero è quanto successo in questi giorni che secondo me mette bene in luce la differenza tra questi due mondi e ci deve far interrogare.
La mossa di Pechino
È infatti notizia recente come la Cina abbia adattato il modello di Ai open-source Llama 2 di Meta per scopi militari, sviluppando un’Ai chiamata ChatBit. Nonostante le restrizioni di Meta sull’uso militare dei suoi modelli, ricercatori cinesi legati all’Esercito Popolare di Liberazione (Pla) hanno utilizzato Llama 2 per scopi militari.
ChatBit è ottimizzato per compiti come la raccolta di informazioni, l’analisi della situazione e il supporto operativo e raggiunge circa il 90% delle capacità di Gpt-4, il modello di frontiera di OpenAi, in benchmark di rilevanza militare come Bleu e Rouge. Secondo le fonti, nonostante sia stato addestrato su un set di dati relativamente piccolo di dialoghi militari, eccelle nel fornire risposte sfumate e accurate per i contesti militari e nelle analisi dettagliate di concetti militari complessi.
L’annuncio di Meta
Poco dopo questa notizia Meta ha annunciato che renderà il suo modello disponibile alle agenzie governative statunitensi e ai loro appaltatori per scopi di sicurezza nazionale come la semplificazione della logistica, il monitoraggio del finanziamento del terrorismo e il rafforzamento delle difese informatiche. Si sapeva che Oracle, la famosa azienda di gestione dei dati, stava già utilizzando Llama per sintetizzare documenti di manutenzione per assistere i tecnici aeronautici nelle riparazioni e che Lockheed Martin utilizza il modello per generare codice e analizzare i dati.
Allo stato attuale la politica di utilizzo accettabile di Meta vieta l’uso di Llama 3, il nuovo modello, per scopi militari, bellici o nucleari, spionaggio e altre attività dannose. Tuttavia, l’ampio accesso a Llama per scopi di sicurezza nazionale solleva preoccupazioni sull’escalation della corsa agli armamenti basata sull’intelligenza artificiale e sui potenziali rischi etici.
Tuttavia, questo ci mostra i confini dell’etica in questa frontiera dell’intelligenza artificiale: l’open source ottimizza la collaborazione collettiva solo come strumento di perfezionamento del software e si espone troppo facilmente a possibili usi e strumentalizzazioni che possono tradire la buona fede e le intenzioni di tutti gli sviluppatori che hanno contribuito, volontariamente e gratuitamente, a rendere il software così performante e che ora non hanno nessuna voce in capitolo sull’uso lecito o illecito del software. Mai come oggi la differenza tra due parole come aperto e libero sembra così importante.