IA generativa: i pericoli di una risorsa

In uno studio presentato oggi, venerdì, l’Ufficio federale dell’armamento (armasuisse) fa nuovamente il punto sulle insidie che sono legate al diffondersi di nuove tecnologie informatiche. In causa è segnatamente l’impatto, sul piano della sicurezza, dell’intelligenza artificiale (IA) generativa.

Sono infatti sempre più potenti i modelli per la produzione di testi, immagini o video basati sull’apprendimento automatico. Ma l’IA generativa, ammonisce armasuisse, implica anche sensibili rischi di abuso come messaggi contraffatti, deep fake o tentativi di frode. Lo studio, rivolto a specialisti e decisori dell’economia e dell’amministrazione pubblica, mostra infatti che la manipolazione e l’abuso degli algoritmi di apprendimento può compromettere la sicurezza delle applicazioni utilizzate.

I modelli basati sull’apprendimento automatico, ad esempio, sono in grado di produrre testi o software contenenti errori lievi, ma anche molto difficili da individuare. Problemi concernono anche i cosiddetti modelli linguistici di grandi dimensioni (LLM): da un lato permettono di contrastare più efficacemente gli attacchi informatici, ma dall’altro possono anche essere sfruttati da malintenzionati per generare a basso costo malware e messaggi di phishing.

Lo studio sottolinea quindi la presenza di nuove e notevoli minacce per la cybersicurezza. Per un impiego sicuro dell’AI generativa si impongono controlli di sicurezza nella catena di trattamento dei dati. Ma più in generale deve avvenire con cautela il ricorso a questa risorsa da parte dello Stato, dell’economia e della società.

Intanto, sempre sul fronte della cybersicurezza, i cantoni della Svizzera orientale hanno deciso di unire le forze. San Gallo ha così preso le redini di un progetto volto ad una soluzione condivisa per proteggersi meglio da attacchi informatici come quelli che hanno preso di mira portali cantonali e cittadini.

Una mossa volta a razionalizzare i costi ma anche allo scambio di informazioni. Un vantaggio, spiega Stephan Bösch del Dipartimento delle finanze sangallese, è sicuramente quello di disporre più dati per le analisi e, quindi, anche migliori percentuali di riscontro sulle anomalie.