Quando la disinformazione entra nei dati dell'intelligenza artificiale

Le dichiarazioni del sottosegretario alla Presidenza del Consiglio con delega all'informazione e all'editoria Alberto Barachini hanno riportato l'attenzione sui rischi legati all'intelligenza artificiale. Barachini ha chiesto una regolamentazione globale dell'AI e, parlando della necessità di mitigare i rischi sistemici e rafforzare la sovranità sui dati sanitari e personali, ha richiamato lo scenario della guerra ibrida. Barachini non è entrato nei dettagli tecnici di come i sistemi di intelligenza artificiale possano essere manipolati. Ma il rischio sistemico a cui fa riferimento ha già una forma precisa, meno visibile dei contenuti falsi che circolano online: riguarda i dati e le fonti da cui quei sistemi apprendono o recuperano informazioni. Il NIST definisce data poisoning l'attacco in cui un avversario controlla una parte dei dati di addestramento per influenzare il comportamento del modello. Nei sistemi che recuperano documenti e basi di conoscenza esterne esiste un rischio affine, noto come RAG poisoning: OWASP documenta attacchi nei quali contenuti malevoli vengono introdotti nelle basi informative o manipolano i risultati di retrieval per condizionare le risposte. «Un post anonimo, una fonte sospetta: quelli li riconosciamo. Con l'AI la risposta arriva già ricomposta, ordinata, con un tono che sembra autorevole. Ma va verificata lo stesso», osserva Gabriele Gobbo, vicepresidente del Digital Security Festival. La questione interessa anche il terreno della disinformazione strategica e dei conflitti ibridi. Gobbo richiama il lavoro di Michele Zizza, professore aggiunto all'Università degli Studi della Tuscia di Viterbo, autore di Digitalizzazione, disinformazione, destabilizzazione. Il volume affronta le trasformazioni dell'informazione, le campagne di disinformazione e le forme di manipolazione rese più sofisticate anche dall'intelligenza artificiale. «Il lavoro di Zizza tiene insieme digitalizzazione, disinformazione, destabilizzazione. Tre piani che oggi si toccano in continuazione. E la manipolazione arriva a toccare anche quello che un sistema usa per costruire le sue risposte», spiega Gobbo. Il rischio cambia quindi anche per chi usa quotidianamente strumenti generativi per informarsi. Un'informazione falsa inserita nel posto giusto può diventare parte del materiale che un sistema apprende, recupera o utilizza per costruire una risposta. A quel punto l'errore non arriva necessariamente con l'aspetto della propaganda. Può presentarsi dentro una risposta coerente e linguisticamente credibile. Per Gobbo la conseguenza riguarda soprattutto la cultura digitale: la ricerca si può delegare a uno strumento, ma il giudizio finale resta una responsabilità umana, non trasferibile alla macchina. Se l'intelligenza artificiale diventa una porta d'accesso quotidiana alla conoscenza, la qualità e l'integrità delle informazioni che stanno a monte diventano parte della sicurezza stessa.

CONTINUA A LEGGERE