Deepfake e IA: nuova specifica ETSI TS 104 275

L’evoluzione dell’Intelligenza Artificiale generativa ha reso sempre più semplice produrre immagini, video e contenuti audio artificiali difficilmente distinguibili da quelli autentici. Questi contenuti, comunemente definiti deepfake, possono essere utilizzati per finalità legittime, ma anche per realizzare frodi, manipolare informazioni, simulare l’identità di persone e compromettere la sicurezza delle organizzazioni.

Per le aziende, il problema non riguarda esclusivamente la protezione dei sistemi informatici, ma coinvolge anche la riservatezza delle informazioni, l’affidabilità delle comunicazioni, la tutela dei dati e la continuità operativa.

In questo contesto si inserisce la nuova specifica tecnica ETSI TS 104 275, pubblicata nel settembre 2026 dall’European Telecommunications Standards Institute (ETSI), che definisce un insieme di misure per prevenire i danni derivanti dall’utilizzo improprio dei sistemi di Intelligenza Artificiale generativa.

ETSI TS 104 275: dalla rilevazione alla prevenzione dei deepfake

Uno degli aspetti più significativi della nuova specifica è il superamento di un approccio alla sicurezza basato prevalentemente sul riconoscimento dei contenuti contraffatti dopo la loro creazione.

La ETSI TS 104 275 propone invece di intervenire direttamente nella progettazione, nello sviluppo e nella gestione dei sistemi di IA, introducendo controlli finalizzati a ridurre il rischio che tali tecnologie vengano utilizzate per generare contenuti dannosi.

L’obiettivo è integrare la sicurezza nell’intero ciclo di vita dei sistemi, attraverso processi strutturati di identificazione, valutazione, controllo e monitoraggio dei rischi.

Le principali misure di sicurezza previste dalla specifica

La ETSI TS 104 275 individua diverse aree di intervento che gli sviluppatori e gli operatori dei sistemi di IA generativa possono considerare per prevenire la produzione di deepfake dannosi.

  • Valutazione preventiva dei rischi

Prima dello sviluppo e della distribuzione di un sistema è necessario analizzare i possibili scenari di utilizzo improprio, identificando le vulnerabilità e definendo misure di mitigazione adeguate.

  • Supervisione e controllo umano

La presenza di meccanismi di supervisione consente di mantenere un controllo sul comportamento dei sistemi, soprattutto nei processi nei quali i contenuti generati potrebbero produrre conseguenze significative.

  • Protezione dei contenuti generati

L’adozione di strumenti di filtraggio, etichettatura e segnalazione permette di limitare determinati utilizzi impropri e di favorire una maggiore trasparenza sull’origine artificiale dei contenuti.

  • Monitoraggio continuo

La gestione della sicurezza non si conclude con il rilascio del sistema. È necessario individuare nuove vulnerabilità, analizzare eventuali incidenti e aggiornare periodicamente le misure di protezione.

  • Documentazione e verificabilità dei controlli

La specifica attribuisce importanza alla registrazione delle attività svolte e alla disponibilità di evidenze oggettive che dimostrino l’effettiva applicazione delle misure di sicurezza.

Sono inoltre previsti scenari di prova e criteri di verifica che consentono di valutare concretamente l’attuazione dei controlli.

Quali implicazioni per le aziende?

Sebbene la ETSI TS 104 275 sia rivolta principalmente agli sviluppatori e agli operatori di sistemi di Intelligenza Artificiale generativa, i principi introdotti rappresentano un riferimento utile anche per le organizzazioni che integrano queste tecnologie nei propri processi.

L’adozione di strumenti basati sull’IA richiede infatti una valutazione che non si limiti alle opportunità operative, ma consideri anche i possibili rischi connessi al loro utilizzo.

Per le aziende diventa quindi importante:

  • Individuare i processi nei quali vengono impiegati strumenti di Intelligenza Artificiale.
  • Valutare i rischi legati alla manipolazione delle informazioni e all’utilizzo improprio dei contenuti.
  • Definire procedure interne per l’impiego e la verifica dei sistemi.
  • Sensibilizzare il personale rispetto ai rischi di frode, impersonificazione e diffusione di informazioni contraffatte.
  • Integrare i rischi emergenti nei processi aziendali di gestione della sicurezza delle informazioni.

Questi interventi possono contribuire a rafforzare la capacità dell’organizzazione di prevenire gli incidenti e gestire le vulnerabilità associate alle nuove tecnologie.

La prevenzione come elemento centrale della sicurezza digitale

La pubblicazione della ETSI TS 104 275 conferma la crescente importanza di un approccio strutturato alla gestione dei rischi derivanti dall’Intelligenza Artificiale.

La sicurezza digitale non può più essere affrontata esclusivamente attraverso strumenti di protezione tecnologica, ma richiede processi organizzativi, responsabilità definite, formazione e monitoraggio costante.

In questa prospettiva, la prevenzione diventa un elemento fondamentale della governance aziendale, anche attraverso l’integrazione dei rischi tecnologici nei sistemi di gestione della sicurezza delle informazioni, come quelli basati sulla ISO/IEC 27001.

Preven promuove un approccio alla sicurezza basato sull’identificazione dei rischi, sulla definizione di misure preventive e sul miglioramento continuo dei processi organizzativi, principi sempre più importanti anche nell’ambito della trasformazione digitale.