Intelligenza Artificiale e Privacy: come proteggere i dati personali

L’intelligenza artificiale può analizzare grandi quantità di informazioni, individuare correlazioni, formulare previsioni e generare nuovi contenuti. Queste capacità stanno aprendo opportunità importanti per cittadini e imprese, ma pongono anche una questione fondamentale: cosa accade quando tra le informazioni elaborate da un sistema di AI sono presenti dati personali?

Il rapporto tra intelligenza artificiale e privacy nasce proprio da questo interrogativo. Per funzionare, molti sistemi AI utilizzano grandi quantità di dati durante le fasi di sviluppo, addestramento o utilizzo. Questi dati possono includere informazioni relative a persone identificabili, come nomi, immagini, registrazioni vocali, localizzazione, preferenze, comportamenti online o informazioni professionali.

La presenza di dati personali non rende di per sé problematico l’utilizzo dell’intelligenza artificiale. Richiede però che il trattamento avvenga nel rispetto di principi precisi, a partire da quelli stabiliti dal Regolamento generale sulla protezione dei dati (GDPR):

• liceità,
• correttezza e trasparenza,
• limitazione delle finalità,
• minimizzazione dei dati,
• esattezza,
• limitazione della conservazione,
• integrità e riservatezza.

A questi obblighi si affianca oggi il Regolamento europeo sull’intelligenza artificiale, o AI Act, entrato in vigore il 1° agosto 2024. Il regolamento introduce un quadro comune per lo sviluppo e l’utilizzo dell’AI nell’Unione europea basato sul livello di rischio delle diverse applicazioni e prevede specifici obblighi per sviluppatori e utilizzatori di determinati sistemi.

I due regolamenti non si sostituiscono: quando un sistema AI tratta dati personali, le disposizioni dell’AI Act devono essere considerate insieme a quelle previste dal GDPR. È in questa integrazione tra innovazione, governance dei dati e protezione dei diritti che si costruisce un utilizzo realmente responsabile dell’intelligenza artificiale.

Intelligenza artificiale e privacy: quali sono i rischi per i dati personali?

I rischi per la privacy non derivano dall’intelligenza artificiale in quanto tale, ma dal modo in cui vengono raccolti, utilizzati, conservati e combinati i dati all’interno dei sistemi.

Uno dei primi aspetti riguarda la quantità di informazioni utilizzate. I modelli di AI possono essere sviluppati utilizzando dataset molto ampi e provenienti da fonti differenti. All’interno di queste raccolte possono essere presenti dati personali forniti direttamente dagli utenti, ricavati da fonti pubbliche oppure ottenuti da soggetti terzi.

Questo rende importante stabilire fin dall’inizio quali dati siano realmente necessari rispetto alla finalità del sistema. Il principio di minimizzazione previsto dal GDPR stabilisce infatti che i dati personali debbano essere adeguati, pertinenti e limitati a quanto necessario rispetto agli scopi per cui vengono trattati.

Un secondo rischio riguarda la possibilità di utilizzare informazioni per finalità differenti rispetto a quelle originariamente previste. Un dato raccolto per erogare un determinato servizio, per esempio, non può essere automaticamente riutilizzato per addestrare un modello AI senza verificare che il nuovo trattamento sia compatibile con la finalità iniziale e disponga di una base giuridica appropriata.

Il tema assume una particolare complessità nei modelli di grandi dimensioni. Nel dicembre 2024 lo European Data Protection Board (EDPB) ha pubblicato un parere specifico sull’utilizzo dei dati personali nello sviluppo e nell’impiego dei modelli AI, affrontando, tra gli altri aspetti, le condizioni per considerarli anonimi, l’utilizzo dell’interesse legittimo come possibile base giuridica e le conseguenze dell’impiego di dati trattati in modo illecito durante lo sviluppo del modello.

L’anonimizzazione merita particolare attenzione. Secondo l’EDPB, non basta dichiarare che un modello è anonimo: la valutazione deve essere effettuata caso per caso e deve risultare molto improbabile sia identificare direttamente o indirettamente le persone i cui dati sono stati utilizzati sia estrarre dal modello quelle informazioni attraverso interrogazioni.

Accanto alla raccolta dei dati, esistono poi rischi collegati all’utilizzo stesso degli output generati dall’intelligenza artificiale.

Profilazione, bias e uso improprio dei dati

La profilazione consiste nell’utilizzo automatizzato di dati personali per valutare determinati aspetti relativi a una persona, come preferenze, interessi, comportamento, rendimento professionale, situazione economica o affidabilità.

I sistemi AI possono rendere queste analisi molto più sofisticate, combinando grandi quantità di informazioni e individuando correlazioni difficili da rilevare manualmente. Questo può essere utile per personalizzare un servizio o individuare fenomeni anomali, ma può anche aumentare il rischio che le persone vengano classificate sulla base di caratteristiche che non conoscono o che non riflettono correttamente la loro situazione.

Un tema strettamente collegato è quello dei bias algoritmici. Un sistema AI apprende dai dati utilizzati per costruirlo e addestrarlo. Se questi dati riflettono squilibri, errori o rappresentazioni non equilibrate della realtà, il modello può riprodurre o amplificare tali distorsioni.

Il problema assume particolare rilevanza quando gli output dell’AI vengono utilizzati per supportare decisioni relative alle persone. Il GDPR stabilisce infatti specifiche garanzie rispetto alle decisioni basate unicamente su trattamenti automatizzati, compresa la profilazione, quando producono effetti giuridici o incidono in modo analogo significativamente sull’interessato. Nei casi previsti dalla normativa, devono essere garantite tutele adeguate, ovvero:

• la possibilità di ottenere l’intervento umano,
• esprimere il proprio punto di vista,
• contestare la decisione.

Un altro rischio riguarda l’uso improprio dei dati personali. Informazioni inserite inconsapevolmente dagli utenti all’interno di strumenti AI possono contenere documenti riservati, informazioni aziendali, dati personali di clienti o colleghi e altri contenuti che non dovrebbero essere trasferiti a servizi esterni senza una preventiva valutazione.

Con l’AI generativa emerge inoltre una nuova dimensione. Immagini, voce e video disponibili online possono essere utilizzati per creare contenuti artificiali estremamente realistici. I deepfake, ad esempio, sfruttano tecniche di deep learning per riprodurre volto e voce di una persona e possono essere utilizzati per impersonificazione, frodi e manipolazione delle informazioni.

AI e privacy riguardano quindi non soltanto la riservatezza delle informazioni, ma anche il modo in cui i dati possono essere interpretati, combinati e trasformati attraverso gli algoritmi.

GDPR e intelligenza artificiale: quali obblighi per le aziende?

Per un’azienda che utilizza sistemi AI, il primo principio da tenere presente è che il GDPR continua ad applicarsi pienamente ogni volta che vengono trattati dati personali.

L’introduzione dell’intelligenza artificiale non crea quindi una deroga alle regole sulla protezione dei dati. Al contrario, la complessità dei sistemi può rendere ancora più importante comprendere con precisione quali informazioni vengano utilizzate, per quale finalità, attraverso quali fornitori e per quanto tempo.

Un primo passaggio consiste nell’individuare una base giuridica valida per il trattamento. A seconda del contesto può trattarsi, ad esempio, dell’esecuzione di un contratto, di un obbligo legale, del consenso oppure dell’interesse legittimo, quando ricorrono le condizioni stabilite dal regolamento.

Proprio sull’interesse legittimo l’EDPB ha richiamato la necessità di una valutazione articolata. Nel caso dei modelli AI occorre verificare l’esistenza di un interesse legittimo, la necessità del trattamento rispetto a tale interesse e il bilanciamento con i diritti e le libertà delle persone coinvolte.

Accanto alla liceità del trattamento, le aziende devono rispettare il principio di trasparenza. Le persone devono poter comprendere quali dati vengono raccolti e con quali finalità, secondo le modalità previste dal GDPR.

Questo requisito può diventare complesso nei sistemi AI più avanzati, nei quali il funzionamento interno dei modelli non è sempre immediatamente interpretabile. La difficoltà tecnica, tuttavia, non elimina l’obbligo di fornire agli interessati informazioni chiare e comprensibili sul trattamento.

Trattamento dei dati e principio di accountability

Uno dei principi centrali del GDPR è l’accountability, o responsabilizzazione. Il titolare del trattamento non deve soltanto rispettare la normativa, ma deve anche essere in grado di dimostrare di averlo fatto attraverso misure, procedure e documentazione adeguate.

Nel caso dell’intelligenza artificiale questo significa adottare una governance che accompagni l’intero ciclo di vita del sistema: dalla scelta del fornitore e dei dati da utilizzare fino alla fase operativa e al monitoraggio degli output.

Il GDPR introduce inoltre il principio di privacy by design e by default. La tutela dei dati non dovrebbe quindi essere aggiunta dopo aver sviluppato un servizio, ma integrata fin dalla progettazione. L’articolo 25 richiede l’adozione di misure tecniche e organizzative adeguate, come la pseudonimizzazione e la minimizzazione, e stabilisce che per impostazione predefinita siano trattati soltanto i dati personali necessari rispetto alla specifica finalità.

Quando un trattamento può comportare un rischio elevato per i diritti e le libertà delle persone, può inoltre rendersi necessaria una valutazione d’impatto sulla protezione dei dati (DPIA). Nei progetti AI, questa analisi può diventare particolarmente importante quando vengono utilizzate grandi quantità di dati personali, categorie particolari di informazioni, sistemi di monitoraggio o strumenti destinati a supportare decisioni significative sulle persone.

Il rapporto tra AI e GDPR può essere sintetizzato attraverso alcuni principi operativi fondamentali:

L’AI Act aggiunge un ulteriore livello di governance. Il regolamento europeo utilizza infatti un approccio basato sul rischio e prevede requisiti differenti in funzione della tipologia e dell’utilizzo del sistema AI. Il rispetto dell’AI Act non sostituisce però gli obblighi privacy: quando vengono trattati dati personali, le due normative devono essere applicate in maniera coordinata.

AI e privacy: buone pratiche per un uso responsabile dei dati

Un utilizzo responsabile dell’AI parte da una domanda apparentemente semplice: quali dati sono davvero necessari? Ridurre la quantità di informazioni personali utilizzate diminuisce l’esposizione al rischio e permette di rispettare più facilmente il principio di minimizzazione previsto dal GDPR.

La stessa logica deve essere applicata alla scelta degli strumenti. Prima di utilizzare una piattaforma AI, soprattutto in ambito aziendale, è importante comprendere dove vengono elaborati i dati, come vengono conservati, se possono essere utilizzati per addestrare ulteriormente il servizio e quali soggetti possono accedervi.

Per i dipendenti, questo significa evitare di inserire negli strumenti AI non autorizzati

• informazioni confidenziali,
• documenti interni,
• dati personali di clienti e colleghi,
• Credenziali,
• contenuti protetti da obblighi di riservatezza.

Le aziende possono affiancare a queste regole strumenti tecnologici e organizzativi. Sistemi di gestione degli accessi, classificazione delle informazioni, cifratura, pseudonimizzazione, registrazione delle attività e procedure di controllo possono contribuire a ridurre il rischio di utilizzi impropri.

Accanto alla protezione tecnica è essenziale verificare la qualità dei dati. Informazioni inesatte o incomplete possono produrre output altrettanto problematici. Questo principio è particolarmente importante quando l’AI viene utilizzata in processi aziendali che supportano decisioni relative a persone, clienti o lavoratori.

Anche la presenza di un controllo umano rimane fondamentale. Un output prodotto da un algoritmo non dovrebbe essere considerato corretto soltanto perché deriva da un sistema AI. Le informazioni possono essere incomplete, inesatte o influenzate dai dati utilizzati durante lo sviluppo del modello.

Per le aziende, un approccio responsabile può quindi combinare diverse misure tra loro:

• valutazione preliminare dei rischi,
• scelta consapevole dei fornitori,
• minimizzazione dei dati,
• protezione degli accessi,
• verifica degli output,
• formazione dei dipendenti e monitoraggio continuo.

Questi elementi acquistano un peso ancora maggiore nelle organizzazioni che gestiscono infrastrutture critiche, dove innovazione digitale, disponibilità delle informazioni e sicurezza devono procedere insieme.

Per Italgas la protezione del patrimonio informativo è parte integrante del percorso di trasformazione digitale. Il Gruppo presidia la cybersecurity attraverso un Next Generation-SOC attivo 24 ore su 24 e servizi di Cyber Threat Intelligence destinati a identificare preventivamente minacce rivolte alle risorse digitali, alle informazioni e alla reputazione aziendale.

La sicurezza assume un rilievo ancora maggiore con la crescente integrazione dell’AI nei processi aziendali. Algoritmi e modelli possono generare valore soltanto se utilizzano dati affidabili, protetti e governati correttamente. Cybersecurity e privacy diventano così due componenti complementari della stessa strategia: la prima protegge sistemi e informazioni dalle minacce, la seconda garantisce che i dati personali vengano trattati nel rispetto dei diritti delle persone.

Anche fenomeni come i deepfake mostrano quanto sia ormai stretto il rapporto tra intelligenza artificiale, identità digitale e protezione delle informazioni. Tecnologie capaci di generare immagini e voci estremamente realistiche rendono infatti sempre più importante verificare la provenienza dei contenuti e proteggere i dati che possono essere utilizzati per riprodurre l’identità di una persona.

La sfida non consiste quindi nel limitare l’utilizzo dell’intelligenza artificiale, ma nel costruire le condizioni per adottarla in maniera consapevole. Privacy by design, cybersecurity, qualità dei dati, trasparenza e controllo umano permettono di trasformare la tutela dei dati da vincolo a elemento strutturale dell’innovazione.

In questa prospettiva, il rapporto tra AI e privacy diventa una questione di fiducia. Più l’intelligenza artificiale entra nei processi aziendali e nei servizi utilizzati quotidianamente, più sarà importante poter comprendere come vengono trattate le informazioni e sapere che esistono regole e sistemi adeguati per proteggerle. È su questa capacità di coniugare innovazione e responsabilità che si misura la sostenibilità della trasformazione digitale.