Comprendere la nuova normativa dell'UE sull'intelligenza artificiale

Foto di Angel Bena.

La settimana scorsa il Parlamento europeo ha approvato la legge sull'intelligenza artificiale (AI Act), un quadro normativo completo che gli Stati membri dell'UE dovranno seguire per regolamentare i prodotti e i servizi basati sull'intelligenza artificiale.

La legge sull'intelligenza artificiale (AI Act) è concepita come normativa a tutela dei consumatori e adotta un "approccio basato sul rischio" nei confronti dei prodotti o dei servizi che utilizzano l'intelligenza artificiale: maggiore è il rischio associato a un'applicazione di IA, maggiore sarà il livello di controllo a cui sarà sottoposta. I livelli di rischio sono suddivisi in diverse categorie, tra cui:

• I sistemi di intelligenza artificiale che utilizzano «tecniche subliminali, manipolative o ingannevoli per alterare il comportamento e compromettere il processo decisionale informato», o che rappresentano un «rischio evidente per i diritti umani fondamentali», saranno considerati «a rischio inaccettabile» e saranno vietati.
• I sistemi di intelligenza artificiale considerati "ad alto rischio", come quelli utilizzati nelle infrastrutture critiche, nell'istruzione, nella sanità, nelle forze dell'ordine, nella gestione delle frontiere o nelle elezioni, dovranno soddisfare requisiti rigorosi.
• I sistemi di IA a uso generico che non rientrano nelle categorie ad alto rischio saranno considerati a rischio limitato e saranno soggetti a obblighi di trasparenza meno rigorosi. Le applicazioni di IA generativa saranno considerate sistemi di IA a uso generico.

Sia i produttori (come OpenAI e Google) che gli utenti (le aziende che utilizzano tali applicazioni) saranno tenuti a superare dei test di accuratezza e trasparenza, affinché gli utenti finali (i consumatori) siano consapevoli di interagire con l'intelligenza artificiale. Le aziende che non riusciranno a soddisfare questi nuovi requisiti andranno incontro a sanzioni fino a 35 milioni di euro o pari al 7% del loro fatturato annuo globale.

Cosa comporta tutto ciò per le piattaforme online?

Qualsiasi impresa, indipendentemente dalla propria sede, che abbia utenti finali nell'UE e utilizzi sistemi di IA nei propri prodotti sarà soggetta alla legge sull'IA. Sebbene si tratti di un ambito di applicazione ampio e in parte ambiguo, è chiaro che le piattaforme online che utilizzano o pubblicano contenuti basati sull'IA dovranno conformarsi a questi nuovi obblighi normativi.

Poiché molte piattaforme di contenuti generati dagli utenti stanno registrando un aumento dei contenuti generati dall'intelligenza artificiale, la maggior parte dei siti online (ad esempio, editori, marketplace e social media) dovrà probabilmente implementare misure volte a garantire la trasparenza e la moderazione, tra cui:

• Indicare se i contenuti generati o pubblicati sulla piattaforma sono stati creati dall'intelligenza artificiale.
• Progettare la piattaforma in modo da respingere i contributi illegali generati dall'intelligenza artificiale.
• Pubblicazione di sintesi dei dati protetti da copyright utilizzati per l'addestramento dei modelli interni.

L'etichettatura, e di conseguenza l'individuazione, dei contenuti generati dall'intelligenza artificiale sarà d'ora in poi obbligatoria qualora tali contenuti vengano diffusi sulle piattaforme di contenuti. Ciò vale per qualsiasi forma di contenuto: testo, audio, immagini e video:

"I fornitori di sistemi di IA, compresi quelli generici, che generano contenuti audio, immagini, video o testi sintetici, devono garantire che i risultati prodotti dal sistema di IA siano contrassegnati in un formato leggibile da una macchina e identificabili come generati o manipolati artificialmente."

Pur condividendo l'intento legislativo dell'UE di promuovere sistemi di IA sicuri, riconosciamo al contempo che per le imprese potrebbe risultare complesso interpretare e rispettare questa normativa. Tali obblighi possono apparire piuttosto ambigui e l'AI Act non specifica in modo chiaro se i contenuti di natura secondaria (come le recensioni o i commenti degli utenti) siano soggetti a tali requisiti, né quali controlli di conformità le imprese dovranno integrare.

In che modo le aziende possono anticipare l'AI Act?

La buona notizia è che le aziende avranno il tempo di mettere a punto soluzioni per garantire la conformità. Si prevede che la legge entri in vigore entro maggio e che le sue disposizioni entrino in vigore gradualmente; molti dei requisiti di trasparenza, infatti, si applicheranno solo a partire dal prossimo anno.

Detto questo, riteniamo che le aziende possano adottare fin da ora alcune misure per prevenire l'eventuale applicazione della legge. In particolare, le aziende dovrebbero cercare di sviluppare:

• Linee guida e regole chiare in materia di contenuti generati dagli utenti.
• Flussi di lavoro più efficienti per la moderazione dei contenuti, al fine di identificare i contenuti generati dall'intelligenza artificiale.
• Misure automatizzate per impedire la diffusione di contenuti generati dall'intelligenza artificiale.

Già ora si vedono alcune aziende passare all'azione: alcune piattaforme, come YouTube e Instagram, chiedono agli utenti di segnalare autonomamente i contenuti generati dall'IA che sembrano "realistici" al momento del caricamento. Non è chiaro se questo "sistema basato sulla fiducia" sarà sufficiente per garantire la conformità alla legge, ma si tratta di un segnale forte che dimostra come i leader del settore stiano prendendo sul serio questa normativa e la sicurezza dell'IA.

Noi di Pangram Labs ci stiamo impegnando al massimo per sviluppare i migliori sistemi di rilevamento basati sull'intelligenza artificiale, affinché le aziende possano gestire piattaforme online sicure e responsabili. Siamo incoraggiati dall'obiettivo dell'Unione Europea di garantire la trasparenza su Internet e non vediamo l'ora di collaborare con ricercatori e responsabili politici per definire nel dettaglio questi importanti standard.

Vuoi contattarci? Scrivici all'indirizzo info@pangram.com!