Tremau e Pangram Labs stringono una partnership per affrontare la sfida dei contenuti generati dall'intelligenza artificiale

Mentre ci avviciniamo a quello che si preannuncia come l’anno elettorale più importante della storia, l’intersezione tra tecnologia e democrazia torna ancora una volta sotto i riflettori. Nel 2024, oltre 50 paesi in tutto il mondo, con una popolazione complessiva di circa 4,2 miliardi di persone, terranno elezioni nazionali e regionali, tra cui sette delle dieci nazioni più popolose del mondo. Con il rapido avanzamento dell'IA generativa, che consente a chiunque di creare immagini, video, audio o testi realistici sulla base di prompt forniti dall'utente, i processi elettorali possono trovarsi ad affrontare nuove sfide.

L'intelligenza artificiale generativa ha attirato l'attenzione per la sua capacità di influenzare l'opinione pubblica e, di conseguenza, di incidere sui dibattiti e sulle decisioni. Dai video deepfake alle campagne "intelligenti" mirate e generate dall'IA su larga scala, l'impiego di tecniche di intelligenza artificiale generativa può rappresentare una grave minaccia per l'integrità dei processi democratici. Questi rischi possono assumere molteplici forme, tra cui tentativi dell'ultimo minuto di dissuadere le persone dal votare, la creazione di un evento in cui viene presentata un'immagine generata di un candidato difficile da smascherare, o la diffusione di notizie false mirate.

Cosa significa questo per le piattaforme online? In poche parole: evitare domande scomode sulla responsabilità riguardo alla diffusione di contenuti generati dall'IA di dubbia provenienza sulla propria piattaforma, soprattutto di fronte a potenziali scandali, e migliorare le proprie procedure di sicurezza e affidabilità per gestire eventuali nuove minacce. Pangram Labs sta sviluppando i metodi più accurati per il rilevamento dei contenuti generati dall'IA, al fine di automatizzare l'identificazione e la moderazione di tali contenuti. In combinazione con le tecnologie "human-in-the-loop" rese possibili da Tremau, si tratta di un processo efficace per controllare e moderare i contenuti generati dall'IA prima che minaccino l'integrità di una piattaforma o di un'elezione.

Quando la Commissione europea ha presentato per la prima volta la sua proposta di legge sull'IA nell'aprile 2021, l'IA generativa era ben lungi dall'essere una preoccupazione urgente per le autorità di regolamentazione. Tutto è cambiato con i recenti progressi nel campo dell'IA, come GPT-4. Per questo motivo, il Parlamento europeo ha modificato in modo sostanziale la proposta iniziale della Commissione europea, introducendo in particolare norme specifiche applicabili ai sistemi di IA generativa (la proposta del Parlamento). L'IA generativa rientra nella categoria dei"sistemi di IA a uso generico"che devono rispettare i requisiti di trasparenza, compresa la divulgazione del fatto che il contenuto è stato generato dall'IA. Adempiere a questi obblighi normativi può essere semplificato grazie a una piattaforma di moderazione dei contenuti conforme fin dalla progettazione, come quella di Tremau.

Molte aziende hanno compreso che prepararsi alle sfide e ai rischi legati all'intelligenza artificiale non è solo una questione di conformità normativa. Il rapido sviluppo dell'intelligenza artificiale pone sfide in termini di sicurezza del marchio e integrità della piattaforma; è quindi fondamentale essere consapevoli di come i malintenzionati utilizzino i contenuti generati dall'intelligenza artificiale per diffondere spam e disinformazione, e avvalersi di strumenti adeguati per tenerli lontani dalla propria piattaforma.

Per tutti questi motivi, e nell’ambito della nostra missione volta a costruire un mondo digitale sicuro e vantaggioso per tutti, Tremau e Pangram Labs hanno avviato una collaborazione per fornire servizi di rilevamento dei contenuti generati dall’intelligenza artificiale e di indicazione della loro provenienza per i contenuti generati dagli utenti. In questo modo, le piattaforme possono garantire la conformità alle normative e preservare l’autenticità dei contenuti generati dagli utenti.

Come possiamo aiutarti?

Pangram Labs sta sviluppando strumenti per automatizzare l'individuazione dei contenuti generati dall'intelligenza artificiale, a partire da testi e discorsi.

Tremau ti aiuta a orientarti al meglio nel nuovo mondo dell'intelligenza artificiale avanzata e delle nuove normative. Per saperne di più, visita tremau.com.

Per ulteriori informazioni, contattateci all'indirizzo info@pangram.com e info@tremau.com.