Tremau e Pangram Labs collaborano per affrontare il tema dei contenuti generati dall'intelligenza artificiale

Mentre ci avviciniamo all'anno elettorale più importante della storia, l'intersezione tra tecnologia e democrazia torna nuovamente alla ribalta. Più di 50 paesi in tutto il mondo, con una popolazione complessiva di circa 4,2 miliardi di persone, terranno elezioni nazionali e regionali nel 2024, tra cui sette delle dieci nazioni più popolose del mondo. Con il rapido progresso dell'intelligenza artificiale generativa, che consente a chiunque di creare immagini, video, audio o testi realistici sulla base di indicazioni fornite dall'utente, i processi elettorali possono trovarsi ad affrontare nuove sfide.

L'intelligenza artificiale generativa ha attirato l'attenzione per il suo potenziale di influenzare l'opinione pubblica e quindi di incidere sui dibattiti e sulle decisioni. Dai video deepfake alle campagne "intelligenti" mirate generate dall'intelligenza artificiale su larga scala, l'impiego di tecniche di intelligenza artificiale generativa può rappresentare una minaccia significativa per l'integrità dei processi democratici. Questi rischi possono assumere molte forme, tra cui tentativi dell'ultimo minuto di dissuadere le persone dal votare o di creare un evento con una rappresentazione generata di un candidato difficile da smascherare, oppure diffondere notizie false mirate.

Cosa significa questo per le piattaforme online? Semplicemente: evitare domande scomode sulla responsabilità relativa alla diffusione di contenuti discutibili generati dall'IA sulla propria piattaforma, in particolare di fronte a potenziali scandali, e migliorare le operazioni di fiducia e sicurezza per gestire potenziali nuove minacce. Pangram Labs sta sviluppando i metodi più accurati di rilevamento dei contenuti generati dall'IA per automatizzare l'identificazione e la moderazione dei contenuti IA. In combinazione con le tecnologie human-in-the-loop abilitate da Tremau, si tratta di un processo efficace per controllare e moderare i contenuti IA prima che minaccino l'integrità di una piattaforma o di un'elezione.

Quando la Commissione Europea ha pubblicato per la prima volta la sua proposta di legge sull'IA nell'aprile 2021, l'IA generativa era ben lungi dall'essere una preoccupazione urgente per le autorità di regolamentazione. Tutto è cambiato con i recenti progressi nell'IA, come il GPT-4. Per questo motivo, il Parlamento Europeo ha modificato in modo sostanziale la proposta iniziale della Commissione Europea, introducendo in particolare norme specifiche che si applicano ai sistemi di IA generativa (la Proposta del Parlamento). L'IA generativa rientra nella categoria dei"sistemi di IA per uso generico"che devono soddisfare i requisiti di trasparenza, compresa la divulgazione del fatto che il contenuto è stato generato dall'IA. Il rispetto di questi obblighi normativi può essere semplificato grazie a una piattaforma di moderazione dei contenuti conforme alla normativa, come quella di Tremau.

Molte aziende hanno riconosciuto che prepararsi alle sfide e ai rischi dell'IA non è solo una questione normativa. Il rapido sviluppo dell'IA pone delle sfide per la sicurezza del marchio e la salute della piattaforma: è quindi essenziale essere consapevoli di come i malintenzionati utilizzano i contenuti dell'IA per lo spam e la disinformazione e utilizzare strumenti per tenerli lontani dalla propria piattaforma.

Per tutti questi motivi, e nell'ambito della nostra missione volta a costruire un mondo digitale sicuro e vantaggioso per tutti, Tremau e Pangram Labs hanno avviato una collaborazione per fornire servizi di rilevamento dei contenuti generati dall'intelligenza artificiale e divulgazione delle informazioni relative all'intelligenza artificiale per i contenuti generati dagli utenti. In questo modo, le piattaforme possono garantire la conformità alle normative e mantenere l'autenticità dei contenuti generati dagli utenti.

Come possiamo aiutarti?

Pangram Labs sta sviluppando strumenti per automatizzare il rilevamento dei contenuti generati dall'intelligenza artificiale, a partire da testi e discorsi.

Tremau lavora per aiutarti a orientarti al meglio nel nuovo mondo della potente IA e delle nuove normative. Per saperne di più, visita tremau.com.

Per ulteriori informazioni, contattaci all'indirizzo info@pangram.com e info@tremau.com.