Rendere la tua azienda a prova di LLM e GenAI

Si può dire che “la persona dell’anno 2023” sia stata l’IA. Siamo stati tutti colti di sorpresa dalla rapidità dell’innovazione e dalle capacità dei modelli linguistici di grandi dimensioni (LLM) e, più in generale, dell’IA generativa (GenAI). Allo stesso tempo, molti, in particolare sulle piattaforme online, sollevano interrogativi sui potenziali rischi che queste tecnologie possono comportare – si veda questo articolo dell’Harvard Business Review che delinea alcuni rischi legati all’IA. Le piattaforme online potrebbero presto essere inondate di contenuti generati dall'IA, con implicazioni per la sicurezza e la fidelizzazione degli utenti, nonché per la reputazione delle piattaforme stesse. Esistono già startup che offrono strumenti per generare e diffondere enormi volumi di contenuti GenAI.

Tuttavia, l'IA e la GenAI possono anche essere utilizzate a nostro vantaggio per gestire questi rischi e aiutarci a creare spazi digitali e piattaforme online più sicuri, come dimostrano alcune idee emerse dall'ultimo Hackathon dedicato alla fiducia e alla sicurezza. Con l'emergere di nuovi strumenti, è il momento giusto per fare il punto della situazione sulle ultime innovazioni e sui processi volti a gestire i rischi che le piattaforme online devono affrontare a causa della GenAI.

Questo articolo può aiutare a rispondere a domande come:

• Come possiamo proteggere al meglio la nostra azienda, le nostre comunità online e i nostri utenti dalla grande quantità di contenuti generati dall'intelligenza artificiale (ad esempio, dallo spam nelle recensioni ai contenuti illegali che violano il diritto d'autore e altre leggi)?
• È possibile individuare i contenuti generati dall'intelligenza artificiale?
• In quale fase del ciclo di vita dei contenuti generati dall'intelligenza artificiale è possibile ricorrere a misure di sicurezza, e in che modo?
• Come si stanno delineando le normative in materia nei diversi mercati e quali sono le implicazioni per voi?

Elaborate la vostra politica in materia di GenAI tenendo conto del vostro modello di business e delle vostre esigenze

Ogni azienda che si avvale di contenuti generati dagli utenti deve dotarsi di una politica in materia di GenAI. In linea di massima, occorre rispondere a due domande: gli utenti desiderano vedere contenuti generati dall'IA? E sono disposti ad accettare che i contenuti generati dall'IA siano mescolati a quelli creati dall'uomo?

Se la tua risposta a una delle due domande è "no", allora devi adottare una politica sui contenuti generati dall'IA. Ad esempio, potresti richiedere che tali contenuti vengano segnalati come tali oppure vietarli espressamente. Una politica di questo tipo può essere applicata da moderatori umani dotati di occhio attento e di procedure efficaci, avvalendosi di strumenti come Pangram Labs.

Se la risposta è sì – ovvero se gli utenti sono favorevoli o entusiasti all'idea di vedere contenuti generati dall'IA – allora dal punto di vista delle politiche sei a posto. Tuttavia, prima di procedere e introdurre direttamente strumenti di IA come i messaggi assistiti dall'IA di LinkedIn, dovrai comunque assicurarti che i contenuti siano sicuri. Per questo, hai bisogno di alcune misure di sicurezza e, cosa ancora più importante, di mettere sempre in atto processi per moderare in modo efficace ed efficiente i contenuti generati dall'IA, in modo simile alla moderazione dei contenuti generati dagli utenti, utilizzando strumenti come la piattaforma di moderazione di Tremau.

Naturalmente, la vostra politica in materia di GenAI dipende dal vostro business e dal contesto. Non esiste una soluzione valida per tutti. Ad esempio, se gestite un marketplace o, più in generale, una piattaforma in cui gli utenti si affidano alle recensioni di altri utenti, potrebbe essere necessario garantire che nessuna recensione generata dall’IA riesca a raggiungere la vostra piattaforma. Più in generale, dovete anche assicurarvi che nessun contenuto illegale generato dall'IA, proprio come i contenuti generati dagli utenti, sia presente sulla vostra piattaforma. I bot e lo spam sono sempre stati una sfida, ma con la potenza della GenAI sono più potenti e più difficili da individuare.

Comprendere e sfruttare i limiti dell'IA

La maggior parte delle API di IA commerciali prevede una sorta di sistema di controllo. L'API Gemini di Google valuta automaticamente i propri output in base a quattro categorie di sicurezza: incitamento all'odio, molestie, contenuti sessualmente espliciti e contenuti pericolosi. Se si utilizza l'API OpenAI di Azure, si ottengono valutazioni simili basate sui filtri di contenuto "Odio ed equità", "Sessualità", "Violenza" e "Autolesionismo". Entrambe le API rifiuteranno le query che ottengono un punteggio troppo alto in una qualsiasi di queste categorie, ma lasciano a vostra discrezione i livelli intermedi di moderazione della sicurezza.

Se si utilizza un modello open source come Llama-2 o Mistral, sarà necessario sviluppare un proprio filtro dei contenuti. Questo problema può essere risolto ricorrendo a una chiamata separata a un classificatore closed-source (l'API di filtraggio dei contenuti di OpenAI, l'API di sicurezza dei contenuti AI di Azure) oppure a una soluzione open source come LlamaGuard, recentemente rilasciata da Meta. LlamaGuard è un modello basato su LLM con 7 miliardi di parametri che ottiene ottimi risultati nei benchmark. Si dimostra promettente per la classificazione di prompt e risposte, oltre che per la moderazione generale dei contenuti.

Assicurati che il fattore umano continui a essere presente e che i tuoi processi siano conformi alle normative

Indipendentemente dagli strumenti automatizzati che utilizzi per proteggere i tuoi utenti e la tua attività, nessuna tecnologia è in grado di garantirti una protezione totale. Tutti gli strumenti basati sull'intelligenza artificiale che utilizzi commetteranno sempre degli errori. Devi assicurarti che tali errori non ti espongano a rischi operativi, relativi ai clienti o normativi.

In primo luogo, sarà sempre necessario coinvolgere delle persone che, come minimo, si occupino di esaminare alcuni dei contenuti che gli strumenti potrebbero segnalare come da verificare. Ovviamente, i processi di revisione dei contenuti devono essere efficaci ed efficienti. Paradossalmente, più strumenti di IA diventano disponibili sul mercato (ad esempio, per la generazione o la moderazione dei contenuti), più persone potrebbe essere necessario coinvolgere in alcuni casi.

In secondo luogo, qualsiasi processo e pratica di moderazione dei contenuti deve essere concepito tenendo conto della sicurezza e della fidelizzazione degli utenti – e, di conseguenza, anche degli interessi aziendali. Cosa succede se gli errori della moderazione sollevano preoccupazioni? Come garantite che i vostri utenti abbiano voce in capitolo quando necessario per correggere le vostre decisioni o quelle della vostra IA? Come garantire che i vostri moderatori abbiano tutto ciò di cui hanno bisogno per prendere le migliori decisioni di moderazione nel modo più efficiente ed efficace possibile? Gestire queste e altre complessità richiede di riflettere attentamente e automatizzare efficacemente i vostri processi, utilizzando ad esempio strumenti come la piattaforma di moderazione dei contenuti di Tremau.

Infine, il 2024 sarà l'anno in cui dovrete davvero impegnarvi al massimo per evitare di finire tra le aziende multate dalle autorità di regolamentazione. Il Digital Services Act dell'UE entrerà in vigore per tutte le piattaforme online che operano in Europa, imponendovi di riprogettare i vostri processi e di fornire – pena l'applicazione di sanzioni – determinati documenti, come ad esempio i rapporti sulla trasparenza. Naturalmente, la conformità è necessaria indipendentemente dal fatto che la vostra piattaforma sia interessata dall'intelligenza artificiale o ne faccia uso.

Come possiamo aiutarti? Noi di Checkfor.ai e Tremau ci impegniamo per aiutarti a orientarti al meglio nel nuovo mondo dell'intelligenza artificiale avanzata e delle nuove normative.

Per ulteriori informazioni, contattateci all'indirizzo info@tremau.com e info@pangram.com.

Theodoros Evgeniou è cofondatore e Chief Innovation Officer di Tremau, professore presso l’INSEAD, membro della rete di esperti dell’OCSE sull’intelligenza artificiale, consulente del BCG Henderson Institute ed è stato partner accademico in materia di intelligenza artificiale presso il Forum economico mondiale. Ha conseguito quattro titoli di studio presso il MIT, tra cui un dottorato di ricerca nel campo dell’intelligenza artificiale.

Max Spero è cofondatore e amministratore delegato di Pangram Labs. In precedenza ha lavorato come ingegnere informatico presso Google e Nuro, occupandosi della creazione di flussi di dati e dell'addestramento di modelli di apprendimento automatico. Ha conseguito la laurea triennale e magistrale in Informatica presso l'Università di Stanford.

Questo articolo è stato pubblicato in collaborazione con Tremau nel gennaio 2024.