Dichiarazione sul decreto presidenziale di Biden in materia di sicurezza dell'intelligenza artificiale

NOTA: Abbiamo cambiato il nostro nome in Pangram Labs! Per ulteriori dettagli, consulta il nostro post sul blog.

Oggi l'amministrazione Biden ha emanato nuove norme in materia di sicurezza e protezione dell'intelligenza artificiale, tra cui questa direttiva sul rilevamento dei contenuti generati dall'intelligenza artificiale:

Il Dipartimento del Commercio elaborerà delle linee guida in materia di autenticazione dei contenuti e filigranatura, al fine di contrassegnare chiaramente i contenuti generati dall'intelligenza artificiale. Le agenzie federali utilizzeranno questi strumenti per consentire ai cittadini statunitensi di verificare facilmente l'autenticità delle comunicazioni ricevute dal proprio governo, fungendo da esempio per il settore privato e per i governi di tutto il mondo.

Joe Biden, da ai.gov.

Checkfor.ai sostiene pienamente l'impegno dell'amministrazione Biden a favore di un impiego sicuro e responsabile dei modelli linguistici di grandi dimensioni. Riteniamo che lo sviluppo di linee guida e politiche in materia di autenticazione dei contenuti generati dall'IA rappresenti un passo importante nella giusta direzione per la sicurezza dell'IA e sia in linea con la nostra missione di proteggere Internet dallo spam e da altri contenuti dannosi generati dai modelli linguistici di grandi dimensioni. Il mondo sarà migliore, sia per i consumatori che per gli utenti della tecnologia AI, se noi come società investiremo maggiormente nell'individuazione dei contenuti generati dall'AI. Oggi desideriamo rilasciare una dichiarazione sulla nostra posizione come azienda in materia di autenticazione dei contenuti, filigranatura e individuazione.

• Riteniamo che nessuna delle soluzioni di rilevamento attualmente disponibili sia in grado di risolvere il problema in questo momento, e che sia necessario investire maggiori risorse proprio nel rilevamento basato sull'intelligenza artificiale.
• Riteniamo che l'inserimento di filigrane non sia la soluzione a questo problema, poiché infonde un falso senso di sicurezza e presenta limiti comprovati quando un utente ha accesso ai pesi del modello o la possibilità di modificare l'output (https://arxiv.org/pdf/2305.03807.pdf, https://arxiv.org/pdf/2301.10226.pdf). Esistono già modelli open source potenti e capaci senza filigrana, e i malintenzionati saranno sempre in grado di ottimizzare localmente le proprie versioni di questi modelli per eludere il rilevamento. Inoltre, riteniamo che il problema del rilevamento sia risolvibile anche su modelli senza filigrana.
• Siamo favorevoli a una regolamentazione in materia di sicurezza dell'IA e di sviluppo dei modelli linguistici di grandi dimensioni, a condizione che tale regolamentazione sostenga l'ecosistema open source. L'open source garantisce un sistema di controlli e contrappesi nei confronti delle grandi aziende tecnologiche, assicura trasparenza ai consumatori e consente al pubblico di valutare, criticare e confrontare liberamente questi modelli.
• Riteniamo che il ruolo del governo nella promozione della sicurezza dell'IA e negli investimenti nella ricerca sul rilevamento dell'IA debba concentrarsi sul finanziamento di progetti sia accademici che industriali in questo ambito.
• Per promuovere una ricerca efficace nel campo del rilevamento dell'IA, è necessario definire parametri di riferimento e criteri di valutazione che consentano ai consumatori di comprendere l'efficacia e i limiti dei rilevatori di IA disponibili. Ci impegniamo a sviluppare e a contribuire alla definizione di standard settoriali nel campo del rilevamento dell'IA, affinché modelli linguistici sempre più grandi e potenti possano essere implementati in modo sicuro e responsabile.

Noi di Checkfor.ai ci stiamo impegnando a fondo per sviluppare sistemi di rilevamento basati sull'intelligenza artificiale affidabili, affinché i modelli linguistici di nuova generazione possano essere implementati in modo sicuro ed efficiente. Accogliamo con entusiasmo l'impegno dell'amministrazione Biden a distinguere i contenuti generati dall'uomo da quelli generati dall'intelligenza artificiale e non vediamo l'ora di collaborare con ricercatori e responsabili politici per sviluppare questi importanti standard.