Déclaration concernant le décret présidentiel de Joe Biden sur la sécurité de l'IA

REMARQUE : Nous avons changé de nom et nous nous appelons désormais Pangram Labs ! Consultez notre article de blog pour plus de détails.

Aujourd'hui, l'administration Biden a publié de nouvelles normes en matière de sûreté et de sécurité de l'IA, notamment cette directive relative à la détection de contenus générés par l'IA :

Le ministère du Commerce élaborera des lignes directrices relatives à l'authentification et au tatouage numérique des contenus afin d'identifier clairement les contenus générés par l'IA. Les agences fédérales utiliseront ces outils pour permettre aux Américains de s'assurer facilement de l'authenticité des communications qu'ils reçoivent de leur gouvernement — et montrer ainsi l'exemple au secteur privé et aux gouvernements du monde entier.

Joe Biden, sur ai.gov.

Checkfor.ai soutient pleinement l'engagement de l'administration Biden en faveur d'un déploiement sûr et responsable des grands modèles linguistiques. Nous estimons que l'élaboration de lignes directrices et de politiques relatives à l'authentification des contenus générés par l'IA constitue une avancée importante pour la sécurité de l'IA et s'inscrit dans le droit fil de notre mission, qui consiste à protéger Internet contre le spam et les autres contenus malveillants générés par ces grands modèles linguistiques. Le monde s'en portera mieux, tant pour les consommateurs que pour les utilisateurs de technologies d'IA, si nous, en tant que société, investissons davantage dans la détection des contenus générés par l'IA. Aujourd'hui, nous souhaitons publier une déclaration sur notre position en tant qu'entreprise concernant l'authentification, le tatouage numérique et la détection des contenus.

• Nous estimons qu'aucune solution de détection existante n'est suffisante pour résoudre le problème à l'heure actuelle, et nous devons consacrer davantage de ressources à la mise au point de systèmes de détection basés sur l'IA.
• Nous estimons que le tatouage numérique n'est pas la solution à ce problème, car il donne un faux sentiment de sécurité et présente des limites avérées lorsqu'un utilisateur a accès aux poids du modèle ou peut modifier le résultat (https://arxiv.org/pdf/2305.03807.pdf, https://arxiv.org/pdf/2301.10226.pdf). Il existe déjà des modèles open source puissants et performants sans filigrane, et les acteurs malveillants seront toujours en mesure d'ajuster localement leurs propres versions de ces modèles pour échapper à la détection. De plus, nous pensons que le problème de détection est résoluble, même sur des modèles sans filigrane.
• Nous soutenons la réglementation en matière de sécurité de l'IA et de développement des grands modèles linguistiques, à condition que toute réglementation soutienne l'écosystème open source. L'open source permet d'assurer un équilibre des pouvoirs face aux puissantes entreprises technologiques, garantit la transparence pour les consommateurs et permet au public d'évaluer, de critiquer et de comparer librement ces modèles.
• Nous estimons que le rôle du gouvernement dans la promotion de la sécurité de l'IA et dans l'investissement dans la recherche sur la détection des IA devrait se concentrer sur le financement de projets universitaires et industriels dans ce domaine.
• Pour faire progresser la recherche en matière de détection de l'IA, nous devons établir des références et des critères d'évaluation permettant aux consommateurs de prendre conscience de l'efficacité et des limites des détecteurs d'IA disponibles. Nous nous engageons à élaborer et à contribuer à la mise en place de normes sectorielles en matière de détection de l'IA, afin que des modèles linguistiques plus vastes et plus puissants puissent être déployés de manière sûre et responsable.

Chez Checkfor.ai, nous mettons tout en œuvre pour développer des systèmes de détection par IA fiables, afin que les modèles linguistiques de nouvelle génération puissent être déployés en toute sécurité et de manière productive. Nous nous réjouissons de l'engagement pris par l'administration Biden de distinguer les contenus générés par l'IA de ceux créés par des humains, et nous sommes impatients de collaborer avec les chercheurs et les décideurs politiques pour élaborer ces normes essentielles.