Alors que nous sommes à l’aube de l’année électorale la plus importante de l’histoire, la rencontre entre technologie et démocratie revient une nouvelle fois sur le devant de la scène. Plus de 50 pays à travers le monde, représentant une population totale d’environ 4,2 milliards d’habitants, organiseront des élections nationales et régionales en 2024, parmi lesquels figurent sept des dix nations les plus peuplées au monde. Avec les progrès rapides de l’IA générative, qui permet à quiconque de créer des images, des vidéos, des fichiers audio ou du texte réalistes à partir de consignes fournies par l’utilisateur, les processus électoraux pourraient être confrontés à de nouveaux défis.
L'IA générative a attiré l'attention en raison de son potentiel à influencer l'opinion publique et, par conséquent, à peser sur les débats et les décisions. Des vidéos deepfake aux campagnes « intelligentes » ciblées générées par l'IA à grande échelle, le recours aux techniques d'IA générative peut constituer une menace sérieuse pour l'intégrité des processus démocratiques. Ces risques peuvent prendre diverses formes, notamment des tentatives de dernière minute visant à dissuader les électeurs de voter, à mettre en scène un événement mettant en scène une représentation générée d'un candidat difficile à démystifier, ou encore à diffuser des fausses informations ciblées.
Qu'est-ce que cela signifie pour les plateformes en ligne ? Tout simplement : éviter les questions délicates concernant la responsabilité liée à la diffusion de contenus générés par l'IA douteux sur votre plateforme, en particulier face à d'éventuels scandales, et renforcer vos mesures de confiance et de sécurité pour faire face à de nouvelles menaces potentielles. Pangram Labs développe les méthodes de détection de contenu généré par l'IA les plus précises afin d'automatiser l'identification et la modération de ce contenu. Associé aux technologies « human-in-the-loop » rendues possibles par Tremau, il s'agit d'un processus efficace pour contrôler et modérer le contenu généré par l'IA avant qu'il ne menace l'intégrité d'une plateforme ou d'une élection.
Lorsque la Commission européenne a publié pour la première fois sa proposition de loi sur l'IA en avril 2021, l'IA générative était loin d'être une préoccupation urgente pour les régulateurs. Tout cela a changé avec les récentes avancées en matière d'IA, telles que le GPT-4. C'est pourquoi le Parlement européen a considérablement modifié la proposition initiale de la Commission européenne, en introduisant notamment des règles spécifiques applicables aux systèmes d'IA générative (la proposition du Parlement). L'IA générative relève de la catégorie des «systèmes d'IA à usage général »qui doivent se conformer à des exigences de transparence, notamment en indiquant que le contenu a été généré par l'IA. Le respect de ces obligations réglementaires peut être simplifié grâce à une plateforme de modération de contenu conçue pour la conformité, telle que celle de Tremau.
De nombreuses entreprises ont pris conscience que la préparation aux défis et aux risques liés à l'IA ne relève pas uniquement de la réglementation. Le développement rapide de l'IA pose des défis en matière de sécurité des marques et de santé des plateformes; il est donc essentiel de savoir comment les acteurs malveillants exploitent les contenus générés par l'IA à des fins de spam et de désinformation, et d'utiliser des outils pour empêcher leur diffusion sur votre plateforme.
Pour toutes ces raisons, et dans le cadre de notre mission visant à bâtir un monde numérique sûr et bénéfique pour tous, Tremau et Pangram Labs s'associent pour proposer des solutions de détection des contenus générés par l'IA et de mention obligatoire de l'IA pour les contenus créés par les utilisateurs. Ainsi, les plateformes peuvent rester en conformité et garantir l'authenticité des contenus créés par leurs utilisateurs.
En quoi pouvons-nous vous aider ?
Pangram Labs développe des outils destinés à automatiser la détection des contenus générés par l'IA, en commençant par le texte et la parole.
Tremau vous aide à vous y retrouver au mieux dans le nouvel univers de l'IA avancée et des nouvelles réglementations. Pour en savoir plus, rendez-vous sur tremau.com.
Pour en savoir plus, contactez-nous à l'adresse info@pangram.com ou sur info@tremau.com.
Max est un ingénieur chevronné en apprentissage automatique. Il a récemment travaillé sur les véhicules autonomes chez Nuro, où il a dirigé les efforts en matière d'apprentissage actif. Il possède une longue expérience dans le déploiement de produits d'apprentissage automatique couronnés de succès chez Google, Two Sigma et Yelp.
Max est titulaire d'une licence en informatique théorique et d'un master en intelligence artificielle de l'université de Stanford. Outre sa passion pour la construction, il est également un membre actif de la communauté des cubes de Magic: The Gathering.
Lectures complémentaires
Coup de projecteur sur une collaboratrice : Rencontre avec Katherine, chercheuse en intelligence artificielle
Les spécialistes du marketing gaspillent leurs budgets publicitaires dans du contenu généré par l'IA
Comment les étudiants tentent d'échapper à la détection par l'IA
Pangram Space : un projet de recherche interactif
Présentation de l'identification par IA : Pangram est capable de distinguer les différents modèles de langage (LLM) les uns des autres
Pourquoi Pangram impose-t-il un nombre minimum de mots ?
