Tremau et Pangram Labs s'associent pour s'attaquer au contenu généré par l'IA

Alors que nous sommes à l'aube de la plus grande année électorale de l'histoire, l'intersection entre technologie et démocratie revient une fois de plus sur le devant de la scène. Plus de 50 pays à travers le monde, représentant une population totale d'environ 4,2 milliards d'habitants, organiseront des élections nationales et régionales en 2024, dont sept des dix nations les plus peuplées au monde. Avec les progrès rapides de l'IA générative, qui permet à quiconque de créer des images, des vidéos, des fichiers audio ou des textes réalistes à partir de suggestions fournies par l'utilisateur, les processus électoraux peuvent être confrontés à de nouveaux défis.

L'IA générative a attiré l'attention en raison de son potentiel à influencer l'opinion publique et, par conséquent, à avoir un impact sur les débats et les décisions. Des vidéos deepfake aux campagnes « intelligentes » ciblées générées par l'IA à grande échelle, le déploiement de techniques d'IA générative peut constituer une menace importante pour l'intégrité des processus démocratiques. Ces risques peuvent prendre de nombreuses formes, notamment des tentatives de dernière minute visant à dissuader les gens de voter ou à fabriquer un événement mettant en scène une représentation générée d'un candidat difficile à démystifier, ou encore à diffuser des fausses informations ciblées.

Qu'est-ce que cela signifie pour les plateformes en ligne ? Tout simplement : éviter les questions délicates concernant la responsabilité relative à la diffusion d'IA douteuse générée sur votre plateforme, en particulier face à des scandales potentiels, et améliorer vos opérations de confiance et de sécurité afin de gérer les nouvelles menaces potentielles. Pangram Labs développe les méthodes les plus précises de détection des contenus générés par l'IA afin d'automatiser l'identification et la modération de ces contenus. Associé aux technologies « human-in-the-loop » mises au point par Tremau, ce processus permet de contrôler et de modérer efficacement les contenus générés par l'IA avant qu'ils ne menacent l'intégrité d'une plateforme ou d'une élection.

Lorsque la Commission européenne a publié pour la première fois sa proposition de loi sur l'IA en avril 2021, l'IA générative était loin d'être une préoccupation urgente pour les régulateurs. Tout cela a changé avec les récentes avancées en matière d'IA, telles que GPT-4. C'est pourquoi le Parlement européen a considérablement modifié la proposition initiale de la Commission européenne, en introduisant notamment des règles spécifiques applicables aux systèmes d'IA générative (la proposition du Parlement). L'IA générative entre dans la catégorie des «systèmes d'IA à usage général »qui doivent se conformer à des exigences de transparence, notamment en divulguant que le contenu a été généré par l'IA. Le respect de ces obligations réglementaires peut être simplifié grâce à une plateforme de modération de contenu conforme dès sa conception, telle que la plateforme de modération de Tremau.

De nombreuses entreprises ont pris conscience que se préparer aux défis et aux risques liés à l'IA n'est pas seulement une question de réglementation. Le développement rapide de l'IA pose des défis en matière de sécurité des marques et de santé des plateformes. Il est donc essentiel d'être conscient de la manière dont les acteurs malveillants utilisent le contenu IA à des fins de spam et de désinformation, et d'utiliser des outils pour les empêcher d'accéder à votre plateforme.

Pour toutes ces raisons, et dans le cadre de notre mission visant à créer un monde numérique sûr et bénéfique pour tous, Tremau et Pangram Labs s'associent pour fournir des services de détection de contenu généré par l'IA et de divulgation d'informations relatives à l'IA pour le contenu généré par les utilisateurs. Ainsi, les plateformes peuvent rester conformes et préserver l'authenticité du contenu généré par leurs utilisateurs.

Comment pouvons-nous vous aider ?

Pangram Labs développe des outils permettant d'automatiser la détection des contenus générés par l'IA, en commençant par les textes et les discours.

Tremau vous aide à naviguer au mieux dans le nouveau monde de l'IA puissante et des nouvelles réglementations. Pour en savoir plus, rendez-vous sur tremau.com.

Pour en savoir plus, contactez-nous à l'adresse info@pangram.com et info@tremau.com.