Meta va commencer à identifier les contenus générés par l'IA

Image fournie par Meta

Aperçu

En réponse aux nouvelles réglementations sur l'IA adoptées en Europe, nous avons publié une analyse dans laquelle nous prédisions que les grandes entreprises commenceraient à prendre des mesures en faveur de la transparence de l'IA. Le mois dernier, nous avons vu cette prédiction se réaliser : Meta a annoncé dans un article de blog qu'elle « commencerait à apposer la mention « Créé avec l'IA » sur un plus large éventail de contenus vidéo, audio et visuels ».

Nous espérons que cette annonce incitera d'autres entreprises à prendre conscience des risques que présente le contenu généré par l'IA, notamment en ce qui concerne la désinformation et les images et vidéos issues de deepfakes. Dans son communiqué, l'entreprise a annoncé plusieurs mesures qu'elle compte mettre en œuvre :

Meta prévoit de développer des outils internes permettant d'identifier à grande échelle les contenus générés par l'IA lorsqu'ils apparaissent sur Facebook, Instagram et Threads.

Le contenu à étiqueter comprendra des contenus générés par l'IA provenant de Google, OpenAI, Microsoft, Adobe, Midjourney et d'autres.

Cette mesure permettra aux utilisateurs d'indiquer volontairement, lorsqu'ils publient du contenu généré par l'IA, qu'il s'agit d'un contenu de ce type, tout en sanctionnant les comptes qui ne signalent pas les contenus générés par l'IA qu'ils partagent.

Ces mesures constituent un excellent point de départ et ont été élaborées en concertation avec un groupe diversifié de parties prenantes par l'intermédiaire du comité de surveillance des contenus de Meta. À l'issue de consultations menées auprès de décideurs politiques internationaux et d'une enquête menée auprès de plus de 23 000 utilisateurs, Meta a constaté qu'une écrasante majorité (82 %) était favorable à ces mentions relatives à l'IA, en particulier pour les « contenus montrant des personnes prononçant des propos qu'elles n'ont pas tenus ».

Prendre du recul

À l'approche des élections de 2024, il apparaît clairement que Meta a tiré les leçons qui s'imposaient des élections américaines de 2016 et 2020, et qu'elle investit dans les systèmes adéquats pour mieux protéger ses utilisateurs contre une vague croissante de désinformation générée par l'IA. Ce n'est pas non plus un hasard si Meta cherche à mettre en œuvre ces mesures avant l'entrée en vigueur, en mai, de la loi européenne sur l'IA.

Les décisions et l'initiative de Meta auront sans aucun doute une influence sur la manière dont les autres entreprises commenceront à envisager les risques liés à leurs propres plateformes. Lors d'une table ronde au Forum économique mondial, le président des affaires internationales de Meta a déjà qualifié la lutte contre les contenus générés artificiellement de « tâche la plus urgente » à laquelle le secteur technologique est confronté aujourd'hui.

Comment les autres entreprises peuvent-elles suivre ces recommandations pour à la fois protéger leurs plateformes contre l'utilisation abusive de fausses informations et se conformer à la nouvelle réglementation européenne ? Voici quelques pistes :

• Les responsables des plateformes devraient établir des politiques en matière de contenu conformes à la réglementation afin de faciliter l'identification et le traitement des contenus générés par l'IA.
• Développer des fonctionnalités permettant aux utilisateurs de signaler les contenus générés par l'IA, ou tout au moins de les marquer comme tels, afin d'en limiter la diffusion et de réduire le risque qu'ils représentent pour les autres utilisateurs.
• Utilisez les outils de détection de contenu généré par l'IA de Pangram Labs pour signaler de manière proactive les contenus générés par l'IA en vue de leur examen.

Pangram Labs développe les meilleurs systèmes de détection basés sur l'IA afin de permettre aux entreprises de gérer des plateformes en ligne sûres et responsables. Si vous souhaitez prendre des mesures proactives et montrer la voie en matière d'intégrité des plateformes et de conformité réglementaire, contactez-nous à l'adresse info@pangram.com!

Pour avoir une vue d'ensemble de l'évolution du tatouage numérique par IA depuis cette annonce, découvrez pourquoi les géants de la tech sont en train de perdre la bataille du tatouage numérique.