Comprendre la nouvelle législation de l'UE sur l'IA

Photo d'Angel Bena.

La semaine dernière, le Parlement européen a adopté la loi sur l'intelligence artificielle (AI Act), un cadre global destiné à guider les États membres de l'UE dans la réglementation des produits et services liés à l'intelligence artificielle.

La loi sur l'IA vise à garantir la sécurité des consommateurs en adoptant une « approche fondée sur les risques » pour les produits ou services qui utilisent l'intelligence artificielle : plus une application d'IA présente de risques, plus elle fait l'objet d'un examen minutieux. Les niveaux de risque sont classés en différentes catégories, notamment :

• Les systèmes d'IA qui recourent à « des techniques subliminales, manipulatrices ou trompeuses visant à fausser les comportements et à nuire à la prise de décision éclairée », ou qui présentent un « risque manifeste pour les droits fondamentaux de l'homme », seront considérés comme présentant un « risque inacceptable » et seront interdits.
• Les systèmes d'IA considérés comme « à haut risque », tels que ceux utilisés dans les infrastructures critiques, l'éducation, les soins de santé, les forces de l'ordre, la gestion des frontières ou les élections, devront se conformer à des exigences strictes.
• Les systèmes d'IA à usage général qui n'entrent pas dans les catégories à haut risque seront considérés comme présentant un risque limité et seront soumis à des obligations de transparence moins strictes. Les applications d'IA générative seront considérées comme des systèmes d'IA à usage général.

Les producteurs (tels qu'OpenAI ou Google) et les utilisateurs (les entreprises qui utilisent ces applications) devront tous se soumettre à des tests de précision et de transparence afin que les utilisateurs finaux (les consommateurs) sachent qu'ils interagissent avec une IA. Les entreprises qui ne se conformeront pas à ces nouvelles exigences s'exposent à des amendes pouvant atteindre 35 millions d'euros ou 7 % de leur chiffre d'affaires annuel mondial.

Quelles sont les implications pour les plateformes en ligne ?

Toute entreprise, quel que soit son lieu d'implantation, qui compte des utilisateurs finaux dans l'Union européenne et qui intègre des systèmes d'IA dans ses produits sera soumise à la loi sur l'IA. Bien que ce champ d'application soit large et comporte une certaine ambiguïté, il est clair que les plateformes en ligne qui utilisent ou publient du contenu généré par l'IA devront se conformer à ces nouvelles obligations réglementaires.

Alors que de nombreuses plateformes de contenu généré par les utilisateurs constatent une augmentation des publications issues de l'IA, la plupart des sites en ligne (par exemple, les éditeurs, les places de marché et les réseaux sociaux) devront probablement mettre en place des mesures de transparence et de modération, notamment :

• Indiquer si le contenu généré ou publié sur la plateforme a été créé par une IA.
• Concevoir la plateforme de manière à rejeter les soumissions illégales générées par l'IA.
• Publication de résumés des données protégées par le droit d'auteur utilisées pour l'entraînement de modèles développés en interne.

L'étiquetage, et par conséquent la détection, des contenus générés par l'IA sera désormais obligatoire si ces contenus sont diffusés sur des plateformes de contenu. Cette mesure s'applique à toute forme de contenu : texte, audio, images et vidéos :

« Les fournisseurs de systèmes d'IA, y compris les systèmes d'IA à usage général, qui génèrent des contenus audio, visuels, vidéo ou textuels synthétiques, doivent veiller à ce que les résultats produits par le système d'IA soient marqués dans un format lisible par machine et identifiables comme étant générés ou manipulés artificiellement. »

Si nous soutenons l'intention législative de l'UE visant à promouvoir des systèmes d'IA sûrs, nous reconnaissons également que l'interprétation et le respect de cette loi peuvent s'avérer source de confusion pour les entreprises. Ces obligations peuvent sembler assez ambiguës, et la loi sur l'IA ne précise pas clairement si les contenus de nature secondaire (tels que les avis ou les commentaires des utilisateurs) sont soumis à ces exigences, ni quels contrôles de conformité les entreprises devront mettre en place.

Comment les entreprises peuvent-elles anticiper la loi sur l'IA ?

La bonne nouvelle, c'est que les entreprises auront le temps de mettre au point des solutions pour se mettre en conformité. La loi devrait être promulguée d'ici mai, et ses dispositions entreront en vigueur par étapes ; bon nombre des exigences en matière de transparence ne s'appliqueront d'ailleurs qu'à partir de l'année prochaine.

Cela dit, nous estimons que les entreprises peuvent dès à présent prendre certaines mesures pour anticiper toute application de la loi. Elles devraient notamment s'attacher à mettre en place :

• Des directives et un cadre de gouvernance clairs concernant les contenus générés par les utilisateurs.
• Des processus de modération de contenu plus efficaces pour identifier les contenus générés par l'IA.
• Des automatisations visant à empêcher la diffusion de contenus générés par l'IA.

On constate déjà que certaines entreprises prennent des mesures : des plateformes telles que YouTube et Instagram demandent à leurs utilisateurs de signaler eux-mêmes lorsqu’ils publient du contenu « réaliste » généré par l’IA. On ne sait pas encore si ce « système de confiance » sera suffisant pour se conformer à la loi, mais cela montre clairement que les leaders du secteur prennent cette législation et la sécurité de l’IA très au sérieux.

Chez Pangram Labs, nous mettons tout en œuvre pour développer les meilleurs systèmes de détection basés sur l'IA afin de permettre aux entreprises d'exploiter des plateformes en ligne sûres et responsables. Nous saluons l'objectif de transparence sur Internet fixé par l'Union européenne et nous nous réjouissons de collaborer avec les chercheurs et les décideurs politiques pour concrétiser ces normes essentielles.

Vous souhaitez nous contacter ? Envoyez-nous un e-mail à l'adresse info@pangram.com!