Comprender la nueva ley de la UE sobre la inteligencia artificial

Foto de Ángel Bena.

La semana pasada, el Parlamento Europeo aprobó la Ley de Inteligencia Artificial (AI Act), un marco global que los Estados miembros de la UE deberán seguir a la hora de regular los productos y servicios de inteligencia artificial.

La Ley de IA tiene por objeto servir como legislación en materia de seguridad del consumidor, adoptando un «enfoque basado en el riesgo» para los productos o servicios que utilizan inteligencia artificial: cuanto mayor sea el riesgo de una aplicación de IA, mayor será el escrutinio al que se someta. Los niveles de riesgo se clasifican en diferentes categorías, entre las que se incluyen:

• Los sistemas de IA que utilicen «técnicas subliminales, manipuladoras o engañosas para distorsionar el comportamiento y obstaculizar la toma de decisiones informadas», o que supongan un «riesgo claro para los derechos humanos fundamentales», se considerarán un «riesgo inaceptable» y quedarán prohibidos.
• Los sistemas de inteligencia artificial considerados de «alto riesgo», como los que se utilizan en infraestructuras críticas, educación, sanidad, fuerzas del orden, gestión de fronteras o procesos electorales, deberán cumplir unos requisitos estrictos.
• Los sistemas de IA de uso general que no entren en las categorías de alto riesgo se considerarán de riesgo limitado y estarán sujetos a obligaciones de transparencia menos estrictas. Las aplicaciones de IA generativa se considerarán sistemas de IA de uso general.

Tanto los productores (como OpenAI o Google) como los usuarios (las empresas que utilizan esas aplicaciones) deberán superar pruebas de precisión y transparencia, de modo que los usuarios finales (los consumidores) sean conscientes de que están interactuando con la IA. Las empresas que no cumplan estos nuevos requisitos se enfrentan a multas de hasta 35 millones de euros o el 7 % de su facturación anual mundial.

¿Qué significa esto para las plataformas en línea?

Cualquier empresa, independientemente de su sede, que tenga usuarios finales en la UE y utilice sistemas de inteligencia artificial en su producto estará sujeta a la Ley de IA. Aunque se trata de un ámbito de aplicación amplio y con cierta ambigüedad, está claro que las plataformas en línea que utilicen o publiquen contenidos de inteligencia artificial deberán cumplir estas nuevas obligaciones normativas.

Dado que en muchas plataformas de contenido generado por los usuarios se está observando un aumento de las publicaciones generadas por IA, es probable que la mayoría de los sitios web (por ejemplo, editoriales, mercados online y redes sociales) tengan que establecer medidas de transparencia y moderación, entre las que se incluyen:

• Indicar si el contenido generado o publicado en la plataforma ha sido creado por IA.
• Diseñar la plataforma para rechazar las publicaciones ilegales generadas por IA.
• Publicación de resúmenes de los datos protegidos por derechos de autor utilizados para entrenar modelos internos.

A partir de ahora, será obligatorio etiquetar —y, por extensión, detectar— el contenido generado por IA si dicho contenido se difunde en plataformas de contenido. Esto se aplica a cualquier tipo de contenido: texto, audio, imágenes y vídeos:

«Los proveedores de sistemas de inteligencia artificial, incluidos los sistemas de inteligencia artificial de uso general, que generen contenidos sintéticos de audio, imagen, vídeo o texto, deberán garantizar que los resultados del sistema de inteligencia artificial se identifiquen en un formato legible por máquina y sean detectables como generados o manipulados artificialmente».

Si bien apoyamos la intención legislativa de la UE de promover sistemas de IA seguros, también reconocemos que a las empresas les puede resultar confuso interpretar y cumplir esta ley. Estas obligaciones pueden parecer bastante ambiguas, y la Ley de IA no especifica si los contenidos de carácter secundario (como las reseñas o los comentarios de los usuarios) están sujetos a estos requisitos, ni qué controles de cumplimiento deberán incorporar las empresas.

¿Cómo pueden las empresas adelantarse a la Ley de IA?

La buena noticia es que las empresas tendrán tiempo para desarrollar soluciones que les permitan cumplir con la normativa. Se prevé que la ley entre en vigor en mayo, y sus disposiciones comenzarán a aplicarse por fases, ya que muchos de los requisitos de transparencia no se aplicarán hasta dentro de un año.

Dicho esto, creemos que hay ciertas medidas que las empresas pueden adoptar ahora para adelantarse a cualquier aplicación de la ley. En particular, las empresas deberían plantearse desarrollar:

• Directrices y normas claras en materia de contenidos generados por los usuarios.
• Flujos de trabajo de moderación de contenidos más eficientes para identificar los contenidos generados por IA.
• Automatizaciones para evitar la difusión de contenidos generados por IA.

Ya estamos viendo cómo algunas empresas están tomando medidas: plataformas como YouTube e Instagram están pidiendo a los usuarios que avisen por sí mismos cuando suban contenido «realista» generado por IA. No está claro si este «sistema de confianza» será suficiente para cumplir con la ley, pero es una señal clara de que los líderes del sector se están tomando en serio esta legislación y la seguridad de la IA.

En Pangram Labs, trabajamos sin descanso para desarrollar los mejores sistemas de detección basados en inteligencia artificial, con el fin de que las empresas puedan gestionar plataformas en línea seguras y responsables. Nos alienta el objetivo de la UE de lograr la transparencia en Internet y esperamos con interés colaborar con investigadores y responsables políticos para concretar estas importantes normas.

¿Quieres ponerte en contacto con nosotros? ¡Envíanos un correo electrónico a info@pangram.com!