Compreender a nova lei da UE sobre IA

Foto de Angel Bena.

Na semana passada, o Parlamento Europeu aprovou a Lei sobre Inteligência Artificial (Lei IA), um quadro abrangente que os Estados-Membros da UE deverão seguir na regulamentação de produtos e serviços de IA.

A Lei da IA destina-se a funcionar como legislação de segurança do consumidor, adotando uma «abordagem baseada no risco» em relação aos produtos ou serviços que utilizam inteligência artificial — quanto mais arriscada for uma aplicação de IA, maior será o escrutínio a que será submetida. Os níveis de risco são divididos em diferentes categorias, incluindo:

• Os sistemas de IA que utilizem «técnicas subliminares, manipuladoras ou enganosas para distorcer comportamentos e prejudicar a tomada de decisões informadas», ou que representem um «risco claro para os direitos humanos fundamentais», serão considerados «Risco Inaceitável» e serão proibidos.
• Os sistemas de IA considerados de «alto risco», tais como os utilizados em infraestruturas críticas, educação, cuidados de saúde, aplicação da lei, gestão de fronteiras ou eleições, terão de cumprir requisitos rigorosos.
• Os sistemas de IA de uso geral que não se enquadrem nas categorias de alto risco serão considerados de risco limitado e estarão sujeitos a obrigações de transparência menos rigorosas. As aplicações de IA generativa serão consideradas sistemas de IA de uso geral.

Tanto os produtores (como a OpenAI e a Google) como os utilizadores (empresas que utilizam essas aplicações) terão de passar por testes de precisão e transparência, para que os utilizadores finais (consumidores) tenham consciência de que estão a interagir com IA. As empresas que não cumprirem estes novos requisitos enfrentam multas que podem ir até 35 milhões de euros ou 7 % do seu volume de negócios anual global.

O que é que isto significa para as plataformas online?

Qualquer empresa, independentemente da sua localização, que tenha utilizadores finais na UE e recorra a sistemas de IA no seu produto estará sujeita à Lei da IA. Embora se trate de um âmbito de aplicação alargado e com alguma ambiguidade, é evidente que as plataformas online que utilizem ou publiquem conteúdos de IA terão de cumprir estas novas obrigações regulamentares.

Com muitas plataformas de conteúdo gerado pelos utilizadores a registarem um aumento na publicação de conteúdo gerado por IA, é provável que a maioria dos sites online (por exemplo, editoras, plataformas de comércio eletrónico e redes sociais) tenha de implementar medidas de transparência e controlo de moderação, incluindo:

• Indicar se o conteúdo gerado ou publicado na plataforma foi criado por IA.
• Conceber a plataforma de forma a rejeitar envios ilegais gerados por IA.
• Publicação de resumos de dados protegidos por direitos de autor utilizados para treinar modelos internos.

A identificação e, por extensão, a deteção de conteúdos gerados por IA passarão a ser obrigatórias caso esses conteúdos sejam divulgados em plataformas de conteúdos. Isto aplica-se a qualquer tipo de conteúdo — texto, áudio, imagens e vídeos:

«Os fornecedores de sistemas de IA, incluindo sistemas de IA de uso geral, que gerem conteúdos sintéticos de áudio, imagem, vídeo ou texto, devem assegurar que os resultados do sistema de IA sejam identificados num formato legível por máquina e que sejam detetáveis como tendo sido gerados ou manipulados artificialmente.»

Embora apoiemos a intenção legislativa da UE de promover sistemas de IA seguros, reconhecemos também que a interpretação e o cumprimento desta lei podem ser confusos para as empresas. Estas obrigações podem parecer bastante ambíguas, e a Lei da IA não especifica se os tipos de conteúdo secundários (como avaliações ou comentários dos utilizadores) estão sujeitos a estes requisitos, nem quais as verificações de conformidade que as empresas terão de implementar.

Como podem as empresas antecipar-se à Lei da IA?

A boa notícia é que as empresas terão tempo para desenvolver soluções que lhes permitam cumprir os requisitos. Prevê-se que a lei entre em vigor até maio, e as suas disposições começarão a ser aplicadas por fases, sendo que muitos dos requisitos de transparência só passarão a ser aplicáveis daqui a um ano.

Dito isto, acreditamos que existem certas medidas que as empresas podem tomar agora para se anteciparem a qualquer aplicação da lei. Em particular, as empresas devem procurar desenvolver:

• Diretrizes claras e uma estrutura de gestão em torno do conteúdo gerado pelos utilizadores.
• Fluxos de trabalho de moderação de conteúdos mais eficientes para identificar conteúdos gerados por IA.
• Automatizações para impedir a disseminação de conteúdos gerados por IA.

Já estamos a ver algumas empresas a tomar medidas — algumas plataformas, como o YouTube e o Instagram, estão a pedir aos utilizadores que indiquem quando publicam conteúdos «realistas» gerados por IA. Não é claro se este «sistema de confiança» será suficiente para cumprir a lei, mas trata-se de um forte sinal de que os líderes do setor estão a levar a sério esta legislação e a segurança da IA.

Na Pangram Labs, estamos a trabalhar arduamente para desenvolver os melhores sistemas de deteção baseados em IA, para que as empresas possam gerir plataformas online seguras e responsáveis. Sentimo-nos encorajados pelo objetivo da UE de promover a transparência na Internet e estamos ansiosos por colaborar com investigadores e decisores políticos para concretizar estas importantes normas.

Quer entrar em contacto connosco? Envie-nos um e-mail para info@pangram.com!