Tremau e Pangram Labs fazem parceria para lidar com conteúdo gerado por IA

À medida que nos aproximamos do maior ano eleitoral da história, a interseção entre tecnologia e democracia volta a ocupar o centro das atenções. Mais de 50 países em todo o mundo, com uma população combinada de cerca de 4,2 mil milhões de pessoas, realizarão eleições nacionais e regionais em 2024, incluindo sete das dez nações mais populosas do mundo. Com o rápido avanço da IA generativa, que permite a qualquer pessoa criar imagens, vídeos, áudios ou textos realistas com base em prompts fornecidos pelo utilizador, os processos eleitorais podem enfrentar novos desafios.

A IA generativa tem chamado a atenção pelo seu potencial de influenciar a opinião pública e, consequentemente, impactar debates e decisões. De vídeos deepfake a campanhas «inteligentes» direcionadas e geradas por IA em grande escala, a implantação de técnicas de IA generativa pode representar ameaças significativas à integridade dos processos democráticos. Esses riscos podem assumir várias formas, incluindo tentativas de última hora para dissuadir as pessoas de votar ou fabricar um evento com uma representação gerada de um candidato que seja difícil de desmascarar, ou espalhar histórias falsas direcionadas.

O que isso significa para as plataformas online? Simplesmente: evitar perguntas incómodas sobre a responsabilidade pela disseminação de conteúdo questionável gerado por IA na sua plataforma, especialmente diante de possíveis escândalos, e melhorar as suas operações de confiança e segurança para lidar com possíveis novas ameaças. A Pangram Labs está a desenvolver os métodos mais precisos de deteção de conteúdo gerado por IA para automatizar a identificação e moderação de conteúdo de IA. Combinado com tecnologias human-in-the-loop habilitadas pela Tremau, este é um processo eficaz para controlar e moderar o conteúdo de IA antes que ele ameace a integridade de uma plataforma ou eleição.

Quando a Comissão Europeia divulgou pela primeira vez a sua proposta para uma Lei de IA em abril de 2021, a IA generativa estava longe de ser uma preocupação urgente dos reguladores. Tudo isso mudou com os recentes avanços em IA, como o GPT-4. Por causa disso, o Parlamento Europeu alterou substancialmente a proposta inicial da Comissão Europeia, introduzindo, nomeadamente, regras específicas que se aplicam aos sistemas de IA generativa (a Proposta do Parlamento). A IA generativa enquadra-se na categoria de«Sistemas de IA de Finalidade Geral», que têm de cumprir requisitos de transparência, incluindo a divulgação de que o conteúdo foi gerado por IA. O cumprimento destas obrigações regulamentares pode ser simplificado com uma plataforma de moderação de conteúdo compatível por design, como a plataforma de moderação da Tremau.

Muitas empresas reconheceram que a preparação para os desafios e riscos da IA não é apenas uma questão regulatória. O rápido desenvolvimento da IA representa desafios para a segurança da marca e a saúde da plataforma. Por isso, é essencial estar ciente de como os agentes mal-intencionados utilizam o conteúdo de IA para spam e desinformação e usar ferramentas para mantê-lo fora da sua plataforma.

Por todas essas razões, e como parte da nossa missão de construir um mundo digital seguro e benéfico para todos, a Tremau e a Pangram Labs estão a estabelecer uma parceria para fornecer deteção de conteúdo gerado por IA e divulgações de IA para conteúdo gerado pelo utilizador. Dessa forma, as plataformas podem permanecer em conformidade e manter a autenticidade do conteúdo gerado pelos utilizadores.

Como podemos ajudá-lo?

A Pangram Labs está a desenvolver ferramentas para automatizar a deteção de conteúdo gerado por IA, começando por texto e voz.

A Tremau trabalha para ajudá-lo a navegar melhor pelo novo mundo da poderosa IA e das novas regulamentações. Saiba mais em tremau.com.

Para saber mais, contacte-nos através dos endereços info@pangram.com e info@tremau.com.