À medida que nos aproximamos do que se prevê ser o maior ano eleitoral da história, a interseção entre tecnologia e democracia volta a assumir um papel central. Mais de 50 países em todo o mundo, com uma população combinada de cerca de 4,2 mil milhões de pessoas, realizarão eleições nacionais e regionais em 2024, incluindo sete das dez nações mais populosas do mundo. Com o rápido avanço da IA generativa, que permite a qualquer pessoa criar imagens, vídeos, áudio ou texto realistas com base em instruções fornecidas pelo utilizador, os processos eleitorais podem enfrentar novos desafios.
A IA generativa tem vindo a suscitar atenção devido ao seu potencial para influenciar a opinião pública e, consequentemente, afetar debates e decisões. Desde vídeos deepfake até campanhas «inteligentes» direcionadas e geradas por IA em grande escala, a utilização de técnicas de IA generativa pode representar ameaças significativas à integridade dos processos democráticos. Estes riscos podem assumir diversas formas, incluindo tentativas de última hora para dissuadir as pessoas de votar, criar um evento com uma representação gerada de um candidato que seja difícil de desmascarar ou divulgar notícias falsas direcionadas.
O que é que isto significa para as plataformas online? Simplesmente: evitem questões incómodas relacionadas com a responsabilização pela divulgação de conteúdo questionável gerado por IA na vossa plataforma, especialmente face a potenciais escândalos, e melhorem as vossas operações de confiança e segurança para lidar com novas ameaças potenciais. A Pangram Labs está a desenvolver os métodos mais precisos de deteção de conteúdo gerado por IA para automatizar a identificação e moderação de conteúdo de IA. Combinado com tecnologias «human-in-the-loop» possibilitadas pela Tremau, este é um processo eficaz para controlar e moderar o conteúdo de IA antes que este ameace a integridade de uma plataforma ou de eleições.
Quando a Comissão Europeia apresentou pela primeira vez a sua proposta de Lei sobre IA, em abril de 2021, a IA generativa estava longe de ser uma preocupação urgente para os reguladores. Tudo isso mudou com os recentes avanços na IA, como o GPT-4. Por esse motivo, o Parlamento Europeu alterou substancialmente a proposta inicial da Comissão Europeia, introduzindo, nomeadamente, regras específicas aplicáveis aos sistemas de IA generativa (a Proposta do Parlamento). A IA generativa enquadra-se na categoria de«Sistemas de IA de Finalidade Geral», que têm de cumprir requisitos de transparência, incluindo a divulgação de que o conteúdo foi gerado por IA. O cumprimento destas obrigações regulamentares pode ser simplificado com uma plataforma de moderação de conteúdos concebida para garantir a conformidade, como a plataforma de moderação da Tremau.
Muitas empresas já reconheceram que a preparação para os desafios e riscos associados à IA não é apenas uma questão regulamentar. O rápido desenvolvimento da IA coloca desafios à segurança da marca e à integridade da plataforma; por isso, é essencial estar ciente de como os malfeitores utilizam conteúdos gerados por IA para fins de spam e desinformação, e recorrer a ferramentas para impedir que esses conteúdos cheguem à sua plataforma.
Por todas estas razões, e no âmbito da nossa missão de construir um mundo digital seguro e benéfico para todos, a Tremau e a Pangram Labs estabeleceram uma parceria para fornecer serviços de deteção de conteúdos gerados por IA e de divulgação de informações sobre IA no que diz respeito a conteúdos gerados pelos utilizadores. Desta forma, as plataformas podem manter a conformidade e garantir a autenticidade dos conteúdos gerados pelos seus utilizadores.
Em que podemos ajudá-lo?
A Pangram Labs está a desenvolver ferramentas para automatizar a deteção de conteúdos gerados por IA, começando pelo texto e pela voz.
A Tremau ajuda-o a orientar-se melhor no novo mundo da IA avançada e das novas regulamentações. Saiba mais em tremau.com.
Para saber mais, contacte-nos através do e-mail info@pangram.com e do site info@tremau.com.
O Max é um engenheiro experiente na área do aprendizado de máquina. Mais recentemente, trabalhou no setor de veículos autónomos na Nuro, liderando a iniciativa de aprendizado ativo da empresa. Tem um longo historial de implementação de produtos de aprendizado de máquina de sucesso na Google, na Two Sigma e na Yelp.
O Max é licenciado em Ciência da Computação Teórica e mestre em Inteligência Artificial pela Universidade de Stanford. Para além da sua paixão pela construção, é também um membro ativo da comunidade de cubos de Magic: The Gathering.
Leitura relacionada
Como os estudantes tentam evitar a deteção por IA
O Pangram detecta o Gemini 3?
Mais do que o ChatGPT: os navegadores «agenticos» representam um risco para as universidades
Apresentamos a Identificação por IA: o Pangram consegue distinguir os diferentes LLMs uns dos outros
Por que é que o Pangram tem um número mínimo de palavras?
Pangram Space: um projeto de investigação interativo
para receber as nossas atualizações
