A Meta vai começar a identificar conteúdos gerados por IA

Imagem da Meta

Visão geral

Em resposta às novas regulamentações sobre IA aprovadas na Europa, publicámos a nossa análise, na qual prevíamos que as principais empresas começariam a tomar medidas no que diz respeito à transparência da IA. No mês passado, começámos a ver essa previsão concretizar-se — a Meta anunciou num blogue que «começará a identificar uma gama mais ampla de conteúdos de vídeo, áudio e imagem com a menção “Criado com IA”».

Esperamos que este anúncio seja um sinal de que outras empresas comecem a perceber o risco que o conteúdo gerado por IA representa, especialmente no que diz respeito à desinformação e às imagens e vídeos falsificados com tecnologia deepfake. Na publicação, a empresa anunciou várias medidas que tenciona tomar:

A Meta planeia desenvolver ferramentas internas para identificar, em grande escala, conteúdos gerados por IA quando estes aparecem no Facebook, no Instagram e no Threads.

O conteúdo a ser etiquetado incluirá conteúdo gerado por IA do Google, OpenAI, Microsoft, Adobe, Midjourney e outros.

Isto irá permitir que os utilizadores indiquem voluntariamente quando publicam conteúdos gerados por IA, ao mesmo tempo que penaliza as contas que não revelam que os conteúdos partilhados foram criados por IA.

Estas medidas constituem um excelente ponto de partida e foram definidas com base nas opiniões de um grupo diversificado de partes interessadas, através do conselho de supervisão de conteúdos da Meta. Após concluir consultas com decisores políticos internacionais e realizar um inquérito a mais de 23 mil utilizadores, a Meta constatou que uma esmagadora maioria (82 %) se mostrou favorável a estas divulgações relativas à IA, especialmente no que diz respeito a «conteúdos que retratam pessoas a dizer coisas que não disseram».

Alargar a imagem

Na véspera das eleições de 2024, é evidente que a Meta retirou as lições certas das eleições norte-americanas de 2016 e 2020 e está a investir nos sistemas adequados para proteger melhor os seus utilizadores contra uma onda crescente de desinformação amplificada pela IA. Também não é por acaso que a Meta pretende implementar estas políticas antes da entrada em vigor da Lei da IA da UE, em maio.

As decisões e a liderança da Meta irão, sem dúvida, influenciar a forma como outras empresas começam a encarar os riscos das suas próprias plataformas. Num painel no Fórum Económico Mundial, o presidente de Assuntos Globais da Meta já referiu que o esforço para detetar conteúdos gerados artificialmente é «a tarefa mais urgente» que a indústria tecnológica enfrenta atualmente.

Então, como podem outras empresas seguir estas orientações para, por um lado, protegerem as suas plataformas contra o uso indevido de desinformação e, por outro, manterem a conformidade com a nova regulamentação da UE? Aqui ficam algumas sugestões:

• Os responsáveis pelas plataformas devem definir políticas de conteúdo em conformidade com a regulamentação, de modo a facilitar a identificação e a avaliação do conteúdo gerado por IA.
• Desenvolver funcionalidades do produto que permitam aos utilizadores identificar conteúdos gerados por IA ou, no mínimo, assinalar esses conteúdos, de modo a mitigar a sua disseminação e a ameaça que representam para outros utilizadores.
• Utilize os produtos de deteção de conteúdos gerados por IA da Pangram Labs para sinalizar proativamente os conteúdos gerados por IA para revisão.

A Pangram Labs está a desenvolver os melhores sistemas de deteção baseados em IA para que as empresas possam gerir plataformas online seguras e responsáveis. Se pretende tomar medidas proativas e ser pioneiro em matéria de integridade das plataformas e conformidade regulamentar, entre em contacto connosco através do endereço info@pangram.com!

Para uma análise mais abrangente do desempenho da marca d'água com IA desde este anúncio, veja por que razão as grandes empresas tecnológicas estão a perder a aposta na marca d'água.