Declaração sobre o decreto presidencial de Biden relativo à segurança da IA

NOTA: Mudámos o nosso nome para Pangram Labs! Consulte a nossa publicação no blogue para mais detalhes.

Hoje, a administração Biden publicou novas normas relativas à segurança e proteção da IA, incluindo esta diretiva sobre a deteção de conteúdos por IA:

O Departamento do Comércio irá elaborar orientações sobre a autenticação de conteúdos e a aplicação de marcas de água, com o objetivo de identificar claramente os conteúdos gerados por IA. As agências federais utilizarão estas ferramentas para facilitar aos cidadãos americanos a verificação da autenticidade das comunicações que recebem do seu governo — e para dar o exemplo ao setor privado e aos governos de todo o mundo.

Joe Biden, do site ai.gov.

A Checkfor.ai apoia plenamente o compromisso da administração Biden com a implementação segura e responsável de grandes modelos de linguagem. Acreditamos que o desenvolvimento de diretrizes e políticas em torno da autenticação de conteúdos de IA constitui um passo importante na direção certa para a segurança da IA e está em consonância com a nossa missão de proteger a Internet contra spam e outros conteúdos maliciosos gerados por grandes modelos de linguagem. O mundo ficará melhor, tanto para os consumidores como para os utilizadores da tecnologia de IA, se nós, enquanto sociedade, investirmos mais fortemente na deteção de conteúdos gerados por IA. Hoje, gostaríamos de divulgar uma declaração sobre a nossa posição enquanto empresa relativamente à autenticação, marcação de água e deteção de conteúdos.

• Acreditamos que nenhuma solução de deteção existente é suficiente para resolver o problema neste momento, e que devemos investir mais recursos na resolução específica da deteção por IA.
• Acreditamos que a marca d'água não é a solução para este problema, uma vez que promove uma falsa sensação de segurança e apresenta limitações comprovadas quando um utilizador tem acesso aos pesos do modelo ou a capacidade de editar o resultado (https://arxiv.org/pdf/2305.03807.pdf, https://arxiv.org/pdf/2301.10226.pdf). Já existem modelos de código aberto potentes e capazes sem marca d'água, e os malfeitores poderão sempre ajustar localmente as suas próprias versões destes modelos para evitar a deteção. Além disso, acreditamos que o problema da deteção é solucionável mesmo em modelos sem marca d'água.
• Apoiamos a regulamentação em matéria de segurança da IA e o desenvolvimento de modelos linguísticos de grande dimensão, com a condição fundamental de que toda a regulamentação deve apoiar o ecossistema de código aberto. O código aberto proporciona um sistema de equilíbrio de poderes face às poderosas empresas tecnológicas, garante transparência aos consumidores e permite ao público avaliar, criticar e comparar livremente esses modelos.
• Acreditamos que o papel do governo na promoção da segurança da IA e no investimento na investigação sobre a deteção de IA deve centrar-se no financiamento de projetos tanto académicos como industriais neste domínio.
• Para promover uma investigação eficaz na área da deteção de IA, devemos estabelecer referências e critérios de avaliação, de modo a que os consumidores possam estar cientes da eficácia e das limitações dos detetores de IA disponíveis. Estamos empenhados em desenvolver e contribuir para a definição de normas setoriais na deteção de IA, para que modelos de linguagem cada vez maiores e mais poderosos possam ser implementados de forma segura e responsável.

Na Checkfor.ai, estamos a trabalhar arduamente para criar sistemas de deteção de IA fiáveis, para que os modelos linguísticos da próxima geração possam ser implementados de forma segura e produtiva. Estamos entusiasmados com o compromisso da administração Biden em distinguir o conteúdo gerado por humanos do gerado por IA e estamos ansiosos por colaborar com investigadores e decisores políticos no desenvolvimento destas importantes normas.