Declaración sobre el decreto ejecutivo de Biden sobre la seguridad de la inteligencia artificial

NOTA: ¡Hemos cambiado nuestro nombre a Pangram Labs! Consulta nuestra entrada del blog para obtener más detalles.

Hoy, la Administración Biden ha publicado nuevas normas sobre seguridad y protección en materia de inteligencia artificial, entre las que se incluye esta directiva sobre la detección de contenidos mediante inteligencia artificial:

El Departamento de Comercio elaborará directrices sobre la autenticación de contenidos y el uso de marcas de agua para identificar claramente los contenidos generados por inteligencia artificial. Las agencias federales utilizarán estas herramientas para que los estadounidenses puedan saber fácilmente que las comunicaciones que reciben de su Gobierno son auténticas, y para dar ejemplo al sector privado y a los gobiernos de todo el mundo.

Joe Biden, de ai.gov.

Checkfor.ai respalda plenamente el compromiso de la administración Biden con el despliegue seguro y responsable de los grandes modelos de lenguaje. Creemos que el desarrollo de directrices y políticas en torno a la autenticación de contenidos generados por IA constituye un paso importante en la dirección correcta para la seguridad de la IA y está en consonancia con nuestra misión de proteger Internet del spam y otros contenidos maliciosos generados por los grandes modelos de lenguaje. El mundo será un lugar mejor, tanto para los consumidores como para los usuarios de la tecnología de IA, si, como sociedad, invertimos más en la detección de contenidos generados por IA. Hoy queremos publicar una declaración sobre nuestra postura como empresa respecto a la autenticación, el marcado de agua y la detección de contenidos.

• Creemos que ninguna de las soluciones de detección actuales es suficiente para resolver el problema en este momento, y debemos dedicar más recursos a resolver específicamente la detección basada en la inteligencia artificial.
• Creemos que el uso de marcas de agua no es la solución a este problema, ya que fomenta una falsa sensación de seguridad y ha demostrado tener limitaciones cuando el usuario tiene acceso a los pesos del modelo o la capacidad de editar el resultado (https://arxiv.org/pdf/2305.03807.pdf, https://arxiv.org/pdf/2301.10226.pdf). Ya existen modelos de código abierto potentes y capaces sin marca de agua, y los malintencionados siempre podrán ajustar localmente sus propias versiones de estos para evadir la detección. Además, creemos que el problema de la detección es solucionable incluso en modelos sin marca de agua.
• Apoyamos la regulación en materia de seguridad de la IA y el desarrollo de modelos lingüísticos a gran escala, con la condición fundamental de que toda regulación debe respaldar el ecosistema de código abierto. El código abierto ofrece un sistema de controles y contrapesos frente a las poderosas empresas tecnológicas, garantiza la transparencia para los consumidores y permite al público evaluar, criticar y comparar libremente estos modelos.
• Creemos que el papel del Gobierno en la promoción de la seguridad de la IA y la inversión en la investigación sobre la detección de la IA debería centrarse en financiar proyectos tanto académicos como industriales en este ámbito.
• Para impulsar una investigación eficaz en materia de detección de IA, debemos establecer puntos de referencia y criterios de evaluación que permitan a los consumidores conocer la eficacia y las limitaciones de los detectores de IA disponibles. Nos comprometemos a desarrollar y contribuir a la creación de estándares sectoriales en materia de detección de IA, con el fin de que los modelos de lenguaje más grandes y potentes puedan implementarse de forma segura y responsable.

En Checkfor.ai, trabajamos sin descanso para crear sistemas fiables de detección de IA que permitan implementar los modelos lingüísticos de próxima generación de forma segura y productiva. Nos alegra ver el compromiso de la administración Biden con la diferenciación entre el contenido generado por humanos y el generado por IA, y esperamos con interés colaborar con investigadores y responsables políticos para desarrollar estas importantes normas.