Meta comenzará a identificar el contenido generado por IA

Imagen de Meta

Resumen

En respuesta a la nueva normativa sobre IA aprobada en Europa, publicamos nuestro análisis en el que pronosticábamos que las empresas líderes empezarían a tomar medidas en materia de transparencia de la IA. El mes pasado empezamos a ver cómo ese pronóstico se hacía realidad: Meta anunció en un blog que «comenzará a etiquetar una gama más amplia de contenidos de vídeo, audio e imagen como “Creado con IA”».

Esperamos que este anuncio sea una señal de que otras empresas empiecen a darse cuenta del riesgo que supone el contenido generado por la IA, especialmente en lo que se refiere a la desinformación y a las imágenes y vídeos falsificados mediante deepfake. En la publicación, la empresa anunció varias medidas que tiene previsto adoptar:

Meta tiene previsto desarrollar herramientas internas para identificar a gran escala el contenido generado por IA cuando aparezca en Facebook, Instagram y Threads.

El contenido que se va a etiquetar incluirá contenido generado por IA de Google, OpenAI, Microsoft, Adobe, Midjourney y otras empresas.

Esto permitirá a los usuarios indicar voluntariamente cuándo suben contenido generado por IA, al tiempo que se sancionará a las cuentas que no revelen el contenido de IA que comparten.

Estas medidas suponen un excelente punto de partida y se han elaborado con la colaboración de un grupo heterogéneo de partes interesadas a través del comité de supervisión de contenidos de Meta. Tras completar las consultas con responsables políticos internacionales y realizar una encuesta a más de 23 000 usuarios, Meta constató que una abrumadora mayoría (el 82 %) se mostraba a favor de estas indicaciones sobre el uso de la IA, especialmente en el caso de «contenidos en los que se muestra a personas diciendo cosas que no han dicho».

Alejar la imagen

De cara a las elecciones de 2024, está claro que Meta ha aprendido las lecciones adecuadas de las elecciones estadounidenses de 2016 y 2020, y está invirtiendo en los sistemas adecuados para proteger mejor a sus usuarios frente a una creciente oleada de desinformación generada por la inteligencia artificial. Tampoco es casualidad que Meta pretenda aplicar estas políticas antes de que entre en vigor la Ley de IA de la UE en mayo.

Las decisiones y el liderazgo de Meta influirán sin duda en la forma en que otras empresas empiecen a plantearse los riesgos de sus propias plataformas. En una mesa redonda celebrada en el Foro Económico Mundial, el presidente de Asuntos Globales de Meta ya ha calificado el esfuerzo por detectar contenidos generados artificialmente como «la tarea más urgente» a la que se enfrenta hoy en día el sector tecnológico.

Entonces, ¿cómo pueden otras empresas seguir estas recomendaciones para proteger sus plataformas del uso indebido de la desinformación y cumplir al mismo tiempo con la nueva normativa de la UE? He aquí algunas ideas:

• Los responsables de las plataformas deben establecer políticas de contenido que cumplan con la normativa, con el fin de facilitar la identificación y la evaluación del contenido generado por IA.
• Desarrollar funciones en el producto que permitan a los usuarios revelar el contenido generado por IA o, como mínimo, señalar dicho contenido para mitigar su difusión y el riesgo que supone para otros usuarios.
• Utiliza los productos de detección de contenido generado por IA de Pangram Labs para señalar de forma proactiva el contenido generado por IA con el fin de que sea revisado.

Pangram Labs está desarrollando los mejores sistemas de detección basados en IA para que las empresas puedan gestionar plataformas en línea seguras y responsables. Si deseas adoptar medidas proactivas y marcar la pauta en materia de integridad de las plataformas y cumplimiento normativo, ¡ponte en contacto con nosotros en info@pangram.com!

Para obtener una visión más amplia de cómo ha evolucionado el uso de marcas de agua basadas en IA desde este anuncio, descubre por qué las grandes empresas tecnológicas están perdiendo la apuesta por las marcas de agua.