Tremau y Pangram Labs se asocian para abordar el contenido generado por IA

Ahora que nos encontramos en vísperas del año electoral más importante de la historia, la intersección entre tecnología y democracia vuelve a ocupar un lugar central. Más de 50 países de todo el mundo, con una población conjunta de alrededor de 4200 millones de personas, celebrarán elecciones nacionales y regionales en 2024, entre ellos siete de los diez países más poblados del mundo. Con el rápido avance de la IA generativa, que permite a cualquiera crear imágenes, vídeos, audios o textos realistas a partir de indicaciones proporcionadas por el usuario, los procesos electorales pueden enfrentarse a nuevos retos.

La IA generativa ha llamado la atención por su potencial para influir en la opinión pública y, por lo tanto, influir en los debates y las decisiones. Desde vídeos deepfake hasta campañas «inteligentes» generadas por IA a gran escala, el despliegue de técnicas de IA generativa puede suponer una amenaza significativa para la integridad de los procesos democráticos. Estos riesgos pueden adoptar muchas formas, como intentos de última hora para disuadir a la gente de votar o fabricar un evento con una representación generada de un candidato que sea difícil de desmentir, o difundir noticias falsas dirigidas a un público específico.

¿Qué significa esto para las plataformas en línea? Sencillamente: evitar preguntas incómodas sobre la responsabilidad en torno a la difusión de contenido cuestionable generado por IA en su plataforma, especialmente ante posibles escándalos, y mejorar sus operaciones de confianza y seguridad para gestionar posibles nuevas amenazas. Pangram Labs está desarrollando los métodos más precisos de detección de contenido generado por IA para automatizar la identificación y moderación de dicho contenido. En combinación con las tecnologías human-in-the-loop habilitadas por Tremau, se trata de un proceso eficaz para controlar y moderar el contenido generado por IA antes de que amenace la integridad de una plataforma o unas elecciones.

Cuando la Comisión Europea publicó por primera vez su propuesta de Ley de IA en abril de 2021, la IA generativa estaba lejos de ser una preocupación urgente para los reguladores. Todo eso cambió con los recientes avances en IA, como GPT-4. Debido a ello, el Parlamento Europeo modificó sustancialmente la propuesta inicial de la Comisión Europea, introduciendo en particular normas específicas que se aplican a los sistemas de IA generativa (la Propuesta del Parlamento). La IA generativa entra en la categoría de«sistemas de IA de uso general», que deben cumplir requisitos de transparencia, como revelar que el contenido ha sido generado por IA. El cumplimiento de estas obligaciones normativas puede simplificarse con una plataforma de moderación de contenidos diseñada para cumplir con la normativa, como la plataforma de moderación de Tremau.

Muchas empresas han reconocido que prepararse para los retos y riesgos de la IA no es solo una cuestión normativa. El rápido desarrollo de la IA plantea retos para la seguridad de las marcas y la salud de las plataformas, por lo que es esencial ser consciente de cómo los malos actores utilizan el contenido de IA para enviar spam y desinformación, y utilizar herramientas para mantenerlo fuera de su plataforma.

Por todas estas razones, y como parte de nuestra misión de construir un mundo digital seguro y beneficioso para todos, Tremau y Pangram Labs se han asociado para proporcionar detección de contenido generado por IA y divulgación de IA para el contenido generado por los usuarios. De esta manera, las plataformas pueden cumplir con la normativa y mantener la autenticidad del contenido generado por los usuarios.

¿En qué podemos ayudarle?

Pangram Labs está desarrollando herramientas para automatizar la detección de contenido generado por IA, comenzando por el texto y el habla.

Tremau trabaja para ayudarle a navegar mejor por el nuevo mundo de la potente IA y las nuevas regulaciones. Más información en tremau.com.

Para obtener más información, póngase en contacto con nosotros en info@pangram.com y info@tremau.com.