Ahora que nos encontramos en vísperas del año electoral más importante de la historia, la relación entre tecnología y democracia vuelve a ocupar un lugar central. Más de 50 países de todo el mundo, con una población conjunta de unos 4.200 millones de personas, celebrarán elecciones nacionales y regionales en 2024, entre los que se encuentran siete de las diez naciones más pobladas del mundo. Con el rápido avance de la IA generativa, que permite a cualquiera crear imágenes, vídeos, audio o texto realistas a partir de indicaciones proporcionadas por el usuario, los procesos electorales pueden enfrentarse a nuevos retos.
La IA generativa ha llamado la atención por su potencial para influir en la opinión pública y, por ende, incidir en los debates y las decisiones. Desde vídeos deepfake hasta campañas «inteligentes» generadas por IA y dirigidas a un público específico a gran escala, el uso de técnicas de IA generativa puede suponer una amenaza significativa para la integridad de los procesos democráticos. Estos riesgos pueden adoptar muchas formas, como intentos de última hora para disuadir a la gente de votar, la creación de un evento en el que se muestre una representación generada de un candidato que resulte difícil de desmentir, o la difusión de noticias falsas dirigidas a un público específico.
¿Qué significa esto para las plataformas en línea? En pocas palabras: evitar preguntas incómodas sobre la responsabilidad en relación con la difusión de contenido generado por IA de dudosa calidad en su plataforma, especialmente ante posibles escándalos, y mejorar sus operaciones de confianza y seguridad para hacer frente a posibles nuevas amenazas. Pangram Labs está desarrollando los métodos más precisos de detección de contenido generado por IA para automatizar la identificación y moderación de dicho contenido. En combinación con las tecnologías «human-in-the-loop» que ofrece Tremau, se trata de un proceso eficaz para controlar y moderar el contenido generado por IA antes de que ponga en peligro la integridad de una plataforma o unas elecciones.
Cuando la Comisión Europea presentó por primera vez su propuesta de Ley de IA en abril de 2021, la IA generativa distaba mucho de ser una preocupación urgente para los reguladores. Todo eso cambió con los recientes avances en IA, como el GPT-4. Por este motivo, el Parlamento Europeo modificó sustancialmente la propuesta inicial de la Comisión Europea, introduciendo en particular normas específicas que se aplican a los sistemas de IA generativa (la «Propuesta del Parlamento»). La IA generativa entra dentro de la categoría de«sistemas de IA de uso general», que deben cumplir con requisitos de transparencia, incluida la divulgación de que el contenido ha sido generado por IA. El cumplimiento de estas obligaciones normativas puede simplificarse con una plataforma de moderación de contenidos diseñada para cumplir con la normativa, como la plataforma de moderación de Tremau.
Muchas empresas se han dado cuenta de que prepararse para los retos y riesgos que plantea la IA no es solo una cuestión normativa. El rápido desarrollo de la IA plantea retos para la seguridad de la marca y el buen funcionamiento de la plataforma; por ello, es fundamental estar al tanto de cómo los usuarios malintencionados utilizan los contenidos generados por IA para enviar spam y difundir desinformación, y emplear herramientas para evitar que estos contenidos lleguen a tu plataforma.
Por todas estas razones, y como parte de nuestra misión de construir un mundo digital seguro y beneficioso para todos, Tremau y Pangram Labs se han asociado para ofrecer servicios de detección de contenido generado por IA y de identificación de dicho contenido en los contenidos generados por los usuarios. De este modo, las plataformas pueden cumplir con la normativa y garantizar la autenticidad de los contenidos generados por los usuarios.
¿En qué podemos ayudarte?
Pangram Labs está desarrollando herramientas para automatizar la detección de contenidos generados por IA, empezando por el texto y el habla.
Tremau te ayuda a orientarte mejor en el nuevo mundo de la inteligencia artificial avanzada y las nuevas normativas. Más información en tremau.com.
Para obtener más información, ponte en contacto con nosotros en info@pangram.com y info@tremau.com.
Max es un ingeniero con amplia experiencia en aprendizaje automático. Recientemente ha trabajado en el ámbito de los vehículos autónomos en Nuro, donde ha dirigido el proyecto de aprendizaje activo. Cuenta con una dilatada trayectoria en la implementación de productos de aprendizaje automático de éxito en Google, Two Sigma y Yelp.
Max es licenciado en Informática Teórica y tiene un máster en Inteligencia Artificial por la Universidad de Stanford. Además de su pasión por la construcción, también es un miembro activo de la comunidad del «cubo» de Magic: The Gathering.
Lecturas relacionadas
Cómo intentan los estudiantes eludir la detección de la IA
¿Detecta Pangram el Gemini 3?
Más allá de las trampas con ChatGPT: los navegadores con capacidad de acción plantean riesgos para las universidades
Presentamos la identificación mediante IA: Pangram es capaz de distinguir entre los distintos modelos de lenguaje grande (LLM)
¿Por qué hay un número mínimo de palabras en Pangram?
Pangram Space: un proyecto de investigación interactivo
