Meta ha visto sorprendentemente poca desinformación generada por IA en torno a las elecciones de 2024 a pesar de las importantes votaciones en países como Indonesia, Taiwán y Bangladesh, dijo el miércoles el presidente de asuntos globales de la compañía, Nick Clegg.

«Lo interesante hasta ahora —insisto, hasta ahora— no es la cantidad, sino la escasez de contenido generado por IA», afirmó Clegg durante una entrevista en la conferencia EmTech Digital de MIT Technology Review en Cambridge (Massachusetts, EE UU). 

«Está ahí, es perceptible. Realmente no está ocurriendo ... a un volumen o a un nivel sistémico», dijo. Clegg dijo que Meta ha visto intentos de interferencia en, por ejemplo, las elecciones taiwanesas, pero que la escala de esa interferencia está en un «nivel manejable».

Mientras los votantes acuden a las urnas este año en más de 50 países, los expertos han dado la voz de alarma sobre la desinformación política generada por IA y la posibilidad de que actores malintencionados utilicen la IA generativa y las redes sociales para interferir en las elecciones. Meta ya se ha enfrentado a críticas por sus políticas de moderación de contenidos en pasadas elecciones, por ejemplo, cuando no logró evitar que los alborotadores del 6 de enero se organizaran en sus plataformas.

Clegg defendió los esfuerzos de la empresa por impedir que grupos violentos se organicen, pero también subrayó la dificultad de mantener el ritmo. «Este es un espacio de gran confrontación. Juegas al escondite, francamente. Eliminas a un grupo, se rebautiza, cambia de marca, y así sucesivamente", dijo.

Clegg argumentó que, en comparación con 2016, la empresa es ahora «completamente diferente» a la hora de moderar el contenido electoral. Desde entonces, ha eliminado más de 200 «redes de comportamiento no auténtico coordinado», dijo. La empresa se basa ahora en verificadores de hechos y tecnología de IA para identificar grupos no deseados en sus plataformas.

A principios de este año, Meta anunció que etiquetaría las imágenes generadas por IA en Facebook, Instagram y Threads. Meta ha empezado a añadir marcas visibles a esas imágenes, así como marcas de agua invisibles y metadatos en el archivo de imagen. Las marcas de agua se añadirán a las imágenes creadas con los sistemas de IA generativa de Meta o a las que lleven marcadores invisibles estándar del sector. La empresa afirma que sus medidas están en consonancia con las buenas prácticas establecidas por Partnership on AI, una organización sin ánimo de lucro dedicada a la investigación de la IA.

Pero al mismo tiempo, Clegg admitió que las herramientas para detectar contenidos generados por IA son aún imperfectas e inmaduras. Las marcas de agua en los sistemas de IA no se han adoptado en todo el sector y son fáciles de manipular. También son difíciles de implantar de forma sólida en audio, vídeo y texto generados por IA.

En última instancia, eso no debería importar, dijo Clegg, porque los sistemas de Meta deberían ser capaces de captar y detectar la desinformación, independientemente de su origen.

«La inteligencia artificial es una espada y un escudo», afirmó.

Clegg también defendió la decisión de la empresa de permitir anuncios que afirman que las elecciones estadounidenses de 2020 fueron robadas, señalando que este tipo de afirmaciones son comunes en todo el mundo y diciendo que es «inviable» que Meta vuelva a litigar elecciones pasadas. Este mismo mes, ocho secretarios de Estado escribieron una carta al consejero delegado de Meta, Mark Zuckerberg, argumentando que los anuncios podrían seguir siendo peligrosos, y que tienen el potencial de amenazar aún más la confianza pública en las elecciones y la seguridad de los trabajadores electorales.

Puedes ver la entrevista completa con Nick Clegg y la editora ejecutiva de ‘MIT Technology Review’, Amy Nordrum, a continuación.