El Departamento de Defensa de Estados Unidos ha invertido 2,4 millones (unos 2,29 millones de euros) en el desarrollo de tecnología para detectar deepfakes. Este contrato, de dos años y firmado con la start-up Hive AI, representa un hito al ser el primero de este tipo para la Unidad de Innovación de Defensa, organismo que tiene como objetivo incorporar las tecnologías emergentes en la defensa del país. En concreto, las herramientas desarrolladas por Hive AI están diseñadas para detectar contenido creado mediante inteligencia artificial en diferentes formatos, como vídeo, imágenes y audio.

Los deepfakes llevan más de una década entre nosotros, pero los avances en inteligencia artificial generativa han permitido que ahora sean más realistas y fáciles de crear que nunca. Esto los convierte en herramientas ideales para campañas de desinformación y fraude. “Protegerse contra estas amenazas es una prioridad para la seguridad nacional", señala el capitán Anthony Bustamante, gestor de proyectos y operador de ciberguerra en la Unidad de Innovación de Defensa de EE UU.

“Este proyecto es un avance significativo para reforzar nuestra ventaja frente a campañas de desinformación sofisticadas y amenazas generadas por medios sintéticos", afirma Bustamante. Hive fue seleccionada entre 36 empresas para probar su tecnología de detección y atribución de deepfakes en colaboración con el Departamento de Defensa. De este modo, el acuerdo busca dotar al organismo de la capacidad para detectar y contrarrestar engaños basados en inteligencia artificial a gran escala.

"Defenderse de los deepfakes es una cuestión vital", asegura Kevin Guo, CEO de Hive AI, quien define esta amenaza como "la próxima evolución de la ciberguerra".

La tecnología de Hive se ha entrenado con un gran conjunto de datos que incluye tanto contenidos generados por inteligencia artificial como materiales reales. Su sistema es capaz de identificar señales y patrones característicos de los contenidos creados por IA, imperceptibles para el ojo humano pero detectables por modelos avanzados de aprendizaje automático.

"Si sabes dónde buscarlo, cada imagen generada por estos modelos contiene un patrón característico", explica Guo. Para mantenerse a la vanguardia, el equipo de Hive monitorea continuamente los avances en nuevos generadores de contenido y actualiza su tecnología de detección en consecuencia.

En un comunicado, el Departamento de Defensa destacó que las herramientas y metodologías desarrolladas en el marco de esta iniciativa podrían ampliarse. Con ello no solo buscan abordar desafíos relacionados con la defensa, sino también proteger las instituciones civiles frente a la desinformación, el fraude y el engaño.

Según Siwei Lyu, catedrático de Informática e Ingeniería en la Universidad de Buffalo (EE UU), la tecnología de Hive es la más avanzada para detectar contenidos generados por inteligencia artificial. Aunque Lyu no ha estado involucrado directamente en los desarrollos de Hive, ha probado sus herramientas de detección. 

Por otro lado, Ben Zhao, profesor de la Universidad de Chicago (EE UU), que también ha evaluado de forma independiente la tecnología deepfake de Hive AI, coincide en su efectividad, pero advierte que aún no es infalible. “Hive sin duda supera a la mayoría de las empresas comerciales y a algunas de las técnicas de investigación que probamos, pero también demostramos que no es difícil de eludir", asegura Zhao, cuyo equipo descubrió que los enemigos podían modificar las imágenes para evadir la detección de Hive.

Además, Lyu destaca que, dado el rápido avance de las tecnologías de IA generativa, aún es incierto cómo se comportarán en los escenarios del mundo real que podría enfrentar el sector de la defensa. 

Para enfrentar este escenario, Kevin Guo señala que Hive pone sus herramientas a disposición del Departamento de Defensa. El organismo podrá utilizarlas en sus propios equipos y sin conexión para, de esta forma, asegurar la protección de información sensible. 

Sin embargo, cuando se trata de proteger la seguridad nacional frente a actores estatales sofisticados, las herramientas estándar no son suficientes. "Es difícil garantizar que sean completamente resistentes a los ataques imprevistos a nivel de Estado-nación", afirma Zhao.