El Departamento de Seguridad Nacional de Estados Unidos (DHS, por sus siglas en inglés) está utilizando generadores de vídeo con IA desarrollados por Google y Adobe para crear y editar contenido que comparte con el público, según revela un nuevo documento. La información aparece en un momento en que las agencias de inmigración han inundado las redes sociales con contenido destinado a respaldar la agenda de deportaciones masivas del presidente Trump (parte de ese contenido parece haber sido producido mediante IA) y en que los trabajadores del sector tecnológico han presionado a sus empleadores para que denuncien las actividades de estas agencias.
El documento, publicado el miércoles pasado, ofrece un inventario de las herramientas comerciales de IA que utiliza el DHS para tareas que van desde la generación de borradores de documentos hasta la gestión de la ciberseguridad.
En una sección sobre “la edición de imágenes, vídeos u otros materiales de asuntos públicos mediante IA”, se revela por primera vez que el DHS utiliza el generador de vídeo Veo 3 de Google y Adobe Firefly, y estima que la agencia dispone de entre 100 y 1.000 licencias para estas herramientas. También revela que el DHS emplea Microsoft Copilot Chat para generar primeros borradores de documentos y resumir informes extensos, así como el software Poolside para tareas de programación, además de herramientas de otras compañías.
Google, Adobe y el DHS no respondieron inmediatamente a las solicitudes de comentarios.
La noticia aporta detalles sobre cómo agencias como el Servicio de Inmigración y Control de Aduanas (Immigration and Customs Enforcement, ICE), que forma parte del DHS, podrían estar creando las grandes cantidades de contenido que han compartido en X y otros canales a medida que las operaciones migratorias se han ampliado por ciudades de EE UU. Han publicado contenidos celebrando “la Navidad después de deportaciones masivas”, han hecho referencia a versículos bíblicos y al nacimiento de Cristo, han mostrado los rostros de personas detenidas por la agencia y han difundido anuncios destinados a reclutar agentes. Las agencias también han utilizado repetidamente música sin permiso de los artistas en sus vídeos.
Algunos de estos contenidos, especialmente los vídeos, tienen apariencia de haber sido generados con IA, pero hasta ahora no estaba claro qué modelos podrían estar utilizando las agencias. Esto constituye la primera evidencia concreta de que el DHS emplea generadores de este tipo para crear contenido que comparte con el público.
Aún resulta imposible verificar qué empresa ayudó a crear una pieza de contenido concreta, o incluso si fue generada con IA en absoluto. Adobe ofrece opciones para añadir una “marca de agua” a los vídeos producidos con sus herramientas con el fin de indicar que ha sido generado mediante IA; sin embargo, esta indicación no siempre permanece intacta cuando el contenido se sube y se comparte en distintos sitios.
El documento revela que el DHS ha estado utilizando específicamente Flow, una herramienta de Google que combina su generador de vídeo Veo 3 con un conjunto de herramientas de producción cinematográfica. Los usuarios pueden generar clips y ensamblar vídeos completos con IA, incluidos vídeos con sonido, diálogos y ruido de fondo, lo que los hace hiperrealistas. Adobe lanzó su generador Firefly en 2023, prometiendo que no utiliza contenido protegido por derechos de autor ni en su entrenamiento ni en su salida. Al igual que las herramientas de Google, las de Adobe pueden generar vídeos, imágenes, bandas sonoras y voz. El documento no ofrece más detalles sobre cómo está utilizando la agencia estas herramientas de generación de vídeo.
Los trabajadores de grandes empresas tecnológicas (incluidos más de 140 empleados y exempleados de Google y más de 30 de Adobe) han estado presionando a sus empleadores en las últimas semanas para que adopten una postura contra ICE y el tiroteo de Alex Pretti el 24 de enero. La dirección de Google no ha hecho declaraciones al respecto. En octubre, Google y Apple retiraron de sus tiendas de aplicaciones apps destinadas a rastrear avistamientos de ICE, alegando riesgos para la seguridad.
Un documento adicional publicado el miércoles pasado reveló nuevos detalles sobre cómo la agencia está utilizando productos de IA más especializados, incluida una aplicación de reconocimiento facial usada por ICE, tal como informó por primera vez 404Media en junio.
