Los campos de batalla en Ucrania están plagados de restos de drones, ya firmemente establecidos como un arma crítica de la guerra moderna. Pero detrás de todos esos escombros, hay una nueva mina de oro para el sector de la defensa. Los datos que generan los drones sobrevivirán con creces a las guerras en las que se utilizan para luchar, convirtiéndose cada vez más en parte de la arquitectura de IA que moldea incluso la vida civil.
En cada vuelo, los sistemas no tripulados recopilan miles de puntos de datos, desde imágenes y vídeo hasta las entradas del controlador. Juntos, esos registros muestran cómo una máquina y una persona respondieron a circunstancias en constante cambio.
Ucrania ha comenzado ahora a convertir esa experiencia en un recurso. Su Ministerio de Defensa anunció en enero que pondría a disposición, tanto de contratistas militares como de empresas comerciales, millones de puntos de datos recopilados durante decenas de miles de vuelos de drones, y desde entonces más de 100 empresas y el gobierno del Reino Unido han obtenido acceso.
Para un país en guerra, es una forma rápida de atraer financiación y asociaciones. Pero este paso convierte el frente en un sitio activo de entrenamiento de modelos, aprovechando cómo el caos de la guerra crea condiciones que las empresas de IA tienen dificultades para reproducir por sí mismas.
Es probable que otros países y campos de batalla sigan el ejemplo de Ucrania, pero la responsabilidad de gobernar esta nueva industria no puede recaer únicamente en un país que lucha por su supervivencia. Ese vacío legal debe ser llenado conjuntamente por los países y las empresas involucradas en el desarrollo de esta industria.
Crecimiento explosivo
Los campos de batalla de Ucrania no son los primeros en generar datos utilizados para entrenar y desarrollar modelos: los drones estadounidenses sobre Siria y Yemen recopilaron datos que sirvieron de base para la primera generación de hardware militar semiautónomo a finales de la década de 2010.
La diferencia ahora es que el acceso a esos datos se está utilizando para desarrollar un ecosistema más amplio. Y el valor financiero para las empresas de defensa es inmenso: los datos del campo de batalla ofrecen grandes volúmenes de experiencia de las máquinas recopilada en condiciones que ningún laboratorio puede reproducir.
Esto se debe a que los datos más valiosos para entrenar modelos de IA proceden de las excepciones: el momento en que la visibilidad desaparece, una señal sufre interferencias o un operador humano improvisa. Las empresas de IA dedican años y sumas ingentes en su intento de capturar suficientes de estos momentos para que sus modelos sean más robustos. Pero la guerra los produce con una frecuencia que los ensayos controlados no pueden igualar.
Este terreno en constante cambio es lo que hace que los datos de los drones sean valiosos mucho más allá del campo de batalla. Un dron comercial utilizado para reparto o teledetección puede que nunca se encuentre con fuego de artillería, pero aun así debe operar con información incompleta en un mundo donde las personas se comportan de manera impredecible. La guerra comprime el mismo problema en un plazo mucho más corto.
Procesados y cotejados con los registros de lo que hacía su operador, esos datos convierten los registros operativos en conjuntos de entrenamiento. El combate se convierte en un activo comercial.
Muchos conflictos ya han presenciado este bucle de entrenamiento producirse a medida que el metraje de drones alimenta a las siguientes generaciones de tecnología militar, y el mercado está llamado a crecer. Enabled Intelligence, una empresa estadounidense que se especializa en procesar datos para hacerlos utilizables en el entrenamiento de IA, afirma haber puesto ya a disposición más de medio millón de horas de metraje de drones ucranianos para alimentar la próxima ronda de modelos, anunciando posibles usos tanto en sistemas militares como comerciales.
Cerrando el bucle de datos
Muchos de los drones que ahora definen nuestra era moderna de la guerra comenzaron como tecnología civil. Pero recientemente han sido potenciados por nuevos sistemas de IA disponibles comercialmente, que permiten a máquinas de bajo coste operar de forma autónoma —ya sea individualmente o en enjambre— a medida que el entorno cambia a su alrededor. Cada vuelo crea entonces un registro de lo que el sistema encontró.
Los datos resultantes son cruciales. Los entornos de laboratorio controlados, habitualmente desarrollados para entrenar estos sistemas autónomos, pueden simular fallos, pero no están a la altura de las condiciones reales de un campo de batalla con riesgos muy tangibles. Los programas de inteligencia militar han conservado datos generados por sistemas profusos en sensores como los drones Predator y Reaper durante casi una década a través de programas como Project Maven, pero el acceso permaneció enteramente dentro del ámbito de la defensa. Los datos generados solo estaban disponibles a través de canales restringidos y clasificados con el único propósito de desarrollar nuevos sistemas de armamento que, a su vez, revertirían en el mismo ejército que los produjo en primer lugar. Esa experiencia ahora se está compartiendo con una red de desarrollo mucho más amplia.
El bucle se cierra ahora. Las tecnologías comerciales adaptadas para el campo de batalla están generando datos que pueden retroalimentar a las industrias de las que procedían, pasando a formar parte de la infraestructura de datos de la que dependen tanto los gobiernos como el sector privado.
Drones que fueron entrenados en el espacio aéreo con inhibición de señal sobre Ucrania ahora se están desplegando en el sector agrícola para ayudar a los agricultores a cartografiar y realizar levantamientos de sus campos en lugares que carecen de la señal de telefonía móvil necesaria para las generaciones anteriores de tecnología.
Es probable que otros países sigan el ejemplo de Ucrania en la venta de sus datos del campo de batalla, y no estamos preparados para el nuevo mercado que esto creará.
Actores maliciosos podrían adquirir los datos, pero los controles de compra ya mitigan ese riesgo. Agentes de inteligencia examinan la infraestructura de los clientes potenciales en busca de vías por las que esos datos podrían llegar a enemigos o a actores nefastos.
Los datos de entrenamiento, sin embargo, crean un nuevo problema de trazabilidad. Si bien el movimiento de los conjuntos de datos comerciales puede rastrearse cuando los detalles de contacto insertados aparecen a dos pasos del comprador original, la procedencia de los datos de entrenamiento de IA desaparece de una forma inherente a la propia tecnología. Otro riesgo es que este uso de los datos genere una economía extractiva en la que los países más ricos, lejos del peligro, se beneficien de la amenaza mortal que soportan los estados de primera línea, lo que podría crear un incentivo de mercado para que la guerra continúe como una mina inagotable de oro digital.
Una nueva frontera problemática
La legislación vigente regula cómo las fuerzas armadas pueden librar una guerra. Pero apenas aborda lo que sucede cuando los registros creados en combate son despojados de su contexto operativo, empaquetados como datos y licenciados a empresas cuyos productos circulan mucho más allá de donde fueron producidos.
Las responsabilidades de las empresas que diseñan estos sistemas siguen sin establecerse. Ucrania está implementando controles de acceso, que se mencionan en el recientemente firmado acuerdo de IA entre el Reino Unido y Ucrania, pero ningún gobierno está trabajando activamente en la regulación de lo que sucede cuando los datos han sido absorbidos por un modelo y vuelven a cruzar a los mercados civiles.
Esos registros contienen vidas humanas. Los soldados y civiles visibles en ellos no dieron su consentimiento para convertirse en material de entrenamiento para productos que podrían venderse años después. Pero los datos de sensores, las grabaciones de cámaras y las coordenadas de civiles que huyen de un ataque de drones ahora constituyen el tipo de datos que informan cómo las máquinas futuras tomarán decisiones.
Eso es un problema de consentimiento. Los individuos presentes en los datos —ya sean objetivos, controladores o civiles presentes— se convierten en parte del material de entrenamiento. Las capacidades autónomas basadas en esos datos no se detienen en el borde del campo de batalla. Dichas capacidades se trasladan a otros sistemas militares o comerciales, como vehículos de reparto o maquinaria agrícola. Los errores y suposiciones incrustados en los datos viajan con el modelo incluso una vez que entra en la vida civil.
Los datos del campo de batalla no deben ser tratados como material comercial ordinario. Sin embargo, actualmente no existe ninguna agencia o regulador que tenga jurisdicción sobre esta cuestión. Mientras tanto, los gobiernos que proporcionan acceso a datos de defensa deberían tratarlos como lo harían con una transferencia controlada de armamento: registrando su origen, otorgando licencias a sus usuarios y restringiendo su difusión ulterior. Ucrania ha empezado a lidiar con esto. Su programa Avengers Labs permite a las empresas entrenar modelos con datos del campo de batalla sin darles acceso directo a bases de datos sensibles. No obstante, eso solo mitiga una parte del problema.
Los gobiernos deberían exigir la divulgación cuando los modelos entrenados con material bélico se incorporen posteriormente a productos civiles. El objetivo de dicha regulación debería ser hacer visible el camino que va del combate al comercio.
Lo que estas empresas están realmente extrayendo es experiencia. Y los soldados no pueden dar su consentimiento para que su experiencia sea utilizada de esta manera —como datos de entrenamiento que confieren una ventaja al modelo y que, en última instancia, respaldan un producto utilizado muy lejos de donde se libró la guerra.
La cuestión ya no es solo lo que las empresas tecnológicas pueden vender para su uso en la guerra. Es lo que pueden extraer de ella.
Para protegernos de los excesos de esta nueva industria, necesitamos un sistema regulatorio que siga los datos del campo de batalla allá donde vayan, desde el combate al modelo y al producto comercial.
Cory Alpert es investigador en la Universidad de Melbourne, centrado en el impacto de la IA en la democracia. Anteriormente sirvió en la Casa Blanca de Biden.