Los delegados de la Convención de las Naciones Unidas sobre Ciertas Armas Convencionales se reúnen esta semana en Ginebra (Suiza) para hablar sobre las armas completamente autónomas, unas máquinas que podrían tomar la decisión de matar a alguien sin ninguna orden humana. Aunque la tecnología todavía no existe, algunos expertos en seguridad nacional aseguran que es verosímil, y prueba de ello es el desarrollo de sistemas "semiautónomos" de defensa contra misiles y aviones no tripulados capaces de despegar, volar y aterrizar por su cuenta. Cuando hoy día un dron abre fuego sobre un objetivo es porque alguien ha pulsado un botón, pero en un futuro próximo las naciones podrían intentar desarrollar armas que no necesitaran a un ser humano en la cadena de operaciones. Con anterioridad a la reunión, un grupo de la Escuela de Derecho de Harvard y Human Rights Watch publicó un informe que pide un tratado internacional que prohíba estas tecnologías tan pronto como sea posible. La autora principal del informe, Bonnie Docherty, profesora de la Facultad de Derecho de Harvard e investigadora de Human Rights Watch, charló con Mike Orcutt para MIT Technology Review.

Puesto que las armas completamente autónomas aún no existen, ¿la prohibición no es algo prematura?

Creemos que es una tecnología que podría revolucionar los actos de guerra, y que debemos actuar ahora, antes de que los países inviertan demasiado en la tecnología y luego no quieran renunciar a ella. Existen muchas preocupaciones en torno a estas armas, como por ejemplo preocupaciones éticas y legales, preocupaciones sobre la forma de determinar la responsabilidad, y el riesgo de una carrera armamentista, por nombrar sólo algunas. El sentido de la precaución nos dice que si existe una seria amenaza de daño público, incluso el tipo de incertidumbre científica en la que estamos no debería interponerse en los actos para prevenir dicho daño.

¿No es difícil definir un arma "completamente autónoma"?

Nuestra definición, que no sería una definición legal sino una para ponernos de acuerdo sobre qué estamos tratando, es un sistema de armas capaz de seleccionar y matar a un objetivo sin lo que denominamos control humano significativo. En un tratado la definición de lo que significa el control humano significativo tendría que estar más definida, pero creo que es un buen punto de partida. Cuando se pierde ese control humano es cuando se cruza el umbral y pasamos a algo que la mayoría de la gente no desea.

Además de los errores que podrían llevar a un arma autónoma a matar a civiles, ¿qué otros nuevos problemas jurídicos podría causar?

Si estas máquinas llegaran a existir, no habría forma de responsabilizar a nadie si violasen el derecho internacional. El programador, el fabricante, el comandante y el operador no estarían supeditados a ninguna responsabilidad bajo la ley existente. También es importante señalar que nuestro informe analiza tanto en el derecho penal y el derecho civil, y hemos encontrado deficiencias en ambos en cuando a la responsabilidad. Incluso bajo la ley civil, que tiene estándares más bajos para el establecimiento de la responsabilidad, el programador o fabricante no podrían ser considerados responsables, porque los militares y sus contratistas tendrían inmunidad. También se darían otros obstáculos probatorios. Así que lo que de verdad nos preocupa son las amplias deficiencias a nivel internacional, nacional, penal, civil y de responsabilidad.