La ONU y la Cruz Roja Internacional urgen regular las armas autónomas

El Secretario General de las Naciones Unidas, António Guterres, y la Presidenta del Comité Internacional de la Cruz Roja (CICR), Mirjana Spoljaric, hicieron hoy un nuevo llamamiento conjunto a los Estados para que adopten, con urgencia, normas internacionales claras y jurídicamente vinculantes sobre los sistemas de armas autónomos.

Ambas instituciones advierten que el rápido desarrollo de tecnologías militares está profundizando la brecha entre las capacidades tecnológicas disponibles y las normas destinadas a proteger a las personas durante los conflictos armados. En particular, preocupa la creciente pérdida de control humano sobre decisiones relacionadas con el uso de la fuerza.

“Ahora nos encontramos peligrosamente cerca de cruzar una línea roja moral: el ataque autónomo de máquinas contra seres humanos”, señalaron el Secretario General de la ONU y la Presidenta del CICR.

¿Qué son las armas autónomas?

Los sistemas de armas autónomos son aquellos que, una vez activados por una persona, pueden seleccionar y atacar objetivos sin una intervención humana adicional. Utilizan sensores, software y otros sistemas tecnológicos para interpretar información del entorno y determinar cuándo y contra qué objetivo emplear la fuerza.

Esto los diferencia de un dron armado operado de manera remota: en este último caso, una persona identifica el objetivo y decide cuándo y dónde utilizar el arma. En un sistema autónomo, en cambio, determinadas funciones críticas —como la selección y el ataque de objetivos— pueden quedar en manos del propio sistema.

La autonomía no implica necesariamente el uso de inteligencia artificial. Puede existir en sistemas de distinta complejidad tecnológica. Lo que resulta central para el debate internacional es qué grado de control y juicio humano permanece sobre el uso de la fuerza.

¿Por qué preocupan a la ONU y al CICR?

La principal preocupación es que decisiones que pueden determinar quién vive y quién muere pasen de las personas a sensores y programas informáticos.

En un conflicto armado, el derecho internacional humanitario exige, entre otras cosas, distinguir entre objetivos militares y civiles, tomar precauciones para reducir los daños a la población civil y evitar ataques desproporcionados. La creciente autonomía de los sistemas de armas plantea interrogantes sobre cómo garantizar estos principios cuando una máquina selecciona y ataca un objetivo sin que una persona intervenga en el momento concreto del ataque.

También existen preocupaciones sobre la previsibilidad de sus efectos. Un sistema que responde automáticamente a determinados patrones detectados por sus sensores puede encontrarse con situaciones que no fueron previstas durante su diseño o programación. Esto puede aumentar los riesgos para civiles y otros grupos protegidos por el derecho internacional humanitario.

Otro desafío es la rendición de cuentas. Si un sistema autónomo comete un error y causa la muerte de civiles, puede resultar más complejo determinar quién tomó la decisión, quién debe responder por ella y cómo investigar una eventual violación del derecho internacional humanitario.

A ello se suma una cuestión ética fundamental: ¿debe una máquina tener la capacidad de tomar por sí misma una decisión de vida o muerte? Para el CICR, mantener el control y el juicio humanos sobre el uso de la fuerza es una cuestión central tanto desde la perspectiva humanitaria como jurídica y ética.

La necesidad de establecer límites antes de que la tecnología avance más

La ONU y el CICR sostienen que los Estados deben actuar ahora, antes de que estas tecnologías se desarrollen y desplieguen de manera más generalizada.

En su llamamiento, ambas organizaciones instan a iniciar negociaciones para establecer un instrumento jurídicamente vinculante que contemple prohibiciones y restricciones claras para los sistemas de armas autónomos.

El CICR ha recomendado, en particular, prohibir los sistemas autónomos cuyos efectos no puedan ser suficientemente comprendidos, previstos y explicados, así como aquellos diseñados o utilizados para aplicar la fuerza directamente contra personas. Para otros sistemas que no estén prohibidos, plantea establecer límites sobre los tipos de objetivos, el tiempo, el espacio y las circunstancias de utilización, además de garantizar una supervisión humana efectiva y la posibilidad de intervenir y desactivar el sistema.

Los Estados ya han avanzado en el debate a través de la Asamblea General de las Naciones Unidas y del Grupo de Expertos Gubernamentales de la Convención sobre Ciertas Armas Convencionales. El llamamiento conjunto señala que existe una base importante de trabajo sobre el grado de juicio y control humanos necesario, así como sobre las medidas para garantizar el respeto del derecho internacional humanitario.

La Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales, prevista para noviembre de 2026, constituye una oportunidad para avanzar hacia negociaciones sobre un instrumento jurídicamente vinculante.

“Este año debe marcar un punto de inflexión”, señalaron Guterres y Spoljaric, subrayando que la innovación tecnológica debe estar al servicio de la humanidad y no ponerla en peligro.

Para las Naciones Unidas y el CICR, la cuestión central no es detener la innovación tecnológica, sino asegurar que las decisiones sobre el uso de la fuerza y sobre la vida y la muerte permanezcan bajo un control humano efectivo y dentro de los límites establecidos por el derecho internacional.