Los titulares de ambos organismos piden mantener un control humanos en todas las decisiones de vida o muerte. “Que las máquinas ataquen de manera autónoma a las personas es una línea moral que no debemos cruzar”, subrayan, y agregan que el derecho internacional debe prohibir las armas con el poder y la discreción de matar sin intervención humana.
Con el objetivo de proteger a la humanidad, el Secretario General de las Naciones Unidas y la presidenta de la Cruza Roja Internacional urgieron este jueves a los líderes políticos a regular los sistemas de armas autónomas.
En un comunicado conjunto, António Guterres y Mirjana Spoljaric recordaron que esas armas, que seleccionan blancos y actúan de manera letal sin intervención humana, plantean graves preocupaciones humanitarias, jurídicas, éticas y de seguridad.
El desarrollo y proliferación de esas armas puede cambiar sustancialmente la forma en que se libran las guerras y contribuir a la inestabilidad global y al aumento de las tensiones internacionales, advirtieron.
Guterres y Spoljaric argumentaron que esos sistemas pueden aumentar la violencia ya que crean una percepción de bajo riesgo para las fuerzas militares y los civiles que podría eliminar los escrúpulos para involucrarse en conflictos.
“Hoy unimos nuestras voces para abordar una prioridad humanitaria urgente”, recalcaron los titulares de la ONU y la Cruz Roja al conminar a los Estados a actuar para proteger a las generaciones presentes y futuras de las consecuencias del uso de armas autónomas.
Instrumento jurídicamente vinculante
“Instamos a los líderes mundiales a iniciar negociaciones sobre un nuevo instrumento jurídicamente vinculante para establecer prohibiciones y restricciones claras sobre los sistemas de armas autónomas y concluir dichas negociaciones para 2026. Instamos a los Estados miembros a tomar medidas decisivas ahora para proteger a la humanidad”, puntualizaron.
Agregaron que en el actual panorama de seguridad, “establecer líneas rojas internacionales claras beneficiará a todos los Estados”.
La petición de proceder sin dilación responde a la creciente preocupación frente a la cada vez mayor disponibilidad y accesibilidad de tecnologías nuevas y emergentes sofisticadas, como la robótica y las tecnologías de inteligencia artificial, que podrían integrarse en armas autónomas.
Mantener el control humano en cuanto a la vida o la muerte
“Debemos actuar ahora para preservar el control humano sobre el uso de la fuerza. Se debe mantener el control humano en las decisiones de vida o muerte. Que las máquinas ataquen de forma autónoma a los humanos es una línea moral que no debemos cruzar”, enfatizaron.
El derecho internacional debería prohibir las máquinas con el poder y la discreción de acabar con vidas sin intervención humana, señalaron.
Guterres y Spoljaric destacaron la alarma que han manifestado los propios científicos y líderes empresariales responsables de esas tecnologías, que en abril pasado solicitaron una moratoria al desarrollo de la inteligencia artificial.
En este sentido, afirmaron que para aprovechar las nuevas tecnologías en beneficio de la humanidad, primero se deben contemplar los riesgos más urgentes y evitar consecuencias irreparables.
“Esto significa prohibir los sistemas de armas autónomas que funcionan de tal manera que sus efectos no puedan predecirse. (…) permitir que las armas autónomas sean controladas con algoritmos de aprendizaje automático es una propuesta inaceptable”, enfatizaron.
Del mismo modo, señalaron que para asegurar el cumplimiento de las leyes internacionales y la ética, se precisan restricciones claras para todos los demás tipos de armas autónomas, lo que incluye limitar dónde, cuándo y durante cuánto tiempo se utilizan, los tipos de objetivos que atacan y la escala de fuerza utilizada, así como una supervisión humana eficaz y una intervención y desactivación oportunas.
No es demasiado tarde
Según Guterres y Spoljaric todavía no es demasiado tarde para tomar medidas puesto que los más de diez años de debate sobre el tema en el seno de la ONU han sentado las bases para la adopción de prohibiciones y restricciones explícitas.
El Grupo de Expertos Gubernamentales en tecnologías emergentes en el área de los sistemas de armas letales autónomas presentó en 2018 una posible guía de principios para su uso, que versa sobre la interfaz persona-máquina necesaria para garantizar el respeto del derecho internacional humanitario y aumentar la responsabilidad humana y la rendición de cuentas.
Además, el Grupo elaboró una propuesta de política para la posible restricción jurídicamente vinculante de ese armamento.
Ahora es cuestión de que los Estados aprovechen esos cimientos y se unan de manera constructiva para negociar nuevas reglas que aborden las amenazas tangibles que plantean esas tecnologías armamentísticas, apuntaron Guterres y Spoljaric.
Los Estados y los individuos son los responsables
Recordaron las restricciones generales estipuladas en el derecho internacional sobre el uso de todas las armas e hicieron hincapié en que los Estados y los individuos siguen siendo responsables de cualquier violación.
No obstante estas reglas generales, reconocieron que sin un acuerdo internacional específico que rija los sistemas de armas autónomas, los Estados pueden diferir sobre su aplicación, por lo que insistieron en la necesidad de nuevas normas internacionales sobre armas autónomas para aclarar y fortalecer la legislación existente.
“Serán una medida preventiva, una oportunidad para proteger a quienes puedan verse afectados por dichas armas y esenciales para evitar consecuencias terribles para la humanidad”, concluyeron.