La IA en armamento está cambiando la forma en que se planean y ejecutan las operaciones militares. Gracias a ella, las decisiones en el campo de batalla se toman cada vez más rápido. Sin embargo, esa velocidad tiene un costo: reduce el margen de intervención humana y aumenta el riesgo de errores con consecuencias catastróficas. (IA en armamento: ¿aliada o enemiga?)
Por esta razón, la Organización de las Naciones Unidas (ONU) ha advertido sobre los peligros de esta evolución. Además, anunció nuevas iniciativas para promover un uso responsable de la inteligencia artificial en el ámbito militar.
La guerra dirigida por máquinas, cada vez más cerca
Robin Geiss, director del Instituto de las Naciones Unidas para la Investigación sobre el Desarme (UNIDIR), advierte que la guerra dirigida por máquinas está cada vez más cerca. En su opinión, el problema no se limita a las armas completamente autónomas.
De hecho, la inteligencia artificial ya participa en tareas como:
- El análisis de inteligencia.
- La identificación de objetivos.
- El pilotaje de drones.
- Los ciberataques.
El riesgo en el ámbito nuclear
La reducción de los tiempos de decisión preocupa especialmente en el terreno nuclear. Según Geiss, un análisis erróneo podría desencadenar una escalada involuntaria entre potencias, con consecuencias devastadoras.
A esto se suma otro problema: la opacidad de algunos sistemas. Cuando no se entiende cómo funciona un algoritmo, resulta difícil anticipar sus respuestas y evaluar su fiabilidad.
El papel de las empresas en la IA en armamento
El desarrollo de estas tecnologías depende en gran medida de empresas privadas. Son ellas las que diseñan los sistemas y seleccionan los datos con los que se entrenan.
Para abordar esta responsabilidad, UNIDIR prepara un marco de conducta empresarial junto con la Oficina del Alto Comisionado de la ONU para los Derechos Humanos (ACNUDH). Este marco se basará en el derecho internacional e incluirá una serie de recomendaciones de aplicación voluntaria.
Asimismo, UNIDIR trabaja con Austria y con el Instituto de las Naciones Unidas para la Formación y la Investigación (UNITAR). El objetivo de esta alianza es estudiar cómo impedir que actores no estatales utilicen estas tecnologías con fines violentos.
Diferencias sobre la regulación de los sistemas autónomos
La IA en armamento plantea desafíos que los mecanismos actuales de control de armas y no proliferación no logran abordar por completo. Por otra parte, los gobiernos no se ponen de acuerdo sobre cómo regular los sistemas autónomos, y eso complica los acuerdos internacionales.
Para facilitar las negociaciones, UNIDIR impulsará un léxico común sobre conceptos clave como autonomía, fiabilidad y seguridad. También promoverá el diálogo entre Estados, empresas, investigadores y sociedad civil.
¿Aliada o enemiga? Velocidad frente a responsabilidad humana
En el fondo, el debate gira en torno a una cuestión central. La IA en armamento puede aportar nuevas capacidades militares, pero exige controles que eviten que la velocidad de las máquinas desplace la responsabilidad humana.
Por ahora, las iniciativas anunciadas buscan acercar posiciones. Mientras tanto, la diplomacia sigue tratando de responder al ritmo de la innovación.
Fuente: Segurilatam
