Por Izumi Nakamitsu, Subsecretario General de las Naciones Unidas y Alto Representante para Asuntos de Desarme el 18 de abril de 2018
La militarización de la tecnología es tan antigua como la guerra misma.
A lo largo de la historia, las innovaciones de la dinamita al avión se han utilizado para fines no intencionales, y a menudo destructivos.
El boom tecnológico actual -que a menudo se conoce como la "Cuarta Revolución Industrial" - está marcando el comienzo de un conjunto de tecnologías que tienen el potencial de transformar la sociedad, pero también pueden reutilizarse para fines maliciosos.
La creciente gama de innovaciones basadas en inteligencia artificial no es una excepción.
Hacer frente a los desafíos de paz y seguridad que plantean las nuevas armas y los medios de guerra es una responsabilidad importante de las Naciones Unidas y mi oficina, la Oficina de Asuntos de Desarme de las Naciones Unidas.
Sin embargo, cuando comencé mi trabajo como Alto Representante para Asuntos de Desarme hace doce meses, debo admitir que no estaba bien versado en los matices de la IA, incluido su impacto en la paz y la seguridad internacionales.
Para mí, fue la IA para Global Good Summit, organizada por la Unión Internacional de Telecomunicaciones en Ginebra en junio pasado, en la que comencé a darme cuenta de lo mucho que nuestras acciones ahora darán forma a los asombrosos avances que tienen lugar en la ciencia computacional y la robótica.
Las tecnologías basadas en IA están revolucionando el transporte, la fabricación, la atención médica y la educación, creando el potencial para
mejoras radicales en las vidas de las personas más vulnerables del mundo.
Cuando se trata de paz y seguridad internacional, la misma tecnología que subyace a estas innovaciones podría ser utilizada para obtener grandes beneficios, desde la verificación del cumplimiento del tratado -como el trabajo pionero realizado por la Organización del Tratado de prohibición completa de los ensayos nucleares- hasta las aplicaciones en las operaciones de mantenimiento de la paz y la entrega de asistencia humanitaria.
Sin embargo, también es cierto que esta tecnología podría convertirse en armas, con el potencial de transformar las armas existentes y sus sistemas de entrega, así como las estructuras de toma de decisiones.
Las aplicaciones militares de la inteligencia artificial podrían incluir sistemas autónomos de armas y estructuras de mando y control para su uso en todos los ámbitos de la guerra, incluidos el ciberespacio y el espacio exterior, y posiblemente incluso en arsenales nucleares.
A medida que los países buscan convertirse en líderes tecnológicos en este campo, somos testigos de los comienzos de una versión del siglo 21 de la carrera espacial de la Guerra Fría.
Tenemos que asegurarnos de que no se convierta en una versión del siglo XXI de la carrera armamentista de la Guerra Fría.
La aplicación de sistemas basados en inteligencia artificial en sistemas militares de comando y control, comunicaciones, inteligencia y armas plantea algunas preguntas serias, incluidas las relacionadas con el potencial de accidentes, el cálculo erróneo y el control de escalamiento, así como la responsabilidad.
Para los sistemas autónomos de armamento, estas preguntas incluyen cómo garantizar que dichos sistemas se utilicen en pleno cumplimiento con el derecho humanitario internacional y las normas internacionales de derechos humanos.
Al igual que con todos los dispositivos conectados en red, los sistemas de armas mejoradas basados en la inteligencia artificial también podrían ser vulnerables a la interferencia externa o piratería informática, aumentando aún más las posibilidades de error de cálculo y confusión.
La democratización de la tecnología y su difusión sin precedentes ha sido una bendición para millones, y las aplicaciones basadas en inteligencia artificial no son una excepción.
Sin embargo, también se debe tener cuidado con respecto a cómo se podría usar esta tecnología. Los actores no estatales malintencionados, como los grupos terroristas, muestran una aptitud cada vez mayor para usar la tecnología para sus propios fines, como los ataques con drones o el reclutamiento en línea.
Como dijo recientemente el Secretario General Guterres, "Nuestro desafío es maximizar los beneficios de la revolución tecnológica a la vez que atenuamos y prevenimos los peligros".
Hacerlo requiere una respuesta multifacética.
Pero antes de que nosotros, y con nosotros, me refiero a la comunidad internacional, incluso comencemos, debemos mantener conversaciones serias para comprender mejor cómo esta tecnología ya se está utilizando, así como sus ramificaciones a largo plazo.
Debemos asegurarnos de que esas deliberaciones sean incluyentes; los niveles de comprensión sobre la IA y sus aplicaciones varían, y todos debemos avanzar en la misma línea.
También necesitamos desarrollar las coaliciones de múltiples partes interesadas necesarias para abordar los desafíos y las oportunidades de la revolución de la inteligencia artificial.
El sector privado es un factor clave detrás de gran parte de esta tecnología, y muchas empresas líderes en el campo ya han dicho que temen que los avances logrados puedan ser armados o reutilizados de maneras que desafíen nuestra capacidad colectiva de responder.
Además de la industria, los gobiernos también deberían celebrar discusiones con organizaciones humanitarias y el mundo académico sobre la vanguardia de las innovaciones basadas en IA.
Por último, existe un espectro de posibles respuestas que podrían ser necesarias, desde enfoques de "soft law" como los códigos de conducta de la industria, a medidas de transparencia y confianza más formales, y, en caso necesario, a instrumentos jurídicamente vinculantes. Cada una de estas posibilidades debe ser examinada adecuadamente.
Creo firmemente que las Naciones Unidas siguen siendo el foro en el que la comunidad mundial puede abordar los desafíos apremiantes de la paz y la seguridad de la época, incluidos los planteados por la inteligencia artificial y otras tecnologías emergentes.
Algunos de los riesgos y desafíos asociados con el inicio y diversas aplicaciones de nuevas tecnologías ya se están abordando en la ONU.
Por ejemplo, la Convención sobre Ciertas Armas Convencionales sirve como uno de esos foros para que los países debatan las posibles aplicaciones de la IA con una variedad de partes interesadas, así como las opciones de política para abordar las preocupaciones.
Como dijo el Secretario General, ahora es el momento de que todos nosotros nos unamos y "consideremos qué debería constituir un comportamiento estatal responsable y una innovación responsable", incluso en el campo de las innovaciones y aplicaciones basadas en la inteligencia artificial.
Ahora tenemos la oportunidad de construir entendimientos compartidos y asegurarnos de que los beneficios de la IA se distribuyan de manera equitativa que respalde la prosperidad y la seguridad de todos. Es una oportunidad que debemos aprovechar.
Izumi Nakamitsu
Subsecretario General de las Naciones Unidas y Alto Representante para Asuntos de Desarme
La Sra. Izumi Nakamitsu asumió su cargo de Secretaria General Adjunta y Alta Representante para Asuntos de Desarme el 1 de mayo de 2017.
Antes de asumir este cargo, la Sra. Nakamitsu se desempeñó como Administradora Auxiliar de la Dependencia de respuesta ante crisis en el Programa de las Naciones Unidas para el Desarrollo desde 2014.
Tiene muchos años de experiencia dentro y fuera del sistema de la ONU, más recientemente como Asesora Especial Ad Interim en el seguimiento de la Cumbre para abordar los grandes movimientos de refugiados y migrantes entre 2016 y 2017.
Anteriormente fue directora de Asia y Medio División Este del Departamento de Operaciones de Mantenimiento de la Paz de la ONU entre 2012 y 2014, y Director de la División de Política, Evaluación y Capacitación del Departamento, de 2008 a 2012.
Nacida en 1963, la Sra. Nakamitsu tiene una Maestría en Ciencias del Servicio Exterior de la Universidad de Georgetown en Washington, D.C. y una Licenciatura en Derecho de la Universidad de Waseda en Tokio.
Ella está casada y tiene dos hijas.
ai.xprize.org
