Armas Autónomas: una carta abierta de investigadores sobre Inteligencia Artificial (IA) y robótica

CompartirTweet about this on Twitter

Armas Autónomas: una carta abierta de investigadores sobre Inteligencia Artificial (IA) y robótica

Un gran número de personalidades de la ciencia y la tecnología han firmado una carta abierta pidiendo a los gobiernos del mundo que se prohíba el desarrollo de “armas autónomas ofensivas” con el objetivo de evitar una carrera armamentista militar a través de la Inteligencia Artificial (IA).

Terminator

Desde los años 60, el complejo industrial militar norteamericano ha realizado grandes inversiones en materia de ciencia y tecnología, con el objeto de ser mas eficientes y eficaces en las guerras que desarrolla en todo el mundo, lo que se traduce, nefastamente en ser mejores matando personas y destruyendo países. Entre algunos de los proyectos  más emblemáticos que han sido financiados por el Departamento de Defensa (DoD) de los EEUU resaltan el desarrollo del avión por parte de los hermanos Wright, el diseño del primer submarino motorizado,  desarrollo de la energía nuclear para bomba atómica como arma de destrucción masiva y la puesta en marcha de ARPANET, el precursor del Internet moderno. Algunos de estos proyectos, han traído grandes avances en el desarrollo de la sociedad moderna, mientras que otros, grandes sufrimientos, dado que el desarrollo de la ciencia y la tecnología ha sido usada como arma privilegiada en la guerra moderna.

Personalidades como Stephen Hawking, Elon Musk, Noam Chomsky y Stephen Wozniak se han mostrado muy preocupados acerca del uso militar que se le esta dando a la inteligencia artificial y a la robótica, ya que actualmente el aparato industrial militar de los EEUU y de otros centros de poder mundial, esta realizando fuertes inversiones para lograr armas autónomas, capaces en el corto y mediano inclinar la balanza en el campo militar y lograr mayor nivel de control en el área civil.

avión militar no tripulado con misiles

avión militar no tripulado con misiles

Sobre el papel que juega la inteligencia artificial en la guerra, el profesor Noel Sharkey, de la Universidad de Sheffield, analiza los posibles problemas de las armas autónomas ofensivas. Por ejemplo, los robots no pueden cumplir dos principios básicos de la guerra:  el primero es la capacidad de discernir entre amigos y enemigos , que a veces es difícil para los mismos seres humanos en una guerra moderna y el segundo es la proporcionalidad de la fuerza, la cual se trata acerca de la cantidad de fuerza considerado razonable en una situación dada.

Holywood desde la década de los 80, ha asomado como será la guerra en el futuro, con robots con alto nivel de inteligencia y en consecuencia los seres humanos  amenazados  en su propia existencia. Películas como Terminator, Robocops y Matrix, son ejemplo del posicionamiento de esta idea colectiva por parte del aparato mediático internacional, el futuro de la guerra no es posible sin los robots.

Lamentablemente el grupo de investigadores de inteligencia artificial y robótica que suscriben ésta carta, pierden la oportunidad, por conveniencia o desconocimiento, de sentar una posición firme en contra de la carrera armamentista de las grandes potencias militares, las cuales invierten muchos esfuerzos en querer usar esas tecnologías contra pueblos del mundo en sus ansias de dominación mundial. Según la carta, el principal riesgo del uso de estas armas autónomas, se centra en “grupos extremistas” y “dictadores opresores” ansiosos de más poder, aún cuando esto puede ocurrir, solo falta ver cuales son los países que más invierten y usan tecnología militar hoy día, para identificar que el principal riesgo está en los países como EEUU, Francia e Israel, los cuales han participado recientemente en guerras e invasiones en Siria, Irak y Afganistán con todo su poderío militar y usando tecnología de punta.

Ciencia y Tecnología en Venezuela

Avión no tripulado Arpia

Avión no tripulado Arpia

En Venezuela han habido grandes esfuerzos en desarrollar la ciencia y la tecnología en tiempos de la Revolución Bolivariana, pero desde una visión de paz y de integración, proyectos como el satélite Simón Bolívar y satélite Miranda, en donde se facilitan las condiciones para que millones de venezolanos y latinoamericanos mejoren el acceso a la educación y la salud, son muestra de un alto interés social de la tecnología por parte del estado, también están proyectos como el Arpía, el cual es un avión no tripulado que es usado para reconocimiento territorial en zonas fronterizas y de nuestras zonas petroleras, el mismo fue desarrollado por la Fuerza Armada Nacional Bolivariana. Es decir el estado Venezolano invierte en ciencia y tecnología, pero para mejorar las condiciones de vida de los venezolanos no para la guerra, esa es la ciencia que me gusta.

A continuación la carta completa traducida al español:

Armas Autónomas: una carta abierta de investigadores de la inteligencia artificial (IA) y robótica

Las Armas Autónomas podrían seleccionar y atacar objetivos sin intervención humana. Podrían incluir, por ejemplo, cuadricópteros armados que pueden buscar y eliminar personas que cumplan con ciertos criterios pre-definidos. Las armas autónomas no incluye a los misiles de crucero o aviones no tripulados a control remoto en donde los seres humanos toman todas las decisiones de orientación. Las tecnologías de Inteligencia Artificial (AI) ha llegado a un punto en que el despliegue de este tipo de sistemas es – prácticamente si no legalmente – factible dentro de pocos años, no décadas, y las apuestas son altas: las armas autónomas se han descrito como la tercera revolución en la guerra, después de la pólvora y las armas nucleares.

Muchos argumentos se han hecho para y contra las armas autónomas, por ejemplo que la sustitución de los soldados humanos por máquinas es buena por reducir las bajas para quienes participan en el enfrentamiento, pero mal por lo que reduce el umbral para ir a la batalla. La pregunta clave para la humanidad de hoy es si desea iniciar una carrera mundial de armas de inteligencia artificial o para evitar que se inicie. Si alguna potencia militar sigue adelante con el desarrollo de armas de inteligencia artificial, una carrera mundial de armas es prácticamente inevitable, y el punto final de esta trayectoria tecnológica es obvia: las armas autónomas se convertirán en los Kalashnikovs del mañana. A diferencia de las armas nucleares, no requieren materias primas costosas o difíciles de obtener , por lo que se convertirá en algo ubicuo y barato para todos los poderes militares su producción en masa. Sólo será cuestión de tiempo hasta que aparezcan en el mercado negro y en las manos de los terroristas, o en dictadores  que deseen controlar mejor su población, señores de la guerra que deseen perpetrar limpieza étnica, etc. Las Armas Autónomas son ideales para tareas tales como asesinatos, desestabilización de naciones o para  someter a las poblaciones,  matando selectivamente un grupo étnico en particular. Por ello creemos que una carrera de armas de inteligencia artificial militar no sería beneficioso para la humanidad. Hay muchas formas en que la inteligencia artificial puede hacer campos de batalla más seguros para los seres humanos, especialmente los civiles, sin crear nuevas herramientas para matar a la gente.

Al igual que la mayoría de los químicos y biólogos no tienen ningún interés en la construcción de armas químicas o biológicas, la mayoría de los investigadores de la inteligencia artificial no tienen ningún interés en la construcción de armas de inteligencia artificial – y no quieren otros para empañar su campo al hacerlo, creando potencialmente una importante reacción pública contra la inteligencia artificial que cercena sus futuros beneficios para la sociedad. De hecho, los químicos y biólogos en general han apoyado los acuerdos internacionales que han prohibido con éxito las armas químicas y biológicas, al igual que la mayoría de los físicos han apoyado los tratados que prohíben las armas nucleares espaciales y las armas láser cegadoras.

En resumen, creemos que la inteligencia artificial tiene un gran potencial para beneficiar a la humanidad de muchas maneras, y que la meta es hacerlo. El inicio de una carrera armamentista de inteligencia artificial militar es una mala idea, y debe ser impedido por la prohibición de las armas ofensivas autónomas más allá del control humano significativo.

Esta entrada fue publicada en Reflexión, Un Mundo Mejor y etiquetada , , , , . Guarda el enlace permanente.

2 respuestas a Armas Autónomas: una carta abierta de investigadores sobre Inteligencia Artificial (IA) y robótica

  1. Pingback: La tecnología del futuro y la 4ta Revolución Industrial -Ciencia con Conciencia

  2. Pingback: Cláusula contra el uso militar de la ciencia, aportes para la Asamblea Nacional Constituyente (ANC) -Ciencia con Conciencia

Deja un comentario