Elon Musk (Tesla) y Mustafa Suleyman (Google DeepMind) piden prohibir las armas autónomas

Alejo I
4 13 15
Noticias » Tecnología
Desde el transporte de personas y mercancías a los procesos de producción, la inteligencia artificial sustituirá al factor humano en un amplio número de actividades. Este imparable proceso de automatización tiene su máxima representación en los sistemas de conducción autónoma, pero hay otros aspectos potencialmente más polémicos y que todavía no han sido debidamente explorados. La aplicación de este tipo de tecnologías al mundo militar es sin duda un punto llamado a suscitar controversia, y si ya era conocido el rechazo de Elon Musk a los sistemas autónomos sin supervisión humana, ahora el fundador de Tesla, SpaceX y OpenAI ha dejado su firma junto a la de más de 100 expertos que piden la prohibición de las armas letales autónomas.

La carta, que cuenta con el apoyo de Mustafa Suleyman (máximo responsable de Google DeepMind) y Jerome Monceaux (Aldebaran Robotics) entre los 116 signatarios, todos ellos fundadores de diversas compañías especializadas en IA y robótica, urge a las Naciones Unidas a tomar medidas contra la proliferación de armas letales autónomas, aquellas capaces de tomar sus propias decisiones sin necesidad de intervención humana.

Difundida para coincidir con la International Joint Conference on Artificial Intelligence de Melbourne, uno de los eventos más importantes de todos los relacionados con la inteligencia artificial, la carta refleja las preocupaciones de los expertos y remarca su creencia de que este tipo de tecnologías deberían estar reguladas a nivel internacional por el riesgo que representa su posible uso. De forma más concreta, el texto hace énfasis en la industrialización de la guerra y la posibilidad de que sus sistemas de comunicación puedan ser vulnerados:

Las armas letales autónomas amenazan con convertirse en la tercera revolución en el campo de batalla. Una vez desarrolladas, permitirán que los conflictos armados se desarrollen a una escala mayor que la conocida hasta ahora y a una velocidad mucho mayor de la que los humanos pueden comprender.

Estas pueden ser armas de terror, armas que déspotas y terroristas utilicen contra poblaciones inocentes, y armas hackeadas para comportarse de formas no deseadas. No tenemos mucho tiempo para actuar. Una vez abierta esta caja de Pandora, será difícil de cerrar.

Los proponentes de la prohibición de las armas letales autónomas piden que sean recogidas en el Convenio sobre Ciertas Armas Convencionales, un documento que por ejemplo prohíbe el uso de armas láser diseñadas para cegar al enemigo.

El uso de armas autónomas puede parecer reminiscente de películas de ciencia ficción como la serie Terminator, pero tiene muy poco de fantasía. A pesar de que su despliegue todavía es muy limitado, Corea del Sur tiene en su frontera con Corea del Norte un número secreto de torretas Samsung SGR-A1, que se caracterizan por su capacidad para detectar la presencia de una fuerza enemiga y responder (con advertencias acústicas o fuego real) sin intervención humana cuando están programadas para ello. Ya en las nubes, experimentos más recientes investigan el potencial de la inteligencia artificial distribuida para tácticas aéreas de swarming.

Los partidarios de las armas letales autónomas afirman que su uso en lugar de tanques, aviones o incluso soldados resultaría en un menor número de víctimas. Sus detractores, por contra, creen que los estados o grupos con acceso a este tipo de armas solo tendrán un mayor incentivo para lanzar ataques más numerosos y masivos, al tiempo que se emborronan las líneas que permiten establecer la responsabilidad moral de su uso. Los miembros de las Naciones Unidas deberán valorar los argumentos de unos y otros cuando llegue el momento de revisar el Convenio sobre Ciertas Armas Convencionales.
15 comentarios
  1. yo las prohibiría todas autónomas y nno autónomas. solo para fuerzas de seguridad y el resto a jugar a las chapitas o al counter.
  2. A mi no me dejan sin estás:

  3. (imagen)

    [boma]
  4. Samsung SGR-A1.....Asi que Samsung ya hacía armas antes de instalarlas en los note 7.....
  5. Mustafa es fiel a su AK-47
  6. esos tipos ven muchas pelis [facepalm]

    de todas maneras los únicos autómatas que deberían existir pero para hoy serían de este tipo

    (spoiler, visita la página completa para verlo)
  7. Y la paz mundial, y un traje como el de Iron man para Elon Musk.... bueno otro.
  8. Pues es un tema muy serio y no lo veo ninguna broma, juegate lo que quieras, pero seguro al 100% que en la tercera guerra mundial estos cacharros autonomos van hacer mas pupa que nada que se haya visto anteriormente, a mi esto me recuerda horrores a COD Blacks Ops II, con miles de drones posados en las mayores potencias mundiales dispuestos a soltar toda su carga solo con un boton, eso es ficcion, pero no dista mucho de lo que podria pasar en la realidad.

    Ni peliculas ni ostias, probablemente lo vivas ;) , aun que no tan avanzado como en COD BO2 xD.

    No va servir de nada que quieran prohibirlo porque no lo van hacer, en una guerra van a usar todo lo que tengan a mano, lo jodido es que otros, como los terroristas, lo usen antes de la cuenta para crear masacres, y me se de 3 o 4 presidentes que a la minima que les hagan con lo quemados que estan (y uno expectante deseando lucirse, a la espera de que algo se inicie para lanzar toda su potencia de la que tanto vacila, y con la que con tanto afán ignora las advertencias que le hacen, le suda el rabo porque nadie quiere cabrearle, no tiene cojones por la cuenta que nos trae a todos), y empiecen a lanzar pepinos y se armen los conflictos, ya veras ya, tiempo al tiempo, y dudo que necesites mucho para verlo [360º]

    Con un poco de suerte se va todo a la mierda, una raza corrupta que mata por gilipolleces y creencias falsas y algunos por pura prepotencia, y que ha envenenado sin remedio su propio planeta, el cancer de este mundo es la raza humana, es un hecho, dan asco todos, dais asco todos, y yo tambien, pero un poco menos [qmparto]
  9. (imagen)

    (imagen)

    Ya se han usado algunos drones hasta con rifle francotirador. Estos dispositivos a distancia evitan que los soldados sean heridos. Incluso actuando en zonas de difícil acceso o con poca maniobrabilidad.

    Pueden contener bombas o utilizarse como explosivos de proximidad que están utilizando los terroristas ahora mismo.

    Es normal que quieran prohibirlas, pero no van a ser prohibidas porque estos "juguetes" son beneficiosos para un ejercito sin tener en cuenta las consecuencias si son enviadas en contra suya.

    Además es posible actuar en su frecuencia o inhibidores para evitar que se acerquen más de lo debido.
  10. Aruma escribió:(imagen)

    (imagen)

    Ya se han usado algunos drones hasta con rifle francotirador. Estos dispositivos a distancia evitan que los soldados sean heridos. Incluso actuando en zonas de difícil acceso o con poca maniobrabilidad.

    Pueden contener bombas o utilizarse como explosivos de proximidad que están utilizando los terroristas ahora mismo.

    Es normal que quieran prohibirlas, pero no van a ser prohibidas porque estos "juguetes" son beneficiosos para un ejercito sin tener en cuenta las consecuencias si son enviadas en contra suya.

    Además es posible actuar en su frecuencia o inhibidores para evitar que se acerquen más de lo debido.

    Que yo sepa no se han usado en ningún conflicto, de hecho la segunda foto es de una noticia que no se si salió ayer o antes de ayer de que habían conseguido solucionar el tema del retroceso, y que estaban intentando vender esos drones a algún ejercito que los quiera, y que parece ser que las primeras pruebas no consiguieron que volase más de 5 min. (Lo vi en Xataka si no recuerdo mal)
Ver más comentarios »