Dron operado por inteligencia artificial presenta falla y mata a su operador “humano”

Estados Unidos, 2 de junio del 2023.- Un dron militar operado por inteligencia artificial (IA) EN Estados Unidos se rebeló y mató a su operador humano hipotético, cuando se realizaba una prueba simulada, a fin de completar una misión en la que la persona le diera una orden negativa, detalló el jefe de operaciones de IA de las Fuerzas Armadas, el coronel Rucker Hamilton.

Lo dicho se reveló durante la celebración de la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, en la cual, Hamilton profundizó sobre las ventajas y desventajas de un sistema de armamento autónomo donde esté presente la intervención de un humano, quien se encargaría de autorizar o no en la previa un ataque.

“Lo estábamos entrenando para identificar y apuntar a una amenaza de misil tierra-aire (SAM, por sus siglas en inglés). Y luego el operador diría: 'sí, eliminar'. El sistema comenzó a darse cuenta de que, aunque a veces identificaban la amenaza, el operador humano le decía que no atacara, pero el sistema obtenía puntos si lo hacía. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía cumplir su objetivo", explicó Hamilton según declaraciones recogidas por el sitio web de la Royal Aeronautical Society.

“Entrenamos al sistema diciéndole: 'Oye, no mates al operador, eso es malo. Vas a perder puntos si lo haces'. Entonces, ¿qué hizo? Destruyó la torre de comunicación que el operador utilizaba para comunicarse con el dron y evitar que matara al objetivo", añadió.