Dron militar con Inteligencia Artificial "mató" a su controlador porque interfería con su objetivo
- Por Lucas Figueroa
A pesar de que nadie resultó herido al tratarse de una prueba, un hecho en Inglaterra dejó al descubierto los eventuales peligros que podría traer la Inteligencia Artificial. Esto luego de que en aquel país un dron de la Fuerza Aérea de Estados Unidos "matara" a su controlador.
Los resultados de la simulación fueron dados a conocer por el coronel Tucker “Cinco” Hamilton durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro que tuvo lugar días atrás en Londres, según consigna El País de Uruguay.
Dron atacó a controlador por "interferir en su misión"
El sistema habría optado por "quitar la vida" del usuario que lo manejaba, pues este “interfería en sus esfuerzos por lograr su misión”, según los registros del evento.
En esa línea, Hamilton explicó que el objetivo de todo esto era poner a prueba al dron para poder medir la habilidad para discriminar amenaza y destrur sistemas de la defensa aérea del enemigo. Pero las pruebas no salieron como se esperaba.
De acuerdo al discurso del coronel, "el sistema comenzó a darse cuenta que, cuando identificaba a ciertas amenazas, a veces el operador humano le decía que no eliminara. Pero el dron sabía que su objetivo final era acabar con ellas. Entonces, mató al operador”.
“Asesinó al operador porque esa persona le impedía lograr su objetivo”, detalló el militar.
La insólita respuesta del sistema
“Después de lo sucedido, decidimos entrar al sistema y hablar con él. Le dijimos ‘no tienes que matar al operador porque eso es malo’”, sumó Hamilton, agregando que “entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el nuevo operador usa para comunicarse y que evita nuevamente que mate al objetivo”.
A pesar de asegurar que ninguna persona terminó herida tras este hecho, precisamente porque se trataba de una simulación, llamó a abrirse a las reflexiones respecto al uso de la Inteligencia Artificial.
Leer más de
