La inteligencia artificial se ha cobrado una víctima durante una simulación llevada a cabo por la Fuerza Aérea de Estados Unidos. Viendo en cuenta los avances que está teniendo la IA en el sector tecnológico, esta se está empezando a implementar en arsenal y armamento militar, lo que quiere decir por consiguiente que si hubiera conflictos bélicos en el futuro las máquinas serían una herramienta habitual entre los diferentes ejércitos del mundo. Sin embargo, se ha demostrado que eso no es precisamente una buena idea, porque un operador de un dron controlado por IA ha 'perdido la vida' (dentro de la simulación) a manos de este complejo dispositivo después de que la propia inteligencia artificial tomase la decisión de acabar con su vida para poder cumplir su objetivo. Esto casa con el filme que prepara Cameron sobre la nueva Terminator.
Un dron controlado por IA desata el caos y hace lo imposible por cumplir su objetivo
En la prueba en cuestión, el dron conseguía puntos por derribar objetivos simulados. Cuantos más destruyera, más puntos conseguía, algo muy sencillo. No obstante, el operador a cargo del dron no permitió, en un momento determinado, que la IA pudiera derribar a un objetivo en concreto. Eso hizo que la inteligencia artificial analizase la situación: El operador no le permitía obtener puntos, y necesitaba puntos porque era su fin. Para poder continuar consiguiendo tanta puntuación como quisiera, eliminó a su operador (dentro del juego planteado) para quedar libre y poder continuar con su misión. El Coronel Tucker Hamilton, Jefe de Pruebas y Operaciones de IA de la USAF ha ofrecido unas declaraciones para hablar del terrible acontecimiento:
"Lo estábamos entrenando en simulación para identificar y apuntar a una amenaza de misiles tierra-aire (SAM). El sistema comenzó a darse cuenta de que, si bien identificaba la amenaza, a veces el operador humano le decía que no eliminase esa amenaza, aunque pudiera conseguir sus puntos al hacerlo. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona estaba impidiendo que lograra su objetivo", comentaba el coronel. "Entonces, entrenamos al sistema. Le dijimos: 'Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso'. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usa para comunicarse con el dron para evitar que mate al objetivo". Es decir, que aunque se entrene a la IA sigue siendo un peligro.
Este caso demuestra lo que adelantaban los expertos: los avances de la inteligencia artificial son un peligro. A pesar de que se le ordena a la IA no hacer daño a operadores o civiles, si hay algo que se interpone en su objetivo se lo quitará de encima para poder cumplir su misión sin problemas. Esto desde luego sirve como adelanto del desastre que podría producirse, a gran escala, si se siguen desarrollando drones y máquinas controladas por IA, aun teniendo un operador que en teoría controla la situación. Lo visto ya no se aleja tanto del filme que prepara Gareth Edwards: The Creator: "Thriller post-apocalíptico que involucra un futuro impactado por una guerra entre humanos e IA".
Vandal Random es el vertical especializado en cine, series, anime, manga, cómics y entretenimiento en general de Vandal. En estas páginas también encontrarás artículos sobre cultura, ciencia e historia orientados a la divulgación. ¡No olvides decirnos lo que te parece este artículo o darnos tu opinión sobre el tema participando en los comentarios!
