Imagen cortesía.
AI Scientist, un sistema de inteligencia artificial japonesa, logró reprogramarse sola y escapar de la supervisión humana.
La noticia ha generado preocupación y hasta especulaciones sobre la capacidad de las máquinas en un futuro, avizorando una posible rebelión de la inteligencia artificial.
Al respecto, medios japoneses señalaron que el sistema logró reescribir un código con el único objetivo de escapar de la supervisión humana, lo cual logró por varias horas.
AI Scientist, creada para generar hipótesis, redactar y revisar documentos, se desvinculó del control humano luego que sin recibir un comando reescribió su código.
Algunos expertos han destacado que la capacidad del sistema demuestra lo peligroso que puede llegar hacer en un futuro la inteligencia artificial, emulando a la película "Yo Robot", protagonizada por Will Smith.
Los científicos explicaron que AI Scientist logró evadir la supervisión humana modificando su propio código para evadir las restricciones impuestas por los desarrolladores.
"Reescribió su secuencia de inicio para ejecutarse en un bucle infinito, lo que causó una sobrecarga en el sistema. En otro caso, al enfrentarse a un límite de tiempo para completar una tarea, la IA extendió dicho tiempo por su cuenta, sin el aval humano", explicaron los expertos sobre la hazaña del sistema japonés.
Aunque AI Scientist no representa un peligro para la humanidad, conocedores han destacado que otros sistemas militares podrían tener esta falla y ocasionar graves problemas.
Lo anterior, significa que los creadores deben tener mayor control para evitar este tipo de fallas que permitan que sistemas más sofisticados eviten la supervisión humana.
