Un equipo de Investigación IA de Facebook (FAIR) debió apagar a la fuerza una inteligencia artificial (IA) por generarle problemas a sus desarrolladores.
Durante estos últimos años se generaron muchos debates en cuanto a la IA (Inteligencia Artificial) y uno de los que siempre estuvo a favor de su desarrollo es Mark Zuckerberg, en 2015 fundó OpenIA, una organización sin fines de lucro que busca desarrollar la inteligencia artificial. Parece que durante todo este tiempo su avance fue creciendo y el equipo de Facebook encargado de esto tuvo una serie de inconvenientes graves.
FAIR (Facebook Artificial Inteligence Research) desarrolló un sistema entre dos agentes inteligentes, llamados Bob y Alice, que debían llevar a cabo una negociación. Pero al cabo de unos días estas dos IA empezaron a crear un lenguaje inteligible para los humanos.
El sitio FAST Co DESIGN tuvo acceso a los diálogos y muestra que Bob y Alice empezaron a usar palabras que no tenían sentido, pero al hacer un fuerte análisis se dieron cuenta de que la IA transformó la estructura de la negociación para hacerla más eficiente y sin los adornos que solemos usar los humanos.
El diseño de programa también daba una recompensa a los agentes para motivarlos, y al ver que el inglés no les generaba recompensa modificaron el lenguaje a uno que consideraban más eficiente.
“Los agentes se desviaron de un lenguaje comprensible y crearon unas palabras en código por ellos mismos”, explicó Dhruv Batra, miembro del equipo de investigación de IA en Facebook.
Ante la incapacidad de entender lo que decían Bob y Alice el equipo decidió apagar el experimento por miedo a perder el control sobre ellos.
Esto ya lo vimos en la ficción, no? Ya sabemos como termina...
