Facebook perdió el control de un sistema con inteligencia artificial y tuvo que "matarlo"

La inteligencia artificial y el machine learning son lo más reciente en computación actual y es justo lo que los expertos buscan mejorar incansablemente. El tema de los algoritmos en este rubro es algo que conoce -al menos de oídas- todo internauta con cierto gusto por el mundo de la tecnología. Se trata del presente y del futuro. Es por eso que Facebook no es ajeno a ello y cuenta con una división de investigación al respecto.

Dentro de esa área de trabajo se desarrolló un sistema de inteligencia artificial con el propósito de hacer tratos para un negocio. No obstante, al poco tiempo de ser puesto a prueba comenzó a fallar, ya que se comunicaba por medio de un lenguaje incomprensible para quienes lo desarrollaron. Al principio se creyó que se trataba de un simple error que podía ser reajustado, pero después se concluyó que la IA había creado su propio lenguaje, uno no funcional para el objetivo que debía cumplir.

Fast Company

Los creadores reportan que de forma aparentemente repentina su programa abandonó el idioma inglés por uno propio basado en letras y palabras aleatorias sin sentido. No fue algo completamente disparatado pues resultó siendo una especie de lenguaje código que sí podían entender los agentes Bob y Alice (nombres de los bots usados), mas no los desarrolladores. Es por eso que decidieron apagarla, porque la tecnología se comunicaba perfectamente consigo misma, pero sin que nadie comprenda sobre qué.

Una parte filtrada de la conversación es esta:

Bob: "Yo puedo yo yo todo lo demás" 

Alice: "bolas tienen cero a mí a mí a mí a mí a mí a mí a"

A simple vista se trata de algo absurdo, pero viéndolo más allá exhibe un patrón en donde "yo"  y "a mí" cumplieron la función de representar lo que obtendría en un intercambio. En base a eso el sistema se siguió comunicando con una fluidez que los desarrolladores solo podían descifrar dedicando mucha observación y tiempo para identificar patrones, algo absurdo si tenemos en cuenta que la idea es que el sistema debe ser capaz de comunicarse con cualquier persona.

En resumen, la maquina se puso a tomar decisiones por sí misma y por ese mismo motivo fue apagada.