Inteligencias artificiales crean un idioma que no podemos entender

Se llamaban Alice y Bob. Se hicieron amigos a base de regatear. De tanto hablar, de tanta complicidad, terminaron por crear su propia lengua. Hace unos días fueron desconectados, porque eran robots.

La historia ocurrió en los laboratorios de Facebook (FAIR). Sus investigadores están acostumbrados a crear inteligencias artificiales y algoritmos destinados a controlar nuestros timelines y aplicaciones desarrolladas dentro de su ecosistema. Estaban ensayando con una nueva dedicada a la negociación automática.

Los ingenieros hicieron la programación básica. En inglés, claro. Sombreros, pelotas, libros y semejantes objetos poblaron su mundo de regateos en compraventas vituales. Luego, llega la magia del machine learning (aprendizaje automático). Dejaron a Alice y Bob a su libre albedrío cuando, un día, empezaron a ver los derroteros por los que iban sus conversaciones:

–Bob: "Puedo puedo yo todo lo demás"
–Alice: "Pelotas son cero para mí, para mí, para mí, para mí, para mí"

¿Se habían vuelto locas estas inteligencias artificiales? No. Sus interacciones llegaban a conclusiones, pero sus conversaciones eran ininteligibles para los humanos. Alice y Bob se entendían entre sí y negociaban bastante bien. Habían creado su lenguaje a partir de un puñado de palabras humanas aprendidas.

"La negociación es, a la vez, un proceso lingüístico y razonamiento", señala Mike Lewis, del equipo de desarrollo de inteligencia artificial de Facebook. "En este proceso, cada intento debe ser formulado y expresado verbalmente. Esos diálogos tienen elementos cooperativos y de confrontación, exigiendo a los agentes entender y expresar planes a largo plazo para conseguir sus objetivos", según se señala en el artículo de Code que presenta en proyecto.

Fotograma de 'Colossus', película en que dos máquinas hablan en una lengua inventada

El problema aquí es que Alice y Bob "no tenían ningún aliciente para seguir hablando en inglés", apunta Dhruv Batra, profesor visitante de Georgia Tech en Facebook. "Los agentes fueron programados para ser los más eficaces negociadores, pero carecían de iniciativa para hablar como las personas normales, así que empezaron a divagar, metiendo palabras legibles en frases aparentemente sin sentido", apostilla Batra a Fast Company.

No sabemos bien cómo piensan las máquinas

Uno de los retos de la inteligencia artificial es saber cómo piensan las máquinas. Por extraño que parezca, a partir de unas pautas básicas, el aprendizaje de las máquinas escapa en parte a nuestro conocimiento. De alguna manera, el surgimiento del lenguaje entre ellas, también.

Captura de una conversación con Eliza

La historia de Alice y Bob en realidad es bastante antigua. En 1964 se llamaba Eliza. El MIT ideó un robot conversacional (chatbot) que podía mantener una conversación con un usuario (se puede probar aquí). Su aplicación fue psiquiátrica. El problema es que el argumentario de Eliza era bastante pobre y terminaba por decir incongruencias repetitivamente. Con todo, a algunos pacientes la terapia les funcionó.

Ahora, se trata de ver si Alice y Bob empezaron a hablar a su modo, tal como los humanos creamos idiomas, dialectos o jergas. En el último de los casos, suele haber una motivación, como ocultar al resto de la comunidad los trapicheos entre dos personas. ¿Estaban Alice y Bob, intencionadamente, trapicheando como dos camellos de The Wire? ¿O habían generado un idioma de manera natural, como lo hubiera hecho una comunidad humana, pero en tiempo acelerado?

Por si alguien quiere jugar en casa con Alice y Bob, aquí va su código fuente. Por el momento, nada hace pensar que vayan a rebelarse y conquistar el mundo a base de pelotas, libros y sombreros.