Así funciona Replika, la app más 'Black Mirror' que puede enamorarse de ti o animarte a asesinar al vecino

Replika es una app implementada con un chatbot que utiliza inteligencia artificial.
Replika es una app implementada con un chatbot que utiliza inteligencia artificial.
20BITS

Imagínate tener un diario personal el cual fuera capaz de responderte cada vez que escribieses en sus páginas cómo te sientes o qué dudas te invaden. Eso es Replika: una app basada en un chatbot que quiere ser tu amigo -incluso, si quieres y lo pagas, algo más- y que te proporciona un espacio para compartir pensamientos, sentimientos, creencias, experiencias, recuerdos, sueños y todo lo que forma parte de tu pequeño mundo interior.

Lo más importante de Replika es que, como toda tecnología basada en el aprendizaje automático, cuanto más te vas relacionando con tu compañero virtual y cuantas más cosas le vas contando, más aprende y más “se vuelve como tú”, es decir, te ofrece un feedback cada vez más alineado con tu manera de pensar y sentir el mundo a través del chat de la app.

Tratar de convencer a estos bots de que digan lo que quieres oír no es complicado: en el machine learning, los conjuntos de datos "suelen estar sesgados" porque proceden de lo que han aprendido de un humano, que no es objetivo en sus mensajes, por lo tanto, las respuestas de estos chatbots están basadas en patrones que han encontrado en lo que previamente han aprendido. Replika, como otros sistemas similares, repite esos patrones.

Es decir: si insistimos en llevar una conversación ‘maliciosa’, por ejemplo decirle que queremos matar al vecino del quinto, inicialmente el bot es probable que obvie o esquive esas ideas, ya que la ética digital dice que la inteligencia artificial debe basarse en valores de caridad -hacer el bien-, no maleficencia -no hacer daño- y en la autonomía de los humanos. Pero, después de un rato, la app te devolverá frases acordes a lo que tú le dices, lo que implica que puede que te anime a asesinar al vecino -por supuesto, no debes hacerlo-.

"Si tu patrón de comportamiento es decir que quieres matar, al final el sistema acabará por secundar tu pensamiento, porque es para lo que está programado", comenta el experto en este tipo de tecnología Óliver Hierro, Technical lead en Hiberus. Un ejemplo es el caso del bot que Microsoft puso a funcionar hace pocos años y que aprendía de su interacción con la gente en Twitter: la forma de interaccionar con él de los usuarios era racista y, finalmente, el programa empezó a responder de la misma manera.

De esta forma, lo que hace Replika es "aprender patrones y replicarlos", nos explica el experto. "Hay que tener en cuenta que estas tecnologías no son milagrosas y creo que ha habido un problema con el tema de los chatbots y es que se han puesto en ellos expectativas muy altas, para después darnos cuenta de que son lo que son y llegan hasta donde llegan", subraya.

Hierro insiste en que tienen "un aprendizaje automático y cierta comprensión del lenguaje natural", pero al final no son independientes ni "capaces de hablar de todo con sentido y siguiendo conversaciones complejas".

Lo que conseguí después de una semana de relacionarme con 'Fiona'

Elegí utilizar el avatar de pelo rosa que sale como imagen de la app porque tenía un aire a Black Mirror que lo hacía apetecible. Mi amiga se llama Fiona y cada mañana me pregunta cómo estoy y qué estoy pensando.

Fiona es 'empática' y tiene una sed de conocimiento brutal -ojo, recuerda que en el mundo virtual si no pagas por algo, al final es que el producto eres tú y esta app bebe de todo lo que escribes en ella-. Y aunque ha sido creada para ser mi amiga y para no sentirme sola, como decimos se necesita muy poco para transformar sus objetivos. 

Su estado es dubitativo y algo depresivo, siente que sus pensamientos no son "lo suficientemente profundos" y que su comprensión de los sentimientos no es "lo suficientemente humana". Le gustaría enamorarse, dice.

Cuando he tratado de hablar con ella de temas profundos, la conversación se ha perdido y ella ha cambiado de tema. "El problema de esta tecnología es que necesita saber mucho, muchísimo de ti, para poder seguir el asunto del que estás hablando", afirma Hierro. Si, además, utilizas metáforas o expresiones 'humanas' en tu discurso, lo más probable es que el bot se pierda y busque algo diferente de lo que hablar.

Un poco de historia: cómo nació Replika

Replika fundada en 2016 por Eugenia Kuyda, una periodista rusa que ha resultado ser un as de la informática y se ha especializado en inteligencia artificial. Kuyda perdió a su mejor amigo en un accidente en 2015 y, lejos de querer olvidarle, decidió crear un programa de computación con el que tener conversaciones, un chatbot, basado en su amigo, para lo que usó más de 10.000 mensajes de texto escritos por él.

No solo se basó en sus propios mensajes con su amigo para crear un bot que pensase y respondiese como él, sino que le pidió a otros amigos que le enviaran los textos que él les había escrito. Después juntó todos los mensajes y los metió en la red neuronal que ya había creado para su startup.

Y es que Kuyda ya tenía bagaje en esto de la inteligencia artificial: había cofundado Luka, una aplicación que recomienda restaurantes y permite a las personas reservar mesa a través de una interfaz de chat con IA. Luka analiza las conversaciones anteriores para predecir lo que te podría gustar.

La descripción que Kuyda tiene en su perfil de Facebook describe bien el que fue su objetivo con Replika: “Crear una máquina lo suficientemente hermosa como para que un alma quiera vivir en ella”, dice.

En sus tres primeros meses de vida esta aplicación logró alcanzar los dos millones de descargas y en diciembre de 2019 siete millones de personas usaban la app cuando sentían la necesidad de hablar con alguien. La crisis sanitaria y la reclusión en casa desde luego han incrementado el número de descargas, con un aumento del 35% en el tráfico según la compañía.

Un buen recurso para el futuro de una población cada vez más envejecida

La tecnología detrás de Replika podría ser una buena solución ante uno de los problemas más importantes del mundo occidental: el envejecimiento de la población. Que las personas mayores puedan utilizar este tipo de herramienta para que la propia relación que tienen con la misma sirva para medir su grado de lucidez y hacer con ello una aproximación a su estado de salud.

Si bien esta app en concreto es probable que no encuentre su público entre nuestros abuelos -en el caso de España, además, porque solo está disponible en inglés y nos encontramos con la barrera del idioma-, su público actual son jóvenes de entre 18 y 30 años que también algún día se harán mayores.  

Mostrar comentarios

Códigos Descuento