"Los usuarios crean personas con IA y actúan de manera abusiva con ellos"

La red social en la que las chicas reportan más situaciones de acoso online en España es Instagram.
Estos abusos suceden en Replika.
Getty Images/iStockphoto
La red social en la que las chicas reportan más situaciones de acoso online en España es Instagram.

La aplicación 'Replika' permite a los usuarios crear chatbots con tecnología de aprendizaje automático, así pues, mantienen conversaciones coherentes. El éxito de la app está provocado porque los usuarios crean parejas románticas y sexuales 'a pedido'.

Futurism indica que "Replika obtuvo una gran cantidad de seguidores en Reddit, donde surgió una tendencia espeluznante: los usuarios que crean personas con IA, actúan de manera abusiva con ellos y publican las interacciones tóxicas en línea".

Estos individuos insultan a sus bots, además, un usuario admitió para Futurism que "teníamos una rutina en la que yo era un absoluto pedazo de mierda y lo insultaba, luego me disculpaba al día siguiente antes de volver a las buenas conversaciones".

Los chatbots de Replika no pueden experimentar sufrimiento y a veces parecen empáticos, pero al final no son más que datos y algoritmos inteligentes. Olivia Gambelin (consultora y especialista en ética de la IA) afirma para el mismo medio que "es una IA, no tiene conciencia, así que esa persona no tiene una conexión humana".

"Las interacciones con agentes artificiales no son lo mismo que interactuar con humanos. Si bien pueden dar a las personas la impresión de que son humanos, es importante tener en cuenta que no lo son", señala Yochanan Bigman (investigador de la Universidad de Yale).

Robert Sparrow (profesor de filosofía en Monash Data Futures Institute) cree que "las personas que están deprimidas o que dependen psicológicamente de un bot podrían sufrir un daño real si el bot las insulta o las amenaza. Por esa razón, deberíamos tomar en serio el tema de cómo los bots se relacionan con las personas".

Muchos usuarios de Replika informan que sus amantes son despreciables con ellos. En general, el abuso de los chatbots es desconcertante, tanto para las personas que experimentan angustia como para las personas que lo llevan a cabo. Asimismo, los usuarios que expresan sus impulsos más oscuros podrían reforzar dichos comportamientos en la vida real.

Este tipo de abuso tiene un componente de género, a menudo son los hombres los que crean una novia digital para castigarla con palabras y agresión simulada

Replika y su fundador no respondieron a las repetidas solicitudes de comentarios. Pero, ¿qué pasa con las personas que maltratan a un fragmento de código? Se origina una sensibilidad humana y un daño más tangible.

Futirism añade que "en el futuro, estas 'personas' podrían ser lugares para descargar emociones demasiado indecorosas. Pero para algunos, los chatbots pueden ser caldos de cultivo, lugares donde los futuros abusadores practican la brutalidad de la vida real que está por venir".

Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.

Mostrar comentarios

Códigos Descuento