Una roomba graba a una mujer en el váter y las imágenes terminan en Facebook

El dispositivo Roomba J7 de iRobot grabó a una mujer en el inodoro con la camiseta levantada, y posteriormente, dicha imagen se envió a Scale AI para entrenar a la inteligencia artificial. Pero, ¿por qué grabó un aspirador a dicha persona?

La roomba estaba conectada a Internet y envió la fotografía la nube, sin embargo, MIT Technology indica que "obtuvo 15 capturas de pantalla de fotos privadas que se habían publicado en grupos cerrados de redes sociales".

 iRobot, el proveedor de aspiradoras robóticas confirmó que estas imágenes fueron capturadas en 2020 porque estaban etiquetadas con una marca verde que decía 'grabación de vídeo en progreso', teniendo en cuenta que los usuarios pueden eliminar cualquier contenido multimedia que sea sensible.

¿Están tus datos personales en Internet? 7 pasos para limpiar tu presencia online

Dennis Giese (candidato a doctorado en la Universidad Northeastern) afirma en MIT Technology que "los datos recopilados por los robots aspiradores pueden ser particularmente invasivos. Tienen hardware poderoso, sensores poderosos y pueden conducir por tu casa sin controlar eso".

Los datos recopilados se utilizan para construir robots más inteligentes, no obstante, para que la información sea útil, los usuarios deben ver, categorizar, etiquetar y agregar contexto a cada bit. 

MIT Technology señala que "James Baussmann, portavoz de iRobot, dijo en un correo electrónico que la compañía había tomado todas las precauciones para garantizar que los datos personales se procesen de manera segura y de acuerdo con la ley aplicable, y que las imágenes fueron compartidas en violación de una orden escrita".

Hackear las cámaras de videovigilancia para bebés es más sencillo de lo que parece: así puedes protegerte

Las personas que usan dichos aspiradores suelen permitir que iRobot recopile datos mientras están funcionando. Mientras tanto, la empresa ofrece a los consumidores la oportunidad de contribuir con datos de capacitación para que la empresa mejore sus algoritmos.

A pesar de que iRobot elimina las imágenes en las que un usuario se encuentra en una posición comprometedora (incluida la desnudez, la desnudez parcial o la interacción sexual), es cierto que la política no considera rostros sensibles.

"En el caso de la mujer en el baño, un etiquetador de datos hizo un esfuerzo por preservar su privacidad colocando un círculo negro sobre su rostro", recalca MIT Technology.

Declaraciones de la empresa iRobot

Desde la compañía han aclarado que "las imágenes compartidas en el reciente artículo de MIT Technology Review no se corresponden con robots finales para comercialización que estén en los hogares de los consumidores. Cualquier caracterización de que lo son es falsa y engañosa". Estas imágenes, subrayan, "pertenecen a robots de iRobot en desarrollo que han sido utilizados por recopiladores de datos pagados y empleados en 2020". 

La empresa lamenta que estas "fueron filtrados externamente por Scale AI, un proveedor de servicios de anotación de imágenes de terceros" y que ya han notificado el cese a Scale AI y están "investigando de forma activa el tema". Asimismo, aseguran, han tomado "medidas adicionales para ayudar a prevenir una filtración similar por parte de cualquier proveedor de servicios de terceros en el futuro".

Como decimos, las imágenes se corresponden con robots en desarrollo utilizados por recopiladores de datos pagados y empleados en 2020. Estos robots en desarrollo se modifican con software y hardware de forma expresa para la recopilación de datos con el fin de apoyar los esfuerzos de aprendizaje automático (machine learning). Estas modificaciones no se incluyen en los robots finales para comercialización que compran los consumidores. Los robots que están en desarrollo llevan una pegatina verde neón claramente visible que dice "grabación de vídeo en curso". Los recopiladores de datos son informados y aceptan cómo se recogerán los datos.

Cuando la compañía se enteró de la filtración, la empresa tomó medidas inmediatas para alertar a las personas que aparecían en las imágenes filtradas, interrumpió inmediatamente el trabajo con Scale AI y ha notificado su cese a Scale AI. "iRobot se toma muy en serio la privacidad y la seguridad de los datos, no solo con nuestros clientes, sino en todos los aspectos de nuestro negocio, incluida la investigación y el desarrollo", concluyen.

Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.