OpenAI muestra lo sencillo que es engañar a una inteligencia artificial

Solo se necesita papel y boli para poder engañar a una inteligencia artificial.
Solo se necesita papel y boli para poder engañar a una inteligencia artificial.
OpenAI

Hace unos meses OpenAI presentó CLIP, una inteligencia artificial capaz de identificar objetos. CLIP ha desarrollado un sistema neuronal muy similar al que usamos los humanos, pero lo realmente importante que OpenAI quiere demostrar es lo absurdamente sencillo que resulta engañar a este equipo

Este descubrimiento es muy importante porque OpenAI encontró que CLIP había sido capaz de desarrollar sus propias neuronas multimodales sin haber sido programada para ello. Es por eso que puede ser engañada. Un ejemplo con Spiderman: tras analizar miles de fotografías, cuando ve una foto o dibujo de este personaje o la palabra 'spider', automáticamente lo asocia con Spiderman.

Ejemplos de diferentes imágenes engañadas con símbolos.
Ejemplos de diferentes análisis de imágenes engañadas con símbolos.
OpenAI

Otro ejemplo de neurona multimodal es el concepto de iPod o el símbolo $$$, tal y como vemos en la imagen superior: cuando ponemos $$$ por toda la imagen, la inteligencia artificial se confunde y el porcentaje de los resultados se ve modificado marcando en todas las fotos piggy bank (hucha con forma de cerdo) aunque no lo sean. 

Las 'neuronas racistas' de CLIP

A pesar de que esta función pueda servir como un divertido experimento, se han observado neuronas en las que asocia a Oriente Medio con el terrorismo y la inmigración con Latinoamérica. También se ha encontrado una neurona que reconoce a los gorilas como personas negras. Estos errores se consideran como inaceptables, y según el propio artículo de OpenAI todas sus debilidades necesitan corregirse de inmediato y pronto se pondrán en ello.

OpenAI es una organización centrada en la investigación y desarrollo de proyectos relacionados con la inteligencia artificial, cofundada por Elon Musk con el objetivo de poder crear una inteligencia ética que trabaje para el beneficio de toda la población. La demostración de este sencillo engaño resulta impactante, ya que nos demuestra lo simple que es manipular algo cuando se descubre una debilidad y explotarlo al máximo. 

Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.

Mostrar comentarios

Códigos Descuento