Las películas que imaginan un futuro distópico en el que los humanos le dan tanto poder a la tecnología que termina mostrando sentimientos o revelándose no son pocas. Desde 'La rebelión de las máquinas', 'Yo, Robot' o 'Terminator', que son más antiguas; hasta 'Her', 'Megan' o el capítulo de Black Mirror 'Rachel, Jack and Ashley Too'. Estas historias provocan que algunos teman que la llegada de inteligencias artificiales como ChatGPT o Bard puedan derivar en ello y, por ello, OpenAI ha desarrollado una herramienta que ayuda a comprender cómo funcionan los modelos de lenguaje.
Los chatbots que están dando de qué hablar en los últimos meses ofrecen respuestas muy acertadas a las preguntas de los internautas e incluso continúan conversaciones como lo haría un humano. La razón de ello es que hay un equipo detrás que durante meses (o incluso años) ha entrenado dichos sistemas para que aumenten su conocimiento y que los corrigen para que no tengan sesgos o desinformen.
A pesar de esta explicación, existen detalles que se escapan de la comprensión de los investigadores. De hecho, James Manyika, vicepresidente senior de tecnología y sociedad de Google, contó en una entrevista para 60 Minutes de CBS que uno de sus sistemas de IA aprendió un idioma, pese a que no estaba capacitado para hacerlo: "Con muy pocas indicaciones en bengalí, ahora puede traducir todo el bengalí". A este fenómeno, lo llamaron 'la caja negra' porque no eran capaces de explicarlo.
Gracias a la herramienta que OpenAI ha lanzado para comprender mejor cómo funcionan internamente los chatbots con IA que muchos están comenzando a utilizar para su día a día. De este modo, habrá una mayor transparencia.
Según un comunicado de la web de la firma, se basa en un proceso automatizado con ChatGPT-4, la última versión de su IA de lenguaje de gran tamaño. Con ella, buscan "producir y puntuar explicaciones en lenguaje natural del comportamiento de las neuronas" del modelo GPT-2 (aunque su intención es poderlo usar en versiones posteriores).
¿Cómo crearon la herramienta de comprensión de IA?
Los modelos de lenguaje de gran tamaño como ChatGPT están formados por neuronas que detectan patrones específicos en el texto que escribe el usuario. Así, crean una respuesta siguiendo una serie de pasos.
En el caso de GPT-2, primero se genera una explicación sobre el tema mostrando secuencias de texto relevantes del modelo. Basándose en ello, la herramienta analiza cada vez que una neurona se activa y, gracias a la ayuda de GPT-4, explica y predice el comportamiento de las neuronas.
Posteriormente, la herramienta vuelve a emplear GPT-4 para comprobar que la neurona simulada antes y la neurona real de GPT-2 son similares. Así, puede comparar cuánto coincide la explicación del comportamiento de la herramienta con el comportamiento real de la IA.
Con esta novedad, William Sanders, uno de los responsables del proyecto, ha explicado para TechCrunch que pretenden contar con "formas de anticipar cuáles serán los problemas con un sistema de IA". Teniendo en cuenta que la Unión Europea ya ha iniciado el proceso de regulación de IA hace poco, esta herramienta podría ayudarles a cumplir con las normas y evitar la prohibición en el viejo continente.
Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.
Comentarios
Hemos bloqueado los comentarios de este contenido. Sólo se mostrarán los mensajes moderados hasta ahora, pero no se podrán redactar nuevos comentarios.
Consulta los casos en los que 20minutos.es restringirá la posibilidad de dejar comentarios