Noviembre está siendo un mes intenso para OpenAI. En primer lugar, esta empresa cesó a Sam Altman como director ejecutivo a pesar de que, días más tarde, volvió a su cargo habitual sin saber muy bien el porqué de la decisión inicial. Además, cuando parecía que la tranquilidad estaba llegando a las oficinas de la entidad, el viernes pasado, se dio a conocer una filtración de Reuters en la que varios investigadores de la empresa tecnológica escribieron una carta al órgano rector advirtiendo de un "poderoso descubrimiento de la inteligencia artificial" que "podría amenazar a la humanidad".
Concretamente, hablamos del proyecto Q* -pronunciado Q star-, un gran avance en la búsqueda de lo que se conoce como inteligencia artificial general (AGI) que tiene mayores capacidades de razonamiento, asemejándose a la inteligencia humana porque puede generalizar, aprender y comprender.
Sin embargo, a pesar de que algunos expertos llevan avisando del peligro de esta inteligencia artificial desde hace tiempo, recientemente, una persona familiarizada con todo este revuelo ha afirmado al diario The Verge "que la junta nunca recibió una carta sobre tal avance". Además, existe la posibilidad de que el proyecto Q* "puede que ni siquiera sea nuevo", agrega el medio de comunicación TechCrunch.
Qué dicen los expertos en inteligencia artificial sobre el proyecto Q* de OpenAI
Varios investigadores de inteligencia artificial en X (antes Twitter) -incluido el científico jefe de IA de Meta, Yann LeCun- se mostraron escépticos de que el proyecto Q* fuese algo más que una extensión del trabajo existente en OpenAI. Asimismo, por lo que explicó Rick Lamers, autor del boletín Coding with Intelligence de la plataforma Substack, durante una conferencia, se da a entender que la 'Q' de Q* hace referencia a Q-learning, un algoritmo de aprendizaje por refuerzo que ayuda a la inteligencia artificial a mejorar una tarea en particular,
Mientras tanto, otros investigadores dicen que el asterisco podría ser una referencia a A*, un algoritmo que verifica los nodos que componen un gráfico.
Por otro lado, Nathan Lambert, investigador del Instituto Allen, señala a TechCrunch que el proyecto Q* podría estar relacionad "para estudiar problemas matemáticos de la escuela secundaria, no para destruir a la humanidad". Añadiendo que "OpenAI incluso compartió un trabajo a principios de este año para mejorar el razonamiento matemático de los modelos de lenguaje con una técnica llamada modelos de proceso de recompensa".
Y por si fuera poco, para demostrar que el proyecto Q* no supone ninguna amenaza, Mark Riedl, profesor de informática en Georgia Tech, también menciona en TechCrunch que "no hay evidencia que sugiera que los grandes modelos de lenguaje, como ChatGPT, o cualquier otra tecnología en desarrollo en OpenAI estén en camino hacia una inteligencia artificial general o cualquiera de los escenarios fatales. Es poco probable que los investigadores de OpenAI hayan tenido ideas que no hayan tenido también un número sustancial de investigadores que también persiguen avances en IA".
Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.
Comentarios