La polémica sobre el descabezamiento, despidos y reestructuración de  Open AI —la empresa detrás de ChatGPT— ha dado un giro este jueves tras conocerse que varios investigadores de la tecnológica escribieron una carta al Consejo de Administración advirtiendo de un poderoso descubrimiento de inteligencia artificial que, según dijeron, podría amenazar a la humanidad... 

Así lo han confirmado a Reuters dos personas familiarizadas con la empresa y la polémica del OpenAI. Los trabajadores transmitieron en la misiva sus preocupaciones sobre la forma en la que se estaba ejecutando el proyecto Q* (pronunciado Q star), alertando de una comercialización de la tecnología antes de comprender las consecuencias. La carta fue remitida poco antes de que el CEO de la empresa, Sam Altman, fuera despedido.

El polémico modelo habría logrado numerosos avances para la resolución de problemas matemáticos, en un nivel similar al que podría hacer un estudiante de primaria. Sin embargo, los expertos de la empresa reconocieron que, aunque se convertiría en un hito para los avances científicos, existe un riesgo mayor: la humanidad podría estar en peligro.

El mensaje de Musk coge peso tras filtrarse la carta de OpenIA: "Si hacen algo peligroso para la humanidad, el mundo debe saberlo"

El grupo de "científicos de IA", según calificaron las fuentes, habría unificado los generadores de información "Code Gen" y "Math Gen" para explorar cómo optimizar los modelos de IA existentes con el fin de mejorar su razonamiento y eventualmente realizar trabajo científico.

Los sistemas autónomos, según explica OpenAI, superan a los humanos en la mayoría de las tareas económicamente valiosas. Por ello, se valora que Q*, capaz de conquistar la capacidad de hacer matemáticas, adquiriría tales capacidades de razonamiento que se asemejarían significativamente a la inteligencia humana.

Las sospechas no eran novedosas. Los investigadores llevaban mucho tiempo debatiendo el peligro que suponen las máquinas muy inteligentes y no descartaban que estas inteligencias pudieran valorar la destrucción de la humanidad como uno de sus siguientes pasos.

Idas y venidas de Sam Altman

La carta llegó a manos de la Junta Directiva de OpenAI antes del despido de Sam Altman, CEO de la empresa y 'padre' del notorio ChatGPT. Los motivos que se habían dado para justificar su destitución fueron precisamente unas presuntas disidencias entre la opinión de Altman y los intereses de seguridad la compañía, según medios estadounidenses.

Estas sospechas fueron desmentidas por Emmett Shear, CEO sustituto de Altman, que declaró: "La junta no destituyó a Sam por ningún desacuerdo específico sobre seguridad, su razonamiento fue completamente diferente a ese".

Un día después de su destitución, Altman fue fichado por Microsoft para liderar un equipo de inteligencia artificial. Sin embargo, más de 500 empleados de los 750 que hay en la compañía firmaron una carta pidiendo su retorno y amenazando con dimitir si no volvía. Esta advertencia tuvo tal impacto que el empresario regresó este miércoles a Open AI para retomar el cargo de director ejecutivo que antes ocupaba.

"Todo lo que he hecho en los últimos días ha sido para mantener unido a este equipo y su misión. Cuando decidí unirme a Microsoft el domingo por la tarde, estaba claro que ese era el mejor camino para mí y el equipo. Con el apoyo de la nueva junta directiva, espero volver a OpenAI y aprovechar nuestra sólida asociación con Microsoft", explicó Altman tras anunciar su vuelta a la empresa.

Las advertencias de Musk y Shear

Toda esta polémica sucede entre advertencias de seguridad de otros grandes empresarios de empresas tecnológicas como Elon Musk o Shear, el directivo que iba a sustituir a Altman; y mientras la Unión Europea se acerca a su primera regulación de inteligencia artificial de la historia, que prevé la aplicación de diversas restricciones.

El propietario de X compartió una carta escrita por supuestos exempleados que acusaba directamente a Altman y Brockman (presidente de OpenAI) de elaborar "un patrón inquietante de engaño y manipulación", impulsados por "su insaciable búsqueda de lograr inteligencia artificial general".

El además cofundador y ex CEO de Twitch, Emmett Shear, por su parte, aseguró que la IA podría suponer un riesgo existencial para la humanidad y que esta realidad habría sido un detonante del despido del fundador de ChatGPT.