Según fuentes de Reuters, Sam Altman fue despedido debido al Proyecto secreto OpenAI Q-Star, un modelo de IA para “superar a los humanos en las tareas económicamente más valiosas.

Sam Altman, director ejecutivo de OpenAI, fue despedido brevemente el viernes pasado, pero luego fue reintegrado. El misterio que rodea su suspensión puede centrarse en un informe de Reuters que afirma que Altman fue despedido debido a un desarrollo en inteligencia artificial general (AGI) que podría poner en peligro a la humanidad.

Antes de que Altman fuera desterrado, varios investigadores escribieron una carta a la junta anunciando un avance importante que permitiría al modelo de IA «superar a los humanos en la mayoría de las tareas económicamente valiosas». Este descubrimiento fue denominado Q*, pronunciado Q-Star.

Según fuentes de Reuters, Altman fue despedido abruptamente por la junta el viernes pasado, siendo el hito de la IA una de las principales causas que contribuyeron. Comercializar el sofisticado modelo de IA sin considerar las ramificaciones socioeconómicas fue otro problema.

Aunque el modelo sólo podía manejar problemas matemáticos «al nivel de los estudiantes de primaria», la fuente afirmó que «la superación de tales pruebas hizo que los investigadores se sintieran muy optimistas sobre el éxito futuro de Q*».

Sam Altman podría haber sido expulsado por planear derribar a Nvidia, ya que había estado visitando Medio Oriente para conseguir dinero para el proyecto, que llevaba el nombre secreto de Tigris.

Además, es posible que Altman haya mencionado a Q* en la Cooperación Económica Asia-Pacífico en San Francisco antes de su despido:

“Cuatro veces en la historia de OpenAI (la más reciente fue apenas en las últimas semanas) he estado en la sala, cuando en cierto modo empujamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia adelante. dijo Altman.

Una lucha ideológica entre los defensores de un enfoque de desarrollo más lento y responsable y aquellos que favorecen avances rápidos en IA ha dado lugar a un conflicto interno en OpenAI.

Un representante de OpenAI que habló con Reuters dio fe de la existencia tanto del proyecto Q* como de la carta a la junta antes del despido de Altman.

Entonces, ¿Q* es un gran avance?

Así, como aclara el blog de tecnología 9to5Mac:

Actualmente, si le pides a ChatGPT que resuelva un problema matemático, seguirá utilizando su enfoque de texto predictivo con esteroides para compilar una respuesta utilizando una enorme base de datos de texto y decidir palabra por palabra cómo respondería un humano. . Eso significa que puede que acierte o no la respuesta, pero de cualquier manera no tiene ninguna habilidad matemática.

OpenAI parece haber logrado un gran avance en esta área, permitiendo con éxito que un modelo de IA resuelva genuinamente problemas matemáticos que nunca antes se habían visto. Se dice que este desarrollo se conoce como Q*. Lamentablemente, el equipo no utilizó un modelo de nombres lo suficientemente inteligente como para evitar algo que parezca un puntero a una nota al pie, así que usaré la versión Q-Star.

Se dice que la capacidad matemática actual de Q-Star es la de un estudiante de primaria, pero se espera que esta capacidad mejore rápidamente.

Este avance técnico puede indicar que pronto se comercializará la AGI, un tipo de IA superior a los humanos.

La posibilidad de que la inteligencia artificial general (AGI) supere a los humanos en todas las áreas, incluida la creatividad, la resolución de problemas, la toma de decisiones, la comprensión del lenguaje, etc., genera preocupación por una pérdida significativa de puestos de trabajo. Según una investigación reciente de Goldman, la IA puede provocar 300 millones de despidos en Occidente.

Dado el descubrimiento de Q* y la velocidad a la que se está desarrollando esta tecnología, ahora está claro por qué la junta despidió inmediatamente a Altman por desarrollar esta tecnología demasiado rápido sin considerar las amenazas potenciales del modelo para la humanidad.

«Creo que esta es definitivamente la actualización más importante para la gente hasta ahora», afirmó Altman anteriormente. Y quizás veamos el más grande porque, a partir de este momento, la gente reconoce que se producirá una IA poderosa y que habrá pequeñas actualizaciones. Fue el año en que se lanzó el primer iPhone, y luego vinieron todos los demás”.

Musk, que ha estado anunciando que la IA representa una amenaza para la humanidad, describió la historia de Reuters como «extremadamente preocupante».

–

FUENTE

Was Sam Altman Fired Because Of Secret OpenAI Project Q-Star