Reorganización en OpenAI: Investigadores clave dimiten por diferentes puntos de vista sobre las prioridades de seguridad de la IA
Summary:
Los investigadores clave del equipo de OpenAI que se centran en los riesgos potenciales de la IA han dimitido o han sido reasignados en medio de desacuerdos sobre las prioridades de la organización. Esto sigue a la salida de Ilya Sutskever, científico jefe de OpenAI, y Jan Leike, codirector del equipo de superalineación. Leike destacó la necesidad urgente de recursos para la investigación de la seguridad, criticando a OpenAI por priorizar el desarrollo de productos sobre la seguridad de la IA. La reciente decisión de disolver el equipo de "Superalineación" se produjo en medio de la reestructuración interna en curso de la empresa. Sutskever había indicado anteriormente que las decisiones de la junta tenían como objetivo garantizar la adhesión de OpenAI al desarrollo de AGI en beneficio de la humanidad.
En noticias recientes, OpenAI ha visto un cambio completo en su equipo que había estado investigando con vehemencia los peligros potenciales de la inteligencia artificial, con todos los miembros renunciando a sus puestos o siendo reasignados a diversas facciones de investigación. Esto sigue de cerca los pasos del científico jefe y cofundador de OpenAI, Ilya Sutskever, que hizo pública su decisión de dejar la empresa. Además, la máxima autoridad del equipo de superalineación de OpenAI, Jan Leike, anteriormente asociado a DeepMind, ha dimitido de su cargo y ha comunicado oficialmente su dimisión en la plataforma X.
La salida de Leike se ha atribuido a su desconfianza en los objetivos actuales de la empresa, que percibe que se está desviando hacia la concentración en el refinamiento del producto en lugar de afirmar la importancia de la seguridad de la IA. En una serie de publicaciones, Jan Leike no estuvo de acuerdo con el énfasis directivo de OpenAI e instó a la gerencia a prestar atención a la seguridad y la preparación con respecto a la progresión de AGI o Inteligencia General Artificial, una forma teórica de inteligencia artificial que se espera que iguale o incluso supere las capacidades humanas en la ejecución de una amplia gama de tareas.
Después de haber dedicado tres años de su carrera a OpenAI, Leike expresó su preocupación por el trato preferencial de la organización hacia el desarrollo de productos glamorosos, dejando de lado el fomento crucial de una cultura y sistemas saludables centrados en la seguridad de la IA. Hizo hincapié con vehemencia en la necesidad de reasignar recursos, principalmente la destreza computacional, para respaldar la investigación sustancial orientada a la seguridad dirigida por su equipo, una tarea que fue notoriamente ignorada.
OpenAI emprendió la formación de un novedoso grupo de investigación en julio del año anterior, con el objetivo de prepararse para la posible aparición de una inteligencia artificial genialmente eficiente que sea capaz de superar y dominar a sus inventores humanos. Co-encabezando esta nueva facción estaba el científico jefe y cofundador de OpenAI, Ilya Sutskever, respaldado por el 20% de los recursos computacionales de OpenAI.
A la luz de la reciente oleada de dimisiones, OpenAI ha decidido desmantelar el equipo de "Superalineación" y mezclar sus responsabilidades con otras empresas de investigación bajo su ámbito. Este movimiento se percibe como consecuencia de los cambios de reestructuración dentro de la organización, que tuvieron su génesis en abordar la crisis de gestión que afectó en noviembre de 2023. Sutskever desempeñó un papel importante en facilitar la expulsión momentánea del CEO Altman de la junta directiva de OpenAI durante este período, quien fue reincorporado poco después de la resistencia del cuerpo de empleados.
Según se informa, Sutskever aclaró a la fuerza laboral que la determinación de la junta de despojar a Sam Altman de su cargo estaba alineada con su mandato de garantizar que el desarrollo de AGI de OpenAI sea en el mejor interés de la humanidad. Como una persona crucial entre los seis miembros de la junta, Sutskever se hizo eco del compromiso de la junta de fortalecer la misión de OpenAI en armonía con el objetivo común más amplio.
Published At
5/18/2024 2:30:32 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.