Remanejamento na OpenAI: pesquisadores-chave renunciam por diferentes visões sobre prioridades de segurança de IA
Summary:
Os principais pesquisadores da equipe da OpenAI com foco em potenciais riscos de IA renunciaram ou foram realocados em meio a divergências sobre as prioridades da organização. Isso segue a saída de Ilya Sutskever, cientista-chefe da OpenAI, e Jan Leike, co-chefe da equipe de super alinhamento. Leike destacou a necessidade urgente de recursos para pesquisa de segurança, criticando a OpenAI por priorizar o desenvolvimento de produtos em detrimento da segurança da IA. O recente movimento para dissolver a equipe de 'Superalinhamento' ocorreu em meio à reestruturação interna em curso da empresa. Sutskever havia indicado anteriormente que as decisões do conselho visavam garantir a adesão da OpenAI ao desenvolvimento da AGI para o benefício da humanidade.
Em notícias recentes, a OpenAI viu uma mudança completa em sua equipe que vinha investigando veementemente os perigos potenciais da inteligência artificial, com todos os membros deixando seus cargos ou sendo realocados para facções de pesquisa variadas. Isso segue de perto o cientista-chefe e cofundador da OpenAI, Ilya Sutskever, tornando pública sua decisão de deixar a empresa. Além disso, a autoridade sênior da equipe de super alinhamento da OpenAI, Jan Leike, anteriormente associada à DeepMind, deixou seu cargo e comunicou oficialmente sua renúncia na plataforma X.
A saída de Leike foi atribuída à sua desconfiança em relação aos objetivos atuais da empresa, que ele percebe estar se inclinando para se concentrar no refinamento do produto, em vez de afirmar a importância da segurança da IA. Em um conjunto de publicações, Jan Leike discordou das ênfases diretivas da OpenAI e instou a administração a prestar atenção à segurança e prontidão em relação à progressão da AGI ou Inteligência Geral Artificial, uma forma teórica de inteligência artificial que deve igualar ou mesmo superar as habilidades humanas na execução de uma ampla gama de tarefas.
Tendo dedicado três anos de sua carreira à OpenAI, Leike expressou suas preocupações em relação ao tratamento preferencial da organização para o desenvolvimento de produtos glamourosos, deixando de lado o cultivo crucial de uma cultura saudável e sistemas centrados na segurança de IA. Ele enfatizou veementemente a necessidade de realocar recursos, principalmente proezas computacionais, para apoiar a substancial pesquisa orientada para a segurança liderada por sua equipe, uma tarefa que foi visivelmente ignorada.
A OpenAI empreendeu a formação de um novo grupo de pesquisa em julho do ano anterior, com o objetivo de se preparar para o possível surgimento de uma inteligência artificial genialmente eficiente que seja capaz de superar e dominar seus inventores humanos. Co-liderando esta nova facção estava o cientista-chefe e co-fundador da OpenAI, Ilya Sutskever, apoiado por 20% dos recursos computacionais da OpenAI.
À luz da recente onda de demissões, a OpenAI resolveu desmantelar a equipe de 'Superalinhamento' e misturar suas responsabilidades dentro de outros empreendimentos de pesquisa sob sua alçada. Esse movimento é percebido como consequência das mudanças de reestruturação dentro da organização, que tiveram sua gênese no enfrentamento da crise de gestão que assolou em novembro de 2023. Sutskever desempenhou um papel significativo em facilitar a expulsão momentânea do CEO Altman do conselho da OpenAI durante este período, que foi logo reintegrado após resistência do corpo de funcionários.
Alegadamente, Sutskever elucidou para a força de trabalho que a determinação do conselho de destituir Sam Altman de sua posição estava alinhada com seu mandato de garantir que o desenvolvimento da AGI da OpenAI fosse do melhor interesse da humanidade. Como um indivíduo crucial entre os seis membros do conselho, Sutskever ecoou o compromisso do conselho em fortalecer a missão da OpenAI em harmonia com o objetivo comum maior.
Published At
5/18/2024 2:30:32 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.