Líderes da OpenAI contestam críticas de segurança após renúncia de alto funcionário de segurança
Summary:
O CEO da OpenAI, Sam Altman, e o presidente Greg Brockman discutiram publicamente a recente renúncia do principal diretor de segurança, Jan Leike, em uma plataforma online, X.com. Leike acusou a empresa de priorizar produtos em detrimento de medidas de segurança. Respondendo às alegações, os executivos da empresa afirmaram que a OpenAI está comprometida em ampliar as medidas de segurança. Brockman especificou a estratégia tripla da empresa para o alinhamento de segurança e disse que os prazos de lançamento podem ser adiados por razões de segurança. Altman, embora tenha cedido a alguns dos pontos de Leike, garantiu o compromisso contínuo de manter os padrões de segurança.
O CEO e o presidente da OpenAI, Sam Altman e Greg Brockman, respectivamente, usaram uma plataforma online no X.com para discutir abertamente sobre a recente saída de Jan Leike, um importante oficial de segurança que serviu a empresa. De acordo com um relatório recente do Cointelegraph, Leike dirigiu o departamento de alinhamento antes de entregar sua renúncia em 17 de maio, citando divergências com a equipe executiva da empresa. A partir de sua conta @janleike no X.com, ele afirmou que a mercadoria brilhante da OpenAI ofuscou seus protocolos e processos de segurança.
Altman e Brockman foram rápidos em responder a essas alegações, compartilhando suas respostas no X.com um dia após a postagem de Leike. Brockman, em seu longo discurso, apresentou um esquema tripartite para manter o alinhamento de segurança dentro da empresa. Embora elogiando as contribuições de Leike, ele rejeitou a ideia de que a OpenAI estava deixando de lado as considerações de segurança. De acordo com @gdb no X.com, "amplificamos a consciência em torno dos riscos e perspectivas ligados à AGI", começou Brockman, alegando que a empresa exigia controle global sobre a AGI antes que ela se tornasse uma tendência.
"Além disso, começamos a mapear as bases necessárias para a utilização segura de sistemas cada vez mais avançados. Estabelecer a segurança de uma nova tecnologia não é uma tarefa simples", acrescentou. Ele concluiu com um alerta sobre os desafios futuros, insistindo na necessidade de elevar os esforços de segurança da OpenAI para corresponder à importância de cada novo modelo.
Ele indicou que a empresa não está seguindo a norma de tecnologia de grande progresso rápido e disrupção. Ele disse: "Estamos incertos de quando atenderemos aos nossos padrões de segurança para o lançamento, mesmo que isso resulte em prazos de lançamento atrasados".
Por outro lado, Sam Altman, CEO e cofundador, manteve sua resposta curta, mas sugeriu discutir mais o assunto no futuro. Referindo-se às queixas de Leike, Altman admitiu: "Ele tem razão. Temos muito mais trabalho pela frente; e estamos empenhados em empreendê-lo".
Notícias relacionadas: Após um acordo de compartilhamento de dados proposto com a OpenAI, as ações do Reddit puxaram o pós-mercado.
Published At
5/19/2024 7:04:24 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.