OpenAI lançará 'estrutura de preparação' para avaliar riscos de IA, após reintegração do CEO
Summary:
A OpenAI, desenvolvedora de inteligência artificial (IA), planeja introduzir uma "Estrutura de Preparação". Este esquema inclui uma equipe dedicada encarregada de avaliar os riscos potenciais. A estratégia busca adicionar um sistema de check-and-balances para proteger contra possíveis riscos de modelos avançados. O plano inclui um processo em que os relatórios de segurança são examinados e, em seguida, enviados para revisão em nível de empresa, com a nova estrutura permitindo que o conselho reverta as decisões de segurança. Isso segue um período turbulento para a OpenAI, com o CEO Sam Altman sendo demitido e posteriormente reintegrado. Em meio ao crescente interesse público e preocupações com a IA, os principais desenvolvedores, incluindo a OpenAI, estabeleceram o Fórum de Fronteira para autorregulação e o governo Biden delineou novos padrões de segurança de IA.
A OpenAI, desenvolvedora de inteligência artificial (IA), divulgou recentemente planos para lançar um 'Preparedness Framework'. Essa estratégia envolve a formação de uma equipe dedicada com o objetivo de avaliar e prever potenciais riscos. O post publicado recentemente no blog da empresa, datado de 18 de dezembro, afirmou que esta "Equipe de Preparação" vinculará as divisões de segurança e políticas da OpenAI. Espera-se que esse sistema, funcionando de forma de freios e contrapesos, atue como uma salvaguarda contra os iminentes "riscos catastróficos" desencadeados por modelos cada vez mais sofisticados. A OpenAI insistiu que só lançaria sua tecnologia sob a garantia de segurança. A estratégia recém-proposta envolve o painel consultivo examinando relatórios de segurança que seriam encaminhados aos executivos da empresa e ao conselho da OpenAI para revisão. Apesar de os executivos terem autoridade para dar o veredicto final, a última proposta concede ao conselho flexibilidade para anular decisões de segurança. Este movimento é o rescaldo de uma reviravolta que a OpenAI sofreu em novembro, marcada pela súbita dispensa e consequente reintegração de Sam Altman como CEO. Após a reentrada de Altman na empresa, a OpenAI revelou seu conselho recém-nomeado, incluindo Bret Taylor (presidente), Larry Summers e Adam D'Angelo. À luz de lançamentos recentes como o ChatGPT em novembro de 2022, o interesse público pela IA disparou, em conjunto com as crescentes ansiedades sobre seus potenciais danos à sociedade. Em julho, os principais desenvolvedores de IA, com participantes como OpenAI, Microsoft, Google e Antropic, lançaram o The Frontier Forum. Este fórum se concentra na supervisão da autorregulação introduzida na elaboração de IA responsável. O governo Biden também apresentou uma ordem executiva em outubro especificando novas restrições de segurança para organizações que desenvolvem modelos avançados e os executam. Antes da declaração desta ordem executiva, os principais desenvolvedores de IA foram convocados à Casa Branca para prometer seu compromisso com a criação de modelos de IA seguros e transparentes, com a OpenAI entre os participantes.
Published At
12/19/2023 11:36:24 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.