Veteranos da OpenAI e parceiro da Y Combinator lançam 'Safe Superintelligence, Inc.' para melhorar a segurança da IA
Summary:
Ilya Sutskever, ex-cientista-chefe da OpenAI, e Daniel Levy, ex-engenheiro da OpenAI, colaboraram com Daniel Gross, ex-sócio da aceleradora de startups Y Combinator, para lançar a Safe Superintelligence, Inc. A empresa com sede nos EUA visa melhorar a segurança e as capacidades de inteligência artificial (IA). Além das preocupações com a segurança da IA, ex-funcionários da OpenAI e grandes figuras da tecnologia, incluindo o cofundador da Ethereum, Vitalik Buterin, o CEO da Tesla, Elon Musk, e o cofundador da Apple, Steve Wozniak, pediram uma pausa no treinamento de IA para considerar os riscos potenciais.
Ilya Sutskever, ex-cientista-chefe e cofundador da OpenAI, junto com Daniel Levy, ex-engenheiro da OpenAI, se uniram a Daniel Gross, ex-sócio da aceleradora de startups Y Combinator, para lançar a Safe Superintelligence, Inc. O foco e o produto deste novo empreendimento estão refletidos em seu título. A SSI, com presença em Palo Alto e Tel Aviv, nos Estados Unidos, pretende impulsionar a inteligência artificial (IA) desenvolvendo conjuntamente medidas e capacidades de segurança, conforme anunciado pelo trio fundador em 19 de junho online. Eles enfatizaram seu foco único em evitar as distrações causadas por questões de gerenciamento ou ciclos de produtos, com um modelo de negócios que garante que a segurança e o progresso sejam protegidos de influências comerciais de curto prazo.
Antes de deixar a OpenAI em 14 de maio, Sutskever, juntamente com Gross, compartilhou preocupações sobre a segurança da IA. Sutskever desempenhou um papel vago na empresa depois de deixar seu conselho após a reintegração do CEO Sam Altman. Daniel Levy estava entre os pesquisadores que partiram da OpenAI logo após Sutskever. Sutskever e Jan Leike lideraram a equipe de Superalinhamento da OpenAI, formada em julho de 2023, para examinar como direcionar e controlar sistemas de IA mais inteligentes do que nós, conhecidos como inteligência artificial geral (AGI). Durante sua criação, a OpenAI atribuiu 20% de sua capacidade computacional a essa equipe.
No entanto, Leike também deixou a organização em maio e agora lidera uma equipe na Anthropic, uma startup de IA apoiada pela Amazon. A empresa argumentou suas precauções de segurança em um post detalhado do presidente da empresa, Greg Brockman, mas dissolveu a equipe do Superalignment depois que seus pesquisadores saíram em maio.
Os ex-investigadores da OpenAI não estão sozinhos em expressar apreensão sobre o curso futuro da IA. Em meio à confusão da equipe na OpenAI, o cofundador da Ethereum, Vitalik Buterin, chamou a AGI de "arriscada". No entanto, ele também compartilhou que tais modelos são consideravelmente menos um "risco de desgraça" do que a ganância corporativa e as forças armadas.
Ex-apoiador da OpenAI, o CEO da Tesla, Elon Musk, e o cofundador da Apple, Steve Wozniak, se juntaram a mais de 2.600 especialistas em tecnologia e pesquisadores solicitando uma suspensão de seis meses no treinamento do sistema de IA para refletir sobre o "risco profundo" que ele carrega.
O anúncio de lançamento da SSI também mencionou que a empresa está procurando recrutar pesquisadores e engenheiros.
Published At
6/20/2024 12:45:47 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.