Buterin, da Ethereum, ecoando a sensibilidade da OpenAI, alerta para riscos de IA 'superinteligentes'
Summary:
O cofundador da Ethereum, Vitalik Buterin, expressou preocupações sobre a inteligência artificial (IA) "superinteligente" em relação às mudanças recentes na OpenAI. Suas opiniões coincidem com as de Jan Leike, ex-chefe de alinhamento da OpenAI, que criticou a falta de foco da empresa nos protocolos de segurança. Buterin enfatizou o uso de modelos abertos em hardware de consumo como uma forma de evitar o controle por um pequeno grupo de empresas. Suas declarações ocorrem no momento em que o governo do Reino Unido examina o crescente envolvimento das Big Techs no setor de IA.
O cofundador da Ethereum, Vitalik Butertin, expressou recentemente sua preocupação com o perigo potencial da inteligência artificial (IA) "superinteligente", coincidindo com as recentes mudanças de liderança na OpenAI. Como indicado em um relatório do Cointelegraph em 19 de maio, a transição seguiu a renúncia de Jan Leike, ex-chefe de alinhamento da OpenAI, que expressou sua dissidência sobre o foco principal da empresa. Leike sugeriu que os protocolos de segurança ficaram em segundo plano em relação às inovações competitivas dentro da OpenAI, uma alegação que muitos suspeitam estar relacionada aos avanços em inteligência artificial geral (AGI). A AGI, uma forma de IA que deve igualar ou superar as capacidades cognitivas humanas, faz soar os alarmes entre os especialistas industriais que argumentam que a sociedade não está preparada para lidar com sistemas de IA tão evoluídos. Essa visão se alinha com a própria postura de Buterin. Em um post recente do X, Buterin enfatizou uma abordagem cautelosa em relação a esse assunto emergente. Buterin promove modelos abertos operando com tecnologia de consumo, vistos como proteção contra a potencial monopolização por um pequeno grupo de empresas que poderiam potencialmente controlar e filtrar a maioria da cognição humana. "Modelos como esses representam significativamente menos risco apocalíptico do que gigantes corporativos ou militares", acrescentou Buterin. Buterin compartilhou suas opiniões pela segunda vez na semana passada sobre IA e suas capacidades em rápida evolução. Em 16 de maio, ele sugeriu que o modelo GPT-4 da OpenAI superou o teste de Turing, uma medida da semelhança de um modelo de IA com o comportamento humano. Ele citou estudos recentes afirmando que a maioria das pessoas não consegue distinguir entre interagir com uma máquina e um humano. No entanto, Buterin não é pioneiro em seu ceticismo. O governo do Reino Unido também examinou de perto a crescente influência das Big Techs no cenário de IA, sinalizando questões relacionadas à concorrência e à dominação do mercado. Grupos ativistas como o 6079 AI também estão surgindo na internet, fazendo lobby por IA descentralizada para impedir a dominação de gigantes da tecnologia. Ilya Sutskever, cofundador e cientista-chefe da OpenAI, anunciou sua renúncia em 14 de maio. Ao contrário de seu homólogo, Sutskever não levantou nenhuma preocupação sobre a AGI em seu post X, em vez disso, expressou sua fé na capacidade da OpenAI de criar uma AGI "segura e benéfica".
Published At
5/21/2024 5:01:33 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.