OpenAI lança iniciativa de "preparação" para enfrentar riscos relacionados à IA e mitigar ameaças potenciais
Summary:
A OpenAI está lançando uma iniciativa chamada "Preparação" para avaliar e mitigar riscos de amplo alcance associados à IA. A iniciativa se concentrará em potenciais ameaças de IA, incluindo ameaças químicas, biológicas, radiológicas e nucleares, persuasão individual, segurança cibernética e replicação autônoma. Liderada por Aleksander Madry, a equipe investigará os perigos do uso indevido de sistemas de IA de fronteira. A OpenAI também lançou um Desafio de Preparação de IA para prevenção de uso indevido catastrófico, com US$ 25.000 em créditos de API a serem concedidos para as melhores submissões.
A OpenAI, empresa responsável pelo desenvolvimento de tecnologias de IA como a ChatGPT, está lançando um projeto voltado para avaliar vários perigos potenciais associados à IA. Revelada em 25 de outubro, a OpenAI está agora estruturando uma equipe única cujo foco principal será estudar, prever e mitigar potenciais riscos avassaladores que podem surgir do uso da tecnologia de IA. Esta equipe, chamada "Preparação", estará prestando muita atenção aos potenciais riscos de IA, incluindo ameaças químicas, biológicas, radiológicas e nucleares, persuasão individual, segurança cibernética e replicação espontânea e adaptações.
A equipe, orientada por Aleksander Madry, tem a tarefa de entender questões críticas, como o nível de perigo que um sistema avançado de IA pode representar quando usado indevidamente ou se, em caso de roubo, pode ser implantado por elementos prejudiciais. "Os modelos de IA de fronteira", compartilhou a OpenAI, "têm o potencial de ser benéficos para a humanidade global". Da mesma forma, eles sustentaram que esses modelos de IA também poderiam representar "riscos cada vez mais graves".
Expondo as opiniões da empresa, a OpenAI declarou: "Reconhecemos e consideramos seriamente todas as formas de riscos de segurança associados à IA, desde os sistemas atuais até os extremos da superinteligência... Para garantir a segurança de sistemas de IA altamente capazes, estamos refinando nossa abordagem para lidar com a preparação para riscos catastróficos."
Além de criar a nova divisão, a OpenAI está lançando um desafio voltado para evitar o uso indevido catastrófico de IA, prometendo US$ 25.000 em créditos de API para as 10 melhores submissões. A empresa também anunciou que está em busca de talentos de diversas formações técnicas para fazer parte da equipe de Preparação.
A OpenAI já havia sugerido a criação de uma equipe focada em lidar com potenciais riscos de IA em julho de 2023. Tradicionalmente, os perigos potenciais associados à inteligência artificial são frequentemente apontados, desencadeando preocupações de que esses sistemas de IA possam algum dia superar a inteligência humana. Apesar desses medos, empresas como a OpenAI têm buscado ativamente o desenvolvimento de novas tecnologias de IA, inadvertidamente levantando mais suspeitas e ansiedade.
Em um desenvolvimento comparável, o Center for AI Safety, uma organização sem fins lucrativos, publicou em maio de 2023 uma carta aberta enfatizando o risco de IA. O centro acredita que os riscos que a IA representa devem ser abordados seriamente em escala global, ao lado de outros riscos de escala social, como pandemias e guerra nuclear.
Published At
10/27/2023 10:03:56 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.