OpenAI apresenta equipe de 'preparação' para combater possíveis catástrofes de IA
Summary:
A OpenAI, empresa de pesquisa e desenvolvimento de IA, anunciou sua nova iniciativa, "Preparedness", com foco em potenciais ameaças de IA. Esta equipe, liderada por Aleksander Madry, monitorará, avaliará, antecipará e minimizará potenciais riscos catastróficos decorrentes da IA. As principais áreas de foco serão ameaças químicas, biológicas, radiológicas e nucleares, persuasão individualizada, segurança cibernética e adaptação à replicação autônoma. Paralelamente, a OpenAI lançou um Desafio de Preparação para IA, fornecendo US$ 25.000 em créditos de API para as principais submissões. A empresa também está solicitando candidatos de várias disciplinas técnicas para se juntar à nova equipe.
A OpenAI, organização responsável pelo desenvolvimento e pesquisa da tecnologia de IA, incluindo a ChatGPT, está iniciando um novo plano estratégico para identificar e abordar uma ampla gama de perigos ligados à IA. A organização divulgou em 25 de outubro que está desenvolvendo uma equipe especializada para identificar, avaliar, prever proativamente e se proteger contra potenciais riscos desastrosos resultantes da aplicação da tecnologia de IA. Chamada de unidade de "Preparação", esta divisão focada da OpenAI se concentrará principalmente em potenciais riscos de IA associados a danos químicos, biológicos, radiológicos e nucleares, juntamente com persuasão personalizada, segurança cibernética e replicação e evolução autônomas. Liderada por Aleksander Madry, a equipe de Preparação se esforçará para determinar a extensão do perigo que os sistemas de IA de fronteira podem apresentar quando usados indevidamente e se esses sistemas podem ser efetivamente manuseados por indivíduos malévolos que adquiriram pesos de modelo de IA roubados. A OpenAI afirmou: "Os modelos de IA de fronteira, com seu potencial para superar as capacidades dos modelos mais sofisticados atualmente existentes, oferecem a promessa de beneficiar enormemente a humanidade". No entanto, a empresa também confessou os riscos cada vez maiores que esses modelos apresentam. A empresa ainda elaborou: "Levamos a sério todos os riscos de segurança relacionados à IA, desde os sistemas atuais até os picos imagináveis de superinteligência. Para garantir a segurança de sistemas sofisticados de IA, estamos aprimorando nossa estratégia de preparação contra riscos catastróficos." A OpenAI explicou em sua postagem no blog que atualmente está à procura de indivíduos qualificados de diversas formações técnicas para se juntar à equipe de preparação. Além disso, eles iniciaram o AI Preparedness Challenge para incentivar iniciativas para prevenir o uso indevido catastrófico, com as 10 principais inscrições recebendo US$ 25.000 em créditos de API. Vale ressaltar que a empresa havia revelado planos para estabelecer uma equipe abordando potenciais riscos de IA em julho de 2023. Tem havido ênfase recorrente nos perigos relacionados à tecnologia de IA, juntamente com preocupações de que a IA poderia potencialmente superar o intelecto humano. Apesar de estarem cientes desses riscos, empresas como a OpenAI continuaram a progredir ativamente na tecnologia de IA, alimentando assim mais apreensões. Em maio de 2023, a organização sem fins lucrativos, Center for AI Safety, emitiu uma carta pública enfatizando o risco de IA, pedindo ação coletiva para reduzir o risco de extinção humana por IA, ao lado de outras ameaças de grande escala, como pandemias e guerra nuclear.
Published At
10/27/2023 10:03:00 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.