Controlando a IA Nociva: Um Apelo para Sistemas Avançados Apoiados pelo Governo e Governança de Computação
Summary:
Os pesquisadores sugerem que o controle da inteligência artificial (IA) prejudicial pode exigir um aprimoramento contínuo de poderosos sistemas de IA apoiados pelo governo. Seu estudo propõe a necessidade de controlar o acesso a recursos vitais de IA, exigindo a implementação de "governança computacional". A restrição efetiva do uso malicioso de IA pode exigir a inclusão de "kill switches" no hardware, permitindo o encerramento remoto de operações ilegais. Eles também alertam sobre possíveis complicações no controle da computação descentralizada. Os pesquisadores sugerem que as sociedades podem precisar empregar computação mais poderosa e governável sabiamente para combater os riscos emergentes de sistemas computacionais ingovernáveis.
O controle da inteligência artificial (IA) nociva pode estar no aprimoramento contínuo da IA sob orientação governamental. Essa inferência é feita por um grupo de pesquisadores em seu artigo mais recente, intitulado "Poder computacional e governança da inteligência artificial". O estudo, envolvendo intelectuais de institutos como OpenAI, Cambridge, Oxford e muitos outros, foi um esforço para explorar as questões imediatas e potenciais relacionadas à legislação e à progressão da IA.
A principal argumentação do artigo destaca a necessidade potencial de controlar o acesso a sistemas de IA fundamentais no futuro, controlando o hardware necessário para operá-los e modelá-los. Conforme explicado pelos pesquisadores, os formuladores de políticas podem aproveitar o poder de computação para implementar resultados benéficos, conter o desenvolvimento e o uso irresponsáveis de IA e fornecer visibilidade regulatória. Aqui, "computação" refere-se ao hardware vital necessário para o desenvolvimento de IA, incluindo GPUs e CPUs. Os pesquisadores recomendam cortar o acesso a essas fontes como a maneira ideal de evitar possíveis danos relacionados à IA. Isso implica medidas governamentais para supervisionar a criação, venda e função de qualquer hardware crucial para o desenvolvimento avançado de IA.
Em certos aspectos, a "governança computacional" já está sendo praticada globalmente. Por exemplo, os EUA restringem a venda de modelos específicos de GPU, comumente usados em treinamento de IA, para países como a China. De acordo com a pesquisa, restringir efetivamente o uso malévolo de IA exige que os fabricantes incluam "kill switches" no hardware. Tal medida permitiria que os governos encerrassem os esforços ilegais de treinamento de IA remotamente. Apesar disso, os estudiosos alertam que tais medidas de governança vêm com riscos inerentes relacionados à privacidade, implicações econômicas e concentração de poder. Por exemplo, o monitoramento de hardware nos EUA pode violar a recente diretriz da carta de direitos de IA da Casa Branca que garante direitos de proteção de dados aos cidadãos.
Somando-se a essas preocupações, os pesquisadores também indicam que os avanços emergentes no treinamento "eficiente em comunicação" podem direcionar para a computação descentralizada para modelagem, construção e operação. Essa tendência pode complicar a tarefa do governo de identificar e acabar com o aparato ilegal de treinamento. Os pesquisadores sugerem que essa possibilidade pode deixar aos governos nenhuma outra opção a não ser adaptar uma estratégia agressiva contra o uso ilegal de IA. De acordo com seu julgamento, "a sociedade terá que usar computação mais poderosa e governável oportuna e sabiamente para desenvolver defesas contra riscos emergentes representados por computação ingovernável.
Published At
2/16/2024 10:12:59 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.