18 nações revelam diretrizes de segurança cibernética para IA e inflamam discurso da indústria
Summary:
Dezoito países, incluindo EUA, Reino Unido e Austrália, emitiram diretrizes globais focadas em proteger modelos de IA contra adulterações. As recomendações orientam as empresas de IA a priorizar a segurança cibernética em suas operações. No entanto, o documento não aborda temas polêmicos, como a regulamentação de modelos geradores de imagens e deep fakes ou métodos de coleta de dados. As diretrizes chegam em meio a uma série de iniciativas governamentais que lidam com regulamentações de IA, mas também viram resistência da indústria de IA por temores de que possam atrapalhar a inovação.
As diretrizes globais destinadas a proteger os modelos de IA da manipulação foram emitidas em conjunto pelos Estados Unidos, Reino Unido, Austrália, entre outras 15 nações. Com ênfase na segurança dos modelos de IA, esses países propuseram em 26 de novembro que as organizações de IA deveriam priorizar a segurança cibernética como um aspecto fundamental de suas operações.
Como apontado por essas nações, a segurança nem sempre é considerada uma prioridade nesta indústria em rápida evolução. Eles ofereceram uma série de diretrizes gerais que incluem uma infraestrutura de IA rigorosamente monitorada, vigilância para qualquer interferência com modelos pré e pós-lançamento e a importância de treinamento adequado de segurança cibernética para os funcionários.
Curiosamente, o documento não abordou alguns tópicos de IA muito debatidos, como a regulamentação de modelos de criação de imagens e deep fakes ou os métodos empregados para coleta de dados e seu uso para modelos de treinamento, sendo este último um assunto controverso que levou várias empresas de IA a problemas legais por alegações de violação de direitos autorais.
A inteligência artificial está em um momento crítico, possivelmente sendo a tecnologia de maior alcance de nossa era, enfatizou Alejandro Mayorkas, secretário de Segurança Interna dos EUA. Ele enfatizou que a segurança cibernética é o pilar para a criação de sistemas de IA seguros, confiáveis e confiáveis.
As diretrizes são as mais recentes nos esforços do governo para facilitar as regulamentações de IA, já que governos e organizações de IA se reuniram no início deste mês em uma Cúpula de Segurança de IA em Londres para discutir uma abordagem alinhada ao desenvolvimento de IA. Em paralelo, a União Europeia está trabalhando em sua Lei de IA para regular essa área de tecnologia e o presidente dos EUA, Joe Biden, sancionou recentemente uma ordem executiva estipulando medidas de segurança de IA.
No entanto, ambas as iniciativas enfrentaram resistência do setor de IA, citando potenciais impedimentos à inovação. As diretrizes recém-lançadas, defendendo uma abordagem "segura por design", são endossadas por nações como Canadá, França, Alemanha, Israel, Itália, Japão, Nova Zelândia, Nigéria, Noruega, Coreia do Sul, Cingapura e empresas de IA como OpenAI, Microsoft, Google, Anthropic e Scale AI, que tiveram participação na formulação dessas diretrizes.
Published At
11/27/2023 4:45:38 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.