OpenAI extrai as principais lições do projeto de subsídio de US$ 1 milhão que promove o comportamento democrático de IA
Summary:
A OpenAI obteve cinco insights importantes de seu programa de concessão de US$ 1 milhão destinado a estabelecer um processo democrático para o comportamento da IA, com base na contribuição pública. As lições incluem a necessidade de processos de entrada frequentes para acomodar a mudança de pontos de vista, garantir que um processo coletivo capture valores fundamentais, abordar a exclusão digital, lidar com fortes visões divergentes dentro dos grupos e equilibrar o consenso enquanto representa opiniões diferentes. Observando as apreensões do público e a esperança para o uso futuro da IA na política, a OpenAI busca implementar o feedback coletado e está estabelecendo uma nova equipe, dedicada a incorporar a opinião pública no comportamento de seus modelos de IA.
A OpenAI identificou cinco pontos-chave de sua iniciativa de doação de US$ 1 milhão que buscou contribuições públicas para moldar o comportamento da IA que se alinha aos valores humanos. A empresa anunciou em maio de 2023 seu plano de dispersar um total de US$ 1 milhão, dividido em dez doações de US$ 100 mil cada, para projetos que visam desenvolver um método democrático e preliminar de decidir as diretrizes dos sistemas de IA.
Em uma postagem no blog datada de 16 de janeiro, a empresa de IA detalhou como a inovação em tecnologia democrática foi facilitada pelos beneficiários de subsídios, o que o programa lhes ensinou e como eles planejam incorporar a tecnologia democrática recém-desenvolvida.
O post observou que as várias equipes colheram os sentimentos dos usuários de diversas maneiras, afirmando que a opinião pública estava propensa a mudanças frequentes, o que pode ditar a frequência com que esses processos de coleta precisam acontecer. Um entendimento crucial foi que o processo coletivo deve capturar os valores centrais e ser sensível a quaisquer mudanças significativas de perspectiva ao longo do tempo.
As equipes descobriram que superar a exclusão digital continua sendo um obstáculo significativo, o que pode causar resultados tendenciosos. Adquirir participantes que abordem a exclusão digital foi uma tarefa devido a restrições da plataforma e complicações relacionadas à compreensão de idiomas ou contextos locais.
Curiosamente, observou-se que o consenso dentro de grupos com forte divergência era difícil de alcançar, particularmente quando uma pequena minoria tinha opiniões arraigadas sobre um tópico específico. Uma revelação da equipe de Diálogos Coletivos foi uma minoria inflexível em não limitar os assistentes de IA de responder a certas perguntas por sessão, causando atrito com os resultados da votação da maioria.
De acordo com a OpenAI, equilibrar o acordo uniforme enquanto inclui pontos de vista diversos é uma tarefa assustadora quando o resultado pretendido é singular. Uma das equipes, Inclusive.AI, examinou os mecanismos de votação e descobriu que os métodos que transmitem forte força emocional e permitem a participação igualitária são percebidos como mais democráticos e equitativos.
Quanto às preocupações sobre o papel da IA na governança futura, a postagem do blog mencionou que alguns participantes expressaram apreensões sobre o uso da IA na elaboração de políticas, ao mesmo tempo em que pediram transparência. Apesar disso, após as discussões, um aumento do otimismo foi observado entre o público sobre sua capacidade de guiar a IA.
A OpenAI planeja usar as sugestões do público e está estabelecendo uma nova equipe de Alinhamento Coletivo composta por pessoal de pesquisa e engenharia. Eles são designados para construir um sistema para reunir e integrar opiniões públicas sobre o comportamento de seus modelos nas ofertas da OpenAI.
Em outras notícias, a publicação relata 'sequestros' fraudulentos de IA, um chef robô de US$ 20 mil e disputas de plágio de IA de Ackman no AI Eye.
Published At
1/17/2024 3:17:40 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.