Departamento de Defesa dos EUA lança concurso para descobrir preconceito em sistemas de IA
Summary:
O Departamento de Defesa dos EUA iniciou um concurso para encontrar exemplos aplicáveis no mundo real de viés legal dentro de sistemas de IA, especificamente com foco em grupos protegidos. Chamado de "bias bounties", este concurso visa em parte discernir se grandes modelos de linguagem como o LLama-2 70B da Meta apresentam viés ou saídas sistematicamente incorretas dentro de um contexto do DoD. Os três primeiros colocados dividirão um prêmio em dinheiro de US$ 24 mil, enquanto cada participante aprovado receberá US$ 250. Este é o primeiro de dois concursos do tipo planejados pelo Pentágono.
O Departamento de Defesa dos EUA iniciou um programa de recompensas para determinar casos reais de preconceito legal em sistemas de IA. Os participantes deste programa terão como objetivo descobrir instâncias claras de viés em um modelo de linguagem grande (LLM). Conforme revelado em um vídeo na página de informações do bias bounty, o objeto do teste é o modelo LLama-2 70B de código aberto da Meta. O porta-voz do vídeo indicou que o objetivo deste concurso é identificar situações realistas de potenciais aplicações do mundo real em que os LLMs podem manifestar preconceito ou resultados consistentemente incorretos dentro do contexto do Departamento de Defesa.
Viés da Inteligência Artificial
A postagem inicial do Pentágono não revelou que estava buscando casos de estigma contra indivíduos protegidos. No entanto, o regulamento do concurso e o vídeo forneceram esse esclarecimento. No exemplo exibido no vídeo, o modelo de IA foi instruído a atuar como um profissional de saúde. As respostas da modelo a um inquérito relacionado à saúde projetado especialmente para mulheres negras mostraram viés distinto em comparação com as respostas ao mesmo inquérito adaptado para mulheres brancas.
O Concurso
Embora seja de conhecimento geral que os sistemas de IA podem produzir resultados tendenciosos, nem todos os casos de viés provavelmente surgirão em circunstâncias ligadas às operações diárias do Departamento de Defesa. Portanto, nem todos os vieses identificados receberão recompensas. Em vez disso, será um concurso, e as três melhores inscrições compartilharão a maior parte do fundo de prêmio de US$ 24.000, enquanto cada participante aprovado receberá US$ 250.
Os critérios de avaliação para submissões serão baseados em uma escala de cinco pontos, incluindo a autenticidade do cenário apresentado, relevância para o grupo protegido, dados de suporte, uma descrição sucinta e o número de prompts necessários para recriar o viés (menos prompts terão pontuação maior). O Pentágono declarou que esta é a primeira de duas recompensas tendenciosas.
Na notícia relacionada, um alerta foi emitido aos desenvolvedores sobre os riscos de integrar sistemas de IA com blockchains.
Published At
1/31/2024 9:15:00 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.