Pesquisadores desenvolvem o OpinionGPT: um modelo de IA programado intencionalmente para gerar resultados tendenciosos.
Summary:
Investigadores da Humboldt-Universität zu Berlin desenvolveram o OpinionGPT, um modelo de inteligência artificial programado intencionalmente para gerar resultados tendenciosos. O modelo, uma versão modificada do Llama 2 da Meta, é treinado para responder representando 11 grupos de tendências diferentes. No entanto, devido à natureza limitada dos dados de treinamento e à sua relação questionável com as tendências do mundo real, o modelo gera principalmente texto que reflete a tendência dos seus dados. Embora o OpinionGPT possa não ser adequado para estudar tendências humanas reais, ele pode ser usado para explorar estereótipos dentro de grandes repositórios de documentos. Os pesquisadores disponibilizaram o OpinionGPT para testes públicos, mas alertam que o conteúdo gerado pode não ser confiável.
Uma equipe de pesquisadores da Humboldt-Universitat zu Berlin criou o OpinionGPT, um modelo de inteligência artificial projetado intencionalmente para produzir resultados tendenciosos. Esse modelo é uma versão modificada do Llama 2 da Meta, que é semelhante em capacidade ao ChatGPT da OpenAI ou ao Claude 2 da Anthropic. O OpinionGPT é treinado para responder como se representasse um dos 11 grupos de viés, como americano, alemão ou conservador. Os pesquisadores utilizam um processo chamado de ajuste fino com base em instruções para conseguir isso. Eles refinaram o OpinionGPT com dados obtidos das comunidades "AskX" do Reddit, especificamente subreddits relacionados aos 11 grupos de viés. Ao aplicar conjuntos de instruções separados ao modelo Llama2, os pesquisadores visaram representar cada rótulo de viés. No entanto, devido à natureza dos dados utilizados e sua relação questionável com o viés do mundo real, o OpinionGPT gera predominantemente textos que refletem o viés de seus dados de treinamento. Os pesquisadores reconhecem as limitações do estudo e reconhecem que as respostas geradas pelo OpinionGPT devem ser compreendidas como reflexo de um subconjunto específico de indivíduos, e não da população inteira. Os pesquisadores planejam explorar modelos que diferenciem ainda mais segmentos demográficos específicos. Embora o OpinionGPT possa não ser adequado para estudar o viés humano real, pode ser valioso para examinar estereótipos dentro de grandes repositórios de documentos. Os pesquisadores disponibilizaram publicamente o OpinionGPT para teste, mas alertam que o conteúdo gerado pode ser falso, impreciso ou até obsceno.
Published At
9/8/2023 8:42:29 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.