Исследователи разработали OpinionGPT: модель искусственного интеллекта, специально настроенную на генерацию предвзятых результатов.
Summary:
Исследователи из Гумбольдт-Университета в Берлине разработали OpinionGPT - модель искусственного интеллекта, специально запрограммированную для генерации искаженных результатов. Модель, являющаяся модифицированной версией Llama 2 от Meta, обучена отвечать, представляя 11 групп искажений. Однако из-за ограниченности тренировочных данных и их сомнительной связи с реальными искажениями, модель в основном генерирует текст, отражающий искажения своих данных. Хотя OpinionGPT может быть не подходящей для изучения реальных человеческих искажений, ее можно использовать для изучения стереотипов в больших хранилищах документов. Исследователи предоставили OpinionGPT для публичного тестирования, но предупреждают, что сгенерированный контент может быть ненадежным.
Команда исследователей из Гумбольдт-Университета в Берлине создала OpinionGPT - модель искусственного интеллекта, которая специально разработана для создания предвзятых результатов. Эта модель является модифицированной версией Meta's Llama 2, которая по своим возможностям схожа с OpenAI's ChatGPT или Anthropic's Claude 2. OpinionGPT обучена отвечать так, будто она представляет одну из 11 групп предубеждений, таких как американцы, немцы или консерваторы. Исследователи используют процесс настройки с помощью инструкций для достижения этой цели. Они уточнили OpinionGPT на основе данных, полученных из сообществ Reddit "AskX", в частности, подразделов, связанных с 11 группами предубеждений. Применяя отдельные наборы инструкций к модели Llama2, исследователи стремились представить каждую группу предубеждений. Однако из-за характера используемых данных и их спорного отношения к реальным предубеждениям, OpinionGPT в основном генерирует текст, отражающий предубеждения своих обучающих данных. Исследователи признают ограничения своего исследования и осознают, что сгенерированные OpinionGPT ответы следует понимать как отражение определенного подмножества людей, а не всего населения. Исследователи планируют исследовать модели, которые еще более дифференцируют определенные демографические группы. Хотя OpinionGPT может быть не подходящей для изучения реального человеческого предубеждения, она может быть ценной при изучении стереотипов в больших хранилищах документов. Исследователи сделали OpinionGPT доступной для общественного тестирования, но предупреждают, что сгенерированный контент может быть ложным, неточным или даже неприличным.
Published At
9/8/2023 8:42:29 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.