Anthropic внедряет инновации в модели искусственного интеллекта, управляемые пользователями: шаг к демократизации искусственного интеллекта
Summary:
Компания Anthropic, занимающаяся искусственным интеллектом, разработала исследование с использованием большой языковой модели (LLM), которая адаптируется к оценочным суждениям пользователей. В эксперименте, первом в своем роде, приняли участие около 1000 граждан США, которые внесли свой вклад в разработку конституции ИИ. Этот процесс выявил определенные проблемы, но в конечном итоге был достигнут незначительный прогресс с точки зрения предвзятого результата. Anthropic считает, что это может быть одним из первых случаев, когда публичная группа влияет на поведение LLM, и надеется, что эта техника может быть использована для создания культурно-специфических моделей в будущем.
Корпорация искусственного интеллекта Anthropic, пионер беспрецедентного эксперимента по разработке масштабной языковой модели (LLM), адаптированной к оценочным суждениям пользователей. В своем стремлении демократизировать развитие ИИ она сотрудничала с @collect_intel и использовала @usepolis для создания конституции ИИ, основанной на мнениях примерно 1000 граждан США. Впоследствии устоявшаяся модель была опробована с помощью конституционного ИИ.
Ограничения или заранее определенные правила функционирования, используемые при проектировании многих LLM, ориентированных на потребителя, включая Claude от Anthropic и ChatGPT от OpenAI, чтобы обуздать нежелательные результаты. Тем не менее, критики утверждают, что эти принятые ограничения ущемляют автономию пользователя. Они утверждают, что то, что считается допустимым, не обязательно может быть полезным, и наоборот. Более того, культурные, временные и демографические различия еще больше усложняют моральные и ценностные суждения.
Одним из способов решения этой сложной проблемы может быть предоставление пользователям возможности самостоятельно определять соответствие значений для моделей ИИ. Anthropic попыталась решить эту сложную проблему с помощью эксперимента Collective Constitutional AI, задав 1000 пользователям различных по демографическому происхождению серии вопросов с помощью опросов. Цель состоит в том, чтобы найти баланс между предоставлением редакционного усмотрения и предотвращением вывода ненадлежащего контента. Процесс включал в себя внедрение обратной связи с пользователями на модели, которая уже была обучена.
Anthropic использует конституционный искусственный интеллект для тонкой настройки LLM, специально разработанных для обеспечения безопасности и полезности. Это похоже на то, как если бы модель была проинструктирована с помощью свода правил, очень похожих на конституцию, которых она должна строго придерживаться. В эксперименте Collective Constitutional AI была предпринята попытка объединить коллективную обратную связь с конституцией модели.
Согласно сообщению в блоге Anthropic, прорывной эксперимент, похоже, достиг своих научных целей, несмотря на выявленные препятствия на пути к достижению его конечной цели - позволить пользователям LLM определить свои коллективные ценности. Препятствия включали в себя изобретение инновационного метода бенчмаркинга, поскольку из-за новизны этого эксперимента не существует установленного теста для моделей, настроенных с помощью краудсорсинга.
В заключение следует отметить, что модель, включающая данные опроса пользователей, показала незначительно лучшие результаты в секторе смещенных результатов. Anthropic надеется на дальнейшее изучение этой процедуры и надеется, что будущие глобальные сообщества смогут использовать эти методологии для создания моделей, которые будут удовлетворять их индивидуальные потребности.
Published At
10/18/2023 5:00:00 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.