OpenAI извлекает ключевые уроки из грантового проекта стоимостью $1 млн, направленного на продвижение демократического поведения ИИ
Summary:
OpenAI почерпнула пять ключевых идей из своей грантовой программы в размере 1 миллиона долларов, направленной на создание демократического процесса для поведения ИИ, основанного на общественном мнении. Уроки включают в себя необходимость частых процессов ввода информации для адаптации к меняющимся взглядам, обеспечения того, чтобы коллективный процесс охватывал основные ценности, устранения цифрового разрыва, работы с сильными расходящимися взглядами внутри групп и уравновешивания консенсуса при представлении различных мнений. Принимая во внимание опасения общественности и надежду на будущее использование ИИ в политике, OpenAI стремится реализовать собранные отзывы и создает новую команду, занимающуюся включением общественного мнения в поведение своих моделей ИИ.
Компания OpenAI определила пять ключевых выводов из своей грантовой инициативы в размере 1 миллиона долларов, которая стремилась внести свой вклад в формирование поведения ИИ, соответствующего человеческим ценностям. Еще в мае 2023 года компания объявила о своем плане распределить в общей сложности 1 миллион долларов, разбитых на десять грантов по 100 000 долларов каждый, на проекты, направленные на разработку демократического и предварительного метода принятия решений о руководящих принципах систем искусственного интеллекта.
В сообщении в блоге, датированном 16 января, компания, занимающаяся искусственным интеллектом, подробно рассказала, как получатели грантов способствовали инновациям в демократических технологиях, чему их научила программа и как они планируют внедрить недавно разработанную демократическую технологию.
В сообщении отмечается, что различные команды по-разному собирали мнения пользователей, заявляя, что общественное мнение склонно к частым изменениям, которые могут диктовать, как часто должны происходить эти процессы сбора. Одно из важнейших пониманий заключалось в том, что коллективный процесс должен охватывать основные ценности и быть чувствительным к любым существенным сдвигам в перспективе с течением времени.
Команды обнаружили, что преодоление цифрового разрыва остается серьезным препятствием, которое может привести к предвзятым результатам. Привлечение участников, преодолевающих цифровой разрыв, было сложной задачей из-за ограничений платформы и сложностей, связанных с пониманием местных языков или контекста.
Интересно, что было замечено, что консенсуса внутри групп с сильными расхождениями было трудно достичь, особенно когда небольшое меньшинство придерживалось укоренившихся взглядов по определенной теме. Откровение команды Коллективных диалогов заключалось в том, что меньшинство было непреклонно в том, чтобы не ограничивать ИИ-помощников в ответах на определенные запросы за сессию, что вызвало трения с результатами голосования большинства.
По мнению OpenAI, достижение баланса между единообразным согласием и включением различных точек зрения является сложной задачей, когда предполагаемый результат является единственным. Одна из команд, Inclusive.AI, изучила механизмы голосования и обнаружила, что методы, передающие сильную эмоциональную силу и обеспечивающие равное участие, воспринимаются как более демократичные и справедливые.
Что касается опасений по поводу роли ИИ в будущем управлении, то в сообщении в блоге отмечается, что некоторые участники выразили опасения по поводу использования ИИ при разработке политики, призвав к прозрачности. Несмотря на это, после обсуждений среди общественности наблюдался повышенный оптимизм в отношении их способности направлять ИИ.
OpenAI планирует воспользоваться предложениями общественности и создает новую команду Collective Alignment, состоящую из исследовательского и инженерного персонала. Им поручено построить систему сбора и интеграции общественного мнения о поведении их моделей в предложения OpenAI.
В других новостях издание сообщает о мошеннических «похищениях» ИИ, роботе-поваре за 20 тысяч долларов и спорах о плагиате ИИ Акмана в AI Eye.
Published At
1/17/2024 3:17:40 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.