Google разрабатывает новый метод усиления больших языковых моделей, потенциально устраняя юридические препятствия
Summary:
Google Research и Google DeepMind разработали способ дополнять большие языковые модели (LLM) дополнительными, улучшая существующие задачи и позволяя создавать новые. Используя LLM от Google, сравнимый с GPT-4, команда продемонстрировала значительные улучшения в задачах перевода и кодирования. Тем не менее, сектор сталкивается с юридическими проблемами в связи с использованием данных, защищенных авторским правом, для обучения ИИ, что угрожает дестабилизировать основы чат-ботов, таких как ChatGPT. Новый метод Google потенциально может снизить затраты и требования к созданию или переобучению LLM.
Ученые и исследователи из Google Research и Google DeepMind представили технологию, которая позволяет улучшать большие языковые модели (LLM) с помощью дополнительных языковых моделей. Это решает серьезную проблему с LLM, которая заключается в предоставлении новых возможностей существующим моделям без необходимости полной перестройки или дорогостоящих сеансов тонкой настройки. Исследователи подчеркивают, что расширение LLM с помощью другого языка улучшает существующие задачи и открывает возможности для новых задач, с которыми не могут справиться автономные модели.
Для исследования исследователи использовали PaLM2-S LLM от Google, сравнимый с GPT-4, на котором работает ChatGPT от OpenAI. Первоначально PaLM2-S тестировался отдельно, а затем были протестированы с помощью меньших специализированных языковых моделей. Комплекс задач включал в себя перевод и кодирование; Улучшенная версия продемонстрировала впечатляющий рост: на 13% улучшились задачи по переводу и на 40% увеличилось количество задач по генерации кода и объяснениям.
Такое повышение производительности может сразу же положительно повлиять на сектор ИИ. Улучшенные задачи перевода особенно полезны для перевода языков с низкой поддержкой на английский язык, что является постоянной проблемой в машинном обучении. Исследования Google имеют потенциал для продвижения в этой области.
Кроме того, эта область исследований может помочь в решении юридических вопросов, угрожающих демонтировать основы чат-ботов, таких как ChatGPT. Создатели крупных языковых моделей сталкиваются с многочисленными судебными исками, в которых утверждается, что они используют данные, защищенные авторским правом, для обучения ИИ. Юридическая головоломка вращается вокруг того, могут ли коммерческие организации законно использовать такие данные для своих языковых моделей. Если суды вынесут решение против использования данных, защищенных авторским правом, продолжение предоставления затронутых услуг может стать невероятно сложным или финансово непосильным.
Высокие затраты, связанные с обучением магистров права, и их зависимость от больших наборов данных означают, что такие продукты, как ChatGPT, могут бороться за выживание в жестко регулируемой индустрии искусственного интеллекта в США. Тем не менее, если метод улучшения LLM от Google окажется успешным при дальнейшем развитии, это может снизить необходимые затраты и масштабирование для создания или переобучения LLM.
Кроме того, Италия назвала регулирование ИИ ключевым приоритетом во время своего председательства в G7.
Published At
1/5/2024 9:07:08 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.