Google développe une nouvelle méthode pour amplifier les grands modèles de langage, ce qui pourrait résoudre les obstacles juridiques
Summary:
Google Research et Google DeepMind ont mis au point un moyen d’augmenter les grands modèles de langage (LLM) avec des modèles supplémentaires, améliorant ainsi les tâches existantes et en permettant d’en créer de nouvelles. En utilisant le LLM de Google comparable à GPT-4, l’équipe a démontré des améliorations significatives dans les tâches de traduction et de codage. Cependant, le secteur est confronté à des problèmes juridiques concernant l’utilisation de données protégées par le droit d’auteur pour l’entraînement de l’IA, menaçant de déstabiliser les fondements des chatbots comme ChatGPT. La nouvelle méthode de Google pourrait potentiellement réduire les coûts et les exigences liés à la création ou à la reformation d’un LLM.
Des scientifiques et des chercheurs de Google Research et Google DeepMind ont dévoilé une technique qui permet d’améliorer les grands modèles de langage (LLM) avec des modèles de langage supplémentaires. Cela résout un problème important avec les LLM, qui fournit de nouvelles fonctionnalités aux modèles existants sans avoir besoin d’une reconstruction totale ou de sessions de réglage fin coûteuses. Les chercheurs soulignent que l’amélioration d’un LLM avec un autre langage améliore les tâches existantes et ouvre des possibilités pour de nouvelles tâches que les modèles autonomes ne pourraient pas gérer.
Les chercheurs ont utilisé le LLM PaLM2-S de Google, comparable à GPT-4 qui alimente ChatGPT d’OpenAI, pour l’étude. Dans un premier temps, PaLM2-S a été testé seul, puis il a été amélioré avec des modèles de langage plus petits et spécialisés. La série de tâches englobait la traduction et le codage ; La version améliorée a connu des augmentations impressionnantes, avec une amélioration de 13 % des tâches de traduction et une augmentation frappante de 40 % des tâches de génération de code et d’explication.
De telles améliorations des performances pourraient avoir un impact positif immédiat sur le secteur de l’IA. L’amélioration des tâches de traduction est particulièrement bénéfique pour la traduction de langues peu supportées vers l’anglais, un défi persistant dans l’apprentissage automatique. Les recherches de Google ont le potentiel de faire progresser le domaine à cet égard.
En outre, ce domaine d’étude peut aider à résoudre les problèmes juridiques qui menacent de démanteler les fondations des chatbots comme ChatGPT. Les grands créateurs de modèles de langage font face à de nombreuses poursuites alléguant l’utilisation de données protégées par le droit d’auteur pour l’entraînement de l’IA. L’énigme juridique tourne autour de la question de savoir si les organisations à but lucratif peuvent légalement utiliser ces données pour leurs modèles linguistiques. Si les tribunaux se prononcent contre l’utilisation de données protégées par le droit d’auteur, continuer à fournir les services concernés pourrait devenir incroyablement difficile ou financièrement prohibitif.
Les coûts élevés associés à la formation des LLM et leur dépendance à l’égard de grands ensembles de données signifient que des produits tels que ChatGPT pourraient avoir du mal à survivre dans un secteur américain de l’IA fortement réglementé. Cependant, si la méthode d’amélioration LLM de Google s’avère efficace avec plus de développement, elle pourrait réduire les coûts et la mise à l’échelle nécessaires à la création ou à la réformation d’un LLM.
Soit dit en passant, l’Italie a fait de la réglementation de l’IA une priorité clé de sa présidence du G7.
Published At
1/5/2024 9:07:08 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.