Google entwickelt neue Methode zur Erweiterung großer Sprachmodelle und löst damit möglicherweise rechtliche Hürden
Summary:
Google Research und Google DeepMind haben eine Möglichkeit entwickelt, große Sprachmodelle (LLMs) mit zusätzlichen zu erweitern, bestehende Aufgaben zu verbessern und neue zu ermöglichen. Mit Googles LLM, vergleichbar mit GPT-4, konnte das Team signifikante Verbesserungen bei Übersetzungs- und Codierungsaufgaben nachweisen. Der Sektor sieht sich jedoch mit rechtlichen Problemen konfrontiert, wenn es um die Verwendung urheberrechtlich geschützter Daten für das KI-Training geht, die die Grundlagen von Chatbots wie ChatGPT zu destabilisieren drohen. Die neue Methode von Google könnte möglicherweise die Kosten und Anforderungen für die Erstellung oder Umschulung eines LLM senken.
Wissenschaftler und Forscher von Google Research und Google DeepMind haben eine Technik vorgestellt, mit der große Sprachmodelle (LLMs) um zusätzliche Sprachmodelle erweitert werden können. Dies behebt ein erhebliches Problem mit LLMs, nämlich die Bereitstellung neuer Funktionen für vorhandene Modelle, ohne dass eine vollständige Neuerstellung oder teure Feinabstimmungssitzungen erforderlich sind. Die Forscher betonen, dass die Erweiterung eines LLM um eine andere Sprache die bestehenden Aufgaben verbessert und Möglichkeiten für neue Aufgaben eröffnet, die die eigenständigen Modelle nicht bewältigen könnten.
Die Forscher nutzten für die Studie PaLM2-S LLM von Google – vergleichbar mit GPT-4, das ChatGPT von OpenAI antreibt. Zunächst wurde PaLM2-S allein getestet, gefolgt von Tests, nachdem es mit kleineren, spezialisierten Sprachmodellen erweitert wurde. Die Reihe der Aufgaben umfasste Übersetzung und Codierung; Die erweiterte Version zeigte beeindruckende Zuwächse, mit einer Verbesserung der Übersetzungsaufgaben um 13 % und einem deutlichen Anstieg der Codegenerierungs- und Erklärungsaufgaben um 40 %.
Solche Leistungssteigerungen könnten sich sofort positiv auf den KI-Sektor auswirken. Verbesserte Übersetzungsaufgaben sind besonders vorteilhaft für die Übersetzung von Sprachen mit geringer Unterstützung ins Englische, eine anhaltende Herausforderung beim maschinellen Lernen. Die Forschung von Google hat das Potenzial, das Feld in dieser Hinsicht voranzubringen.
Darüber hinaus kann dieser Studienbereich dazu beitragen, rechtliche Probleme zu lösen, die die Grundlagen von Chatbots wie ChatGPT zu zerstören drohen. Große Entwickler von Sprachmodellen sehen sich mit zahlreichen Klagen konfrontiert, in denen die Verwendung urheberrechtlich geschützter Daten für das KI-Training behauptet wird. Das rechtliche Rätsel dreht sich darum, ob gewinnorientierte Organisationen solche Daten legal für ihre Sprachmodelle nutzen können. Wenn Gerichte gegen die Verwendung urheberrechtlich geschützter Daten entscheiden, könnte die weitere Bereitstellung der betroffenen Dienste unglaublich schwierig oder finanziell unerschwinglich werden.
Die hohen Kosten, die mit der Ausbildung von LLMs verbunden sind, und ihre Abhängigkeit von großen Datensätzen bedeuten, dass Produkte wie ChatGPT in einer stark regulierten US-KI-Branche nur schwer überleben könnten. Wenn sich die LLM-Erweiterungsmethode von Google jedoch mit mehr Entwicklung als erfolgreich erweist, könnten die erforderlichen Kosten und die Skalierung für die Erstellung oder das erneute Training eines LLM gesenkt werden.
Nebenbei bemerkt hat Italien die Regulierung von KI als eine der wichtigsten Prioritäten während seiner G7-Präsidentschaft genannt.
Published At
1/5/2024 9:07:08 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.