OpenAI führt nach der Wiedereinstellung des CEO ein "Preparedness Framework" zur Bewertung von KI-Risiken ein
Summary:
OpenAI, ein Entwickler von künstlicher Intelligenz (KI), plant die Einführung eines "Preparedness Frameworks". Dieses System umfasst ein spezielles Team, das mit der Bewertung potenzieller Risiken beauftragt ist. Die Strategie zielt darauf ab, ein System der gegenseitigen Kontrolle hinzuzufügen, um sich vor möglichen Risiken durch fortschrittliche Modelle zu schützen. Der Plan sieht einen Prozess vor, bei dem Sicherheitsberichte geprüft und dann zur Überprüfung auf Unternehmensebene weitergeleitet werden, wobei der neue Rahmen es dem Vorstand ermöglicht, Sicherheitsentscheidungen rückgängig zu machen. Dies folgt auf eine turbulente Zeit für OpenAI, in der CEO Sam Altman gefeuert und anschließend wieder eingestellt wurde. Angesichts des steigenden öffentlichen Interesses und der Besorgnis über KI haben führende Entwickler, darunter OpenAI, das Frontier Forum zur Selbstregulierung gegründet, und die Biden-Regierung hat neue KI-Sicherheitsstandards festgelegt.
OpenAI, ein Entwickler von künstlicher Intelligenz (KI), hat kürzlich Pläne zur Einführung eines "Preparedness Framework" bekannt gegeben. Diese Strategie beinhaltet die Bildung eines dedizierten Teams, das potenzielle Risiken bewertet und prognostiziert. In dem kürzlich veröffentlichten Blogbeitrag des Unternehmens vom 18. Dezember heißt es, dass dieses "Preparedness Team" die Sicherheits- und Richtlinienabteilungen von OpenAI miteinander verbinden wird. Es wird erwartet, dass dieses System, das nach dem Prinzip der gegenseitigen Kontrolle funktioniert, als Schutz gegen die drohenden "katastrophalen Risiken" dienen wird, die durch immer ausgefeiltere Modelle ausgelöst werden. OpenAI beharrte darauf, dass es seine Technologie nur unter der Gewährleistung der Sicherheit einführen würde. Die neu vorgeschlagene Strategie sieht vor, dass das Beratungsgremium Sicherheitsberichte prüft, die dann zur Überprüfung an die Unternehmensleitung und den OpenAI-Vorstand weitergeleitet werden. Obwohl die Führungskräfte die Befugnis haben, das endgültige Urteil zu fällen, räumt der jüngste Vorschlag dem Vorstand die Flexibilität ein, Sicherheitsentscheidungen zu kippen. Dieser Schritt ist die Folge eines Umbruchs, den OpenAI im November durchgemacht hat, der durch die plötzliche Entlassung und die anschließende Wiedereinsetzung von Sam Altman als CEO gekennzeichnet war. Nach Altmans Wiedereintritt in das Unternehmen gab OpenAI seinen neu ernannten Vorstand bekannt, dem Bret Taylor (Vorsitzender), Larry Summers und Adam D'Angelo angehören. Angesichts der jüngsten Markteinführungen wie ChatGPT im November 2022 ist das öffentliche Interesse an KI sprunghaft angestiegen, zusammen mit zunehmenden Ängsten über ihren potenziellen Schaden für die Gesellschaft. Bereits im Juli riefen führende KI-Entwickler mit Teilnehmern wie OpenAI, Microsoft, Google und Antropic das Frontier Forum ins Leben. Dieses Forum konzentriert sich auf die Überwachung der Selbstregulierung, die bei der Entwicklung einer verantwortungsvollen KI eingeführt wurde. Die Biden-Regierung hat im Oktober auch eine Durchführungsverordnung erlassen, die neuartige Sicherheitsbeschränkungen für Organisationen festlegt, die fortschrittliche Modelle entwickeln und ausführen. Vor der Verkündung dieser Verordnung wurden führende KI-Entwickler ins Weiße Haus einbestellt, um ihr Engagement für die Entwicklung sicherer und transparenter KI-Modelle zu bekunden, darunter auch OpenAI.
Published At
12/19/2023 11:36:24 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.