OpenAI-Veteranen und Y Combinator-Partner starten "Safe Superintelligence, Inc." zur Verbesserung der KI-Sicherheit
Summary:
Ilya Sutskever, ehemaliger Chefwissenschaftler von OpenAI, und Daniel Levy, ein ehemaliger OpenAI-Ingenieur, haben mit Daniel Gross, dem ehemaligen Partner des Startup-Beschleunigers Y Combinator, zusammengearbeitet, um Safe Superintelligence, Inc. (SSI) zu gründen. Das in den USA ansässige Unternehmen hat sich zum Ziel gesetzt, die Sicherheit und die Fähigkeiten der künstlichen Intelligenz (KI) zu verbessern. Neben der Sorge um die KI-Sicherheit haben ehemalige OpenAI-Mitarbeiter und wichtige Tech-Persönlichkeiten, darunter Ethereum-Mitbegründer Vitalik Buterin, Tesla-CEO Elon Musk und Apple-Mitbegründer Steve Wozniak, eine Pause des KI-Trainings gefordert, um die potenziellen Risiken zu berücksichtigen.
Ilya Sutskever, der ehemalige Chefwissenschaftler und Mitbegründer von OpenAI, und Daniel Levy, der ehemalige OpenAI-Ingenieur, haben sich mit Daniel Gross, einem früheren Partner des Startup-Beschleunigers Y Combinator, zusammengetan, um Safe Superintelligence, Inc. (SSI) zu gründen. Der Fokus und das Produkt dieses neuen Unternehmens spiegeln sich im Titel wider. SSI, mit einer Präsenz in Palo Alto und Tel Aviv in den Vereinigten Staaten, will die künstliche Intelligenz (KI) durch die gemeinsame Entwicklung von Sicherheitsmaßnahmen und -fähigkeiten vorantreiben, wie das Gründertrio am 19. Juni online bekannt gab. Sie betonten ihren einzigartigen Fokus auf die Vermeidung von Ablenkungen, die durch Managementangelegenheiten oder Produktzyklen verursacht werden, mit einem Geschäftsmodell, das Sicherheit und Fortschritt vor kurzfristigen kommerziellen Einflüssen schützt.
Bevor er OpenAI am 14. Mai verließ, äußerte Sutskever zusammen mit Gross Bedenken hinsichtlich der KI-Sicherheit. Sutskever spielte eine vage Rolle in der Firma, nachdem er den Vorstand nach der Wiedereinstellung von CEO Sam Altman verlassen hatte. Daniel Levy gehörte zu den Forschern, die OpenAI kurz nach Sutskever verließen. Sutskever und Jan Leike leiteten das Superalignment-Team von OpenAI, das im Juli 2023 gegründet wurde, um zu untersuchen, wie KI-Systeme, die intelligenter sind als wir, gesteuert und gesteuert werden können, die als künstliche allgemeine Intelligenz (AGI) bezeichnet werden. Bei seiner Gründung hat OpenAI diesem Team 20 % seiner Rechenkapazität zugewiesen.
Im Mai verließ Leike jedoch auch das Unternehmen und leitet nun ein Team bei Anthropic, einem KI-Startup, das von Amazon unterstützt wird. Das Unternehmen argumentierte seine Sicherheitsvorkehrungen in einem detaillierten X-Beitrag von Firmenpräsident Greg Brockman, löste aber das Superalignment-Team auf, nachdem seine Forscher im Mai gegangen waren.
Die Ex-OpenAI-Ermittler sind nicht die einzigen, die Befürchtungen über den zukünftigen Kurs der KI äußern. Inmitten des Personalwechsels bei OpenAI bezeichnete Ethereum-Mitbegründer Vitalik Buterin AGI als "riskant". Er teilte jedoch auch mit, dass solche Modelle ein deutlich geringeres "Untergangsrisiko" darstellen als die Gier der Unternehmen und die Streitkräfte.
Der ehemalige OpenAI-Unterstützer, Tesla-CEO Elon Musk und Apple-Mitbegründer Steve Wozniak schlossen sich über 2.600 Tech-Experten und Forschern an, die eine sechsmonatige Pause für das Training von KI-Systemen forderten, um über das "tiefgreifende Risiko" nachzudenken, das es mit sich bringt.
In der Ankündigung der Einführung von SSI wurde auch erwähnt, dass das Unternehmen Forscher und Ingenieure einstellen möchte.
Published At
6/20/2024 12:45:47 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.