I veterani di OpenAI e il partner di Y Combinator lanciano "Safe Superintelligence, Inc." per migliorare la sicurezza dell'IA
Summary:
Ilya Sutskever, ex capo scienziato di OpenAI, e Daniel Levy, ex ingegnere di OpenAI, hanno collaborato con Daniel Gross, ex partner dell'acceleratore di startup Y Combinator, per lanciare Safe Superintelligence, Inc. (SSI). L'azienda con sede negli Stati Uniti mira a migliorare la sicurezza e le capacità dell'intelligenza artificiale (AI). Oltre alle preoccupazioni per la sicurezza dell'IA, gli ex dipendenti di OpenAI e le principali figure tecnologiche, tra cui il co-fondatore di Ethereum Vitalik Buterin, il CEO di Tesla Elon Musk e il co-fondatore di Apple Steve Wozniak, hanno chiesto una pausa nell'addestramento dell'IA per considerare i potenziali rischi.
Ilya Sutskever, l'ex capo scienziato e co-fondatore di OpenAI, insieme a Daniel Levy, l'ex ingegnere di OpenAI, hanno collaborato con Daniel Gross, un precedente partner dell'acceleratore di startup Y Combinator, per lanciare Safe Superintelligence, Inc. (SSI). L'obiettivo e il prodotto di questa nuova impresa si riflettono nel suo titolo. SSI, con una presenza a Palo Alto e Tel Aviv negli Stati Uniti, mira a far progredire l'intelligenza artificiale (AI) sviluppando congiuntamente misure e capacità di sicurezza, come annunciato dal trio fondatore il 19 giugno online. Hanno sottolineato la loro particolare attenzione a evitare le distrazioni causate da questioni di gestione o cicli di prodotto, con un modello di business che garantisce che la sicurezza, la protezione e il progresso siano protetti da influenze commerciali a breve termine.
Prima di lasciare OpenAI il 14 maggio, Sutskever, insieme a Gross, ha condiviso le preoccupazioni relative alla sicurezza dell'IA. Sutskever ha svolto un ruolo vago nell'azienda dopo aver lasciato il suo consiglio di amministrazione in seguito al reintegro del CEO Sam Altman. Daniel Levy è stato tra i ricercatori che hanno lasciato OpenAI poco dopo Sutskever. Sutskever e Jan Leike hanno guidato il team Superalignment di OpenAI, formato nel luglio 2023, per esaminare come dirigere e controllare i sistemi di IA più intelligenti di noi, denominati intelligenza artificiale generale (AGI). Durante la sua nascita, OpenAI ha assegnato il 20% della sua capacità computazionale a questo team.
Tuttavia, anche Leike ha lasciato l'organizzazione a maggio e ora guida un team di Anthropic, una startup di intelligenza artificiale sostenuta da Amazon. L'azienda ha discusso le sue precauzioni di sicurezza in un dettagliato post X del presidente dell'azienda Greg Brockman, ma ha sciolto il team di Superalignment dopo che i suoi ricercatori se ne sono andati a maggio.
Gli ex investigatori di OpenAI non sono i soli a esprimere apprensione per il futuro corso dell'IA. Tra i rimescolamenti del personale di OpenAI, il co-fondatore di Ethereum Vitalik Buterin ha definito AGI "rischioso". Tuttavia, ha anche condiviso che tali modelli sono considerevolmente meno a "rischio di sventura" rispetto all'avidità aziendale e alle forze armate.
L'ex sostenitore di OpenAI, il CEO di Tesla Elon Musk, e il co-fondatore di Apple Steve Wozniak si sono uniti a oltre 2.600 esperti e ricercatori di tecnologia che chiedono uno stop di sei mesi all'addestramento dei sistemi di intelligenza artificiale per riflettere sul "rischio profondo" che comporta.
L'annuncio del lancio di SSI ha anche menzionato che l'azienda sta cercando di reclutare ricercatori e ingegneri.
Published At
6/20/2024 12:45:47 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.