Los líderes de OpenAI cuestionan las críticas de seguridad tras la renuncia del alto funcionario de seguridad
Summary:
El CEO de OpenAI, Sam Altman, y el presidente, Greg Brockman, discutieron públicamente la reciente renuncia del principal oficial de seguridad, Jan Leike, en una plataforma en línea, X.com. Leike había acusado a la compañía de priorizar los productos sobre las medidas de seguridad. En respuesta a las acusaciones, los ejecutivos de la compañía afirmaron que OpenAI se compromete a ampliar las medidas de seguridad. Brockman especificó la triple estrategia de la compañía para la alineación de la seguridad y dijo que los plazos de lanzamiento podrían retrasarse por razones de seguridad. Altman, aunque cedió a algunos de los puntos de Leike, aseguró un compromiso continuo para mantener los estándares de seguridad.
El CEO y el presidente de OpenAI, Sam Altman y Greg Brockman respectivamente, acudieron a una plataforma en línea en X.com para discutir abiertamente sobre la reciente salida de Jan Leike, un oficial de seguridad clave que trabajó en la compañía. Según un informe reciente de Cointelegraph, Leike dirigió el departamento de alineación antes de presentar su dimisión el 17 de mayo, citando desacuerdos con el equipo ejecutivo de la empresa. Desde su cuenta @janleike en X.com, afirmó que la mercancía brillante de OpenAI ha eclipsado sus protocolos y procesos de seguridad.
Altman y Brockman se apresuraron a responder a estas acusaciones, compartiendo sus respuestas en X.com un día después de la publicación de Leike. Brockman, en su extenso discurso, expuso un esquema tripartito para mantener la alineación de seguridad dentro de la empresa. Si bien elogió las contribuciones de Leike, rechazó la idea de que OpenAI estuviera dejando de lado las consideraciones de seguridad. Según @gdb en X.com, "Hemos amplificado la conciencia sobre los riesgos y las perspectivas vinculados a AGI", comenzó Brockman, afirmando que la compañía exigía un control global sobre AGI antes de que se convirtiera en una tendencia.
"Además, hemos comenzado a trazar las bases necesarias para la utilización segura de sistemas cada vez más avanzados. Establecer la seguridad de una tecnología novedosa no es una tarea sencilla", agregó. Concluyó con una advertencia sobre los desafíos futuros, insistiendo en la necesidad de elevar los esfuerzos de seguridad de OpenAI para que coincidan con la importancia de cada nuevo modelo.
Indicó que la compañía no está siguiendo la norma de las grandes tecnologías de rápido progreso y disrupción. Dijo: "No estamos seguros de cuándo cumpliremos con nuestros estándares de seguridad para el lanzamiento, incluso si resulta en retrasos en los plazos de lanzamiento".
Por otro lado, Sam Altman, CEO y cofundador, mantuvo su respuesta corta, pero insinuó que discutiría el tema más a fondo en el futuro. Refiriéndose a las quejas de Leike, Altman admitió: "Tiene razón. Tenemos mucho más trabajo por delante; y nos comprometemos a emprenderlo".
Noticias relacionadas: Tras un acuerdo de intercambio de datos propuesto con OpenAI, las acciones de Reddit se desplomaron después del mercado.
Published At
5/19/2024 7:04:24 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.