OpenAI lanzará un "marco de preparación" para evaluar los riesgos de la IA, tras la reincorporación del CEO
Summary:
OpenAI, un desarrollador de inteligencia artificial (IA), planea introducir un "Marco de preparación". Este esquema incluye un equipo dedicado a evaluar los riesgos potenciales. La estrategia busca agregar un sistema de controles y equilibrios para protegerse contra posibles riesgos de modelos avanzados. El plan incluye un proceso en el que los informes de seguridad se examinan y luego se envían para su revisión a nivel de empresa, y el nuevo marco permite a la junta revertir las decisiones de seguridad. Esto sigue a un período turbulento para OpenAI, con el despido del CEO Sam Altman y su posterior reincorporación. En medio del creciente interés público y la preocupación por la IA, los principales desarrolladores, incluido OpenAI, han establecido The Frontier Forum para la autorregulación y la Administración Biden ha esbozado nuevos estándares de seguridad de IA.
OpenAI, un desarrollador de inteligencia artificial (IA), divulgó recientemente sus planes para lanzar un "Marco de preparación". Esta estrategia implica la formación de un equipo dedicado con el objetivo de evaluar y pronosticar los riesgos potenciales. La publicación reciente del blog de la compañía, con fecha del 18 de diciembre, afirmaba que este "Equipo de preparación" vinculará las divisiones de seguridad y políticas de OpenAI. Se espera que este sistema, que funciona de manera de pesos y contrapesos, actúe como una salvaguardia contra los inminentes "riesgos catastróficos" provocados por modelos cada vez más sofisticados. OpenAI insistió en que solo desplegaría su tecnología bajo la garantía de seguridad. La nueva estrategia propuesta implica que el panel asesor examine los informes de seguridad que luego se enviarían a los ejecutivos de la empresa y a la junta directiva de OpenAI para su revisión. A pesar de que los ejecutivos tienen la autoridad para tomar el veredicto final, la última propuesta otorga a la junta la flexibilidad para revocar las decisiones de seguridad. Este movimiento es la consecuencia de una agitación que sufrió OpenAI en noviembre, marcada por la repentina destitución y la consiguiente reincorporación de Sam Altman como CEO. Tras el reingreso de Altman a la empresa, OpenAI reveló su nueva junta directiva, que incluye a Bret Taylor (presidente), Larry Summers y Adam D'Angelo. A la luz de lanzamientos recientes como ChatGPT en noviembre de 2022, el interés público en la IA se ha disparado, junto con la creciente ansiedad por su posible daño a la sociedad. En julio, los principales desarrolladores de IA, con participantes como OpenAI, Microsoft, Google y Antropic, lanzaron The Frontier Forum. Este foro se centra en la supervisión de la autorregulación introducida en la elaboración de una IA responsable. La Administración Biden también presentó una orden ejecutiva en octubre que especifica nuevas restricciones de seguridad para las organizaciones que desarrollan modelos avanzados y los ejecutan. Antes de la declaración de esta orden ejecutiva, los principales desarrolladores de IA fueron convocados a la Casa Blanca para comprometerse con la creación de modelos de IA seguros y transparentes, con OpenAI entre los asistentes.
Published At
12/19/2023 11:36:24 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.