OpenAI presenta un equipo de "preparación" para contrarrestar posibles catástrofes de IA
Summary:
OpenAI, la empresa de investigación y desarrollo de IA, ha anunciado su nueva iniciativa, 'Preparedness', centrada en las posibles amenazas de la IA. Este equipo, dirigido por Aleksander Madry, monitoreará, evaluará, anticipará y minimizará los posibles riesgos catastróficos derivados de la IA. Las principales áreas de enfoque serán las amenazas químicas, biológicas, radiológicas y nucleares, la persuasión individualizada, la ciberseguridad y la adaptación a la replicación autónoma. Además, OpenAI ha lanzado un desafío de preparación para la IA, que proporciona USD 25,000 en créditos API a las mejores presentaciones. La firma también está solicitando candidatos de diversas disciplinas técnicas para unirse al nuevo equipo.
OpenAI, la organización responsable del desarrollo y la investigación de la tecnología de IA, incluido ChatGPT, está iniciando un nuevo plan estratégico para identificar y abordar una amplia gama de peligros relacionados con la IA. La organización reveló el 25 de octubre que está desarrollando un equipo especializado para identificar, evaluar, pronosticar de manera proactiva y protegerse contra posibles peligros desastrosos resultantes de la aplicación de la tecnología de IA. Denominada unidad de "Preparación", esta división centrada en OpenAI se centrará principalmente en los posibles riesgos de IA asociados a daños químicos, biológicos, radiológicos y nucleares, junto con la persuasión personalizada, la ciberseguridad y la replicación y evolución autónomas. Encabezado por Aleksander Madry, el equipo de Preparación se esforzará por determinar el alcance del peligro que podrían presentar los sistemas de IA de frontera cuando se usan indebidamente y si estos sistemas podrían ser manejados de manera efectiva por individuos malévolos que han adquirido pesos de modelos de IA robados. OpenAI declaró: "Los modelos de IA de frontera, con su potencial para superar las capacidades de los modelos más sofisticados existentes actualmente, ofrecen la promesa de beneficiar enormemente a la humanidad". Sin embargo, la compañía también confesó los riesgos cada vez mayores que presentan estos modelos. La compañía explicó: "Nos tomamos muy en serio todos los riesgos de seguridad relacionados con la IA, desde los sistemas actuales hasta los picos concebibles de superinteligencia. Para garantizar la seguridad de los sofisticados sistemas de IA, estamos perfeccionando nuestra estrategia de preparación contra riesgos catastróficos". OpenAI explicó en su publicación de blog que actualmente están buscando personas capacitadas de diversos antecedentes técnicos para unirse al equipo de preparación. Además, lanzaron el Desafío de Preparación para la IA para fomentar iniciativas para prevenir el uso indebido catastrófico, y las 10 mejores entradas recibieron USD 25,000 en créditos API. Cabe destacar que la compañía había revelado planes para establecer un equipo que abordara los posibles riesgos de la IA en julio de 2023. Ha habido un énfasis recurrente en los peligros relacionados con la tecnología de IA, junto con la preocupación de que la IA pueda superar el intelecto humano. A pesar de ser conscientes de estos riesgos, empresas como OpenAI han seguido avanzando activamente en la tecnología de IA, lo que ha alimentado más aprensiones. En mayo de 2023, la organización sin ánimo de lucro Center for AI Safety emitió una carta pública en la que hacía hincapié en el riesgo de la IA, instando a la acción colectiva para reducir el riesgo de extinción humana a causa de la IA, junto con otras amenazas a gran escala como las pandemias y la guerra nuclear.
Published At
10/27/2023 10:03:00 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.