OpenAI y Microsoft se asocian para frustrar los ciberataques afiliados al estado que explotan las herramientas de IA
Summary:
OpenAI y Microsoft colaboraron para frustrar cinco ciberataques afiliados al estado que explotaron grandes modelos de lenguaje, incluido GPT-4 de OpenAI. Los ataques, vinculados a China, Irán, Corea del Norte y Rusia, tenían como objetivo utilizar la IA para diversas actividades cibernéticas, lo que llevó a OpenAI a reforzar sus medidas de defensa. A pesar de los esfuerzos continuos de OpenAI y otros para abordar la ciberseguridad de la IA, las amenazas persisten, lo que ha llevado a más de 200 organizaciones a unirse o formar iniciativas centradas en promover la seguridad de la IA y abordar los problemas de ciberseguridad.
OpenAI, la organización detrás del popular software ChatGPT, se ha asociado con el principal inversor Microsoft para evitar con éxito cinco ciberataques respaldados por el gobierno. Vinculados a una selección de potencias extranjeras, incluida la inteligencia militar rusa, la Guardia Revolucionaria de Irán, así como los gobiernos de China y Corea del Norte, los piratas informáticos tenían como objetivo perfeccionar sus habilidades utilizando grandes modelos de lenguaje (LLM), sistemas sofisticados basados en IA que pueden generar respuestas impresionantemente similares a las humanas a través del análisis de extensos datos textuales.
OpenAI identificó las intrusiones cibernéticas como originadas por dos grupos chinos conocidos como Charcoal Typhoon y Salmon Typhoon. Otros intentos de infiltración se asociaron con Irán a través de Crimson Sandstorm, Corea del Norte a través de Emerald Sleet y Rusia a través de Forest Blizzard. Según OpenAI, los grupos buscaban utilizar GPT-4 para diversas tareas que iban desde la investigación de herramientas corporativas y de ciberseguridad, la generación de scripts, la depuración de código, la orquestación de campañas de phishing, la evasión de la detección de malware, la traducción de documentos técnicos complejos y la exploración de la comunicación por satélite y la tecnología de radar. La detección de estas actividades llevó a la suspensión de las cuentas involucradas.
Este descubrimiento se produjo cuando OpenAI se estaba moviendo para imponer una prohibición total del uso de productos de IA por parte de las redes de piratería patrocinadas por el estado. Aunque tuvo éxito en frustrar estos intentos específicos, la compañía reconoció la dificultad continua de prevenir cualquier posible uso indebido.
A raíz del aumento de los deepfakes y fraudes generados por IA tras la introducción de ChatGPT, los legisladores han intensificado su vigilancia de los desarrolladores de IA generativa. Para apoyar los avances en el campo de la ciberseguridad de la IA, OpenAI anunció un programa de subvenciones de 1 millón de dólares en junio de 2023 que tiene como objetivo fortalecer y cuantificar la influencia de las soluciones de ciberseguridad basadas en IA.
A pesar de estas medidas defensivas y del continuo esfuerzo por evitar la generación de contenido dañino o inadecuado por parte de ChatGPT, los piratas informáticos aún han encontrado formas de superar estas barreras, manipulando el chatbot para generar dicho contenido.
Más de 200 organizaciones, entre ellas OpenAI, Microsoft, Anthropic y Google, se asociaron recientemente con la Administración Biden para formar el Instituto de Seguridad de la IA y el Consorcio del Instituto de Seguridad de la IA de Estados Unidos (AISIC). El esfuerzo colectivo está diseñado para fomentar la evolución segura de la inteligencia artificial, contrarrestar los deepfakes producidos por IA y atender los desafíos de ciberseguridad. Esta iniciativa se produce a raíz del lanzamiento del Instituto de Seguridad de la IA de EE. UU. (USAISI), creado tras la orden ejecutiva del presidente Joe Biden de finales de octubre de 2023 centrada en la seguridad de la IA.
Published At
2/15/2024 11:46:18 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.