18 países dan a conocer directrices de ciberseguridad para la IA y encienden el discurso de la industria
Summary:
Dieciocho países, incluidos Estados Unidos, Reino Unido y Australia, han emitido directrices globales centradas en proteger los modelos de IA contra la manipulación. Las recomendaciones guían a las empresas de IA a priorizar la ciberseguridad en sus operaciones. Sin embargo, el documento no aborda temas polémicos como la regulación de los modelos de generación de imágenes y los deep fakes o los métodos de recopilación de datos. Las directrices llegan en medio de una serie de iniciativas gubernamentales que abordan las regulaciones de la IA, pero también han visto resistencia de la industria de la IA por temor a que puedan obstaculizar la innovación.
Estados Unidos, Reino Unido, Australia, entre otras 15 naciones, han emitido conjuntamente directrices globales destinadas a proteger los modelos de IA de la manipulación. Con énfasis en la seguridad de los modelos de IA, estos países propusieron el 26 de noviembre que las organizaciones de IA deberían priorizar la ciberseguridad como un aspecto fundamental de sus operaciones.
Como señalan estas naciones, la seguridad no siempre se considera una prioridad en esta industria en rápida evolución. Ofrecieron una serie de directrices generales que incluyen una infraestructura de IA estrechamente supervisada, la vigilancia de cualquier interferencia con los modelos tanto antes como después del lanzamiento, y la importancia de una formación adecuada en ciberseguridad para los empleados.
Curiosamente, el documento no abordó algunos temas de IA muy debatidos, como la regulación de los modelos de creación de imágenes y los deep fakes o los métodos empleados para la recopilación de datos y su uso para los modelos de entrenamiento, siendo este último un tema controvertido que ha metido a varias empresas de IA en problemas legales por acusaciones de infracción de derechos de autor.
La inteligencia artificial se encuentra en una coyuntura crítica, siendo posiblemente la tecnología de mayor alcance de nuestra era, enfatizó Alejandro Mayorkas, secretario de Seguridad Nacional de Estados Unidos. Destacó que la ciberseguridad es el eje para crear sistemas de IA que sean seguros, confiables y dignos de confianza.
Las directrices son los últimos esfuerzos gubernamentales para facilitar las regulaciones de la IA, ya que los gobiernos y las organizaciones de IA se reunieron a principios de este mes en una Cumbre de Seguridad de la IA en Londres para discutir un enfoque alineado para el desarrollo de la IA. Paralelamente, la Unión Europea está trabajando en su Ley de IA para regular esta área tecnológica y el presidente de Estados Unidos, Joe Biden, sancionó recientemente una orden ejecutiva que estipula medidas de seguridad de la IA.
Sin embargo, ambas iniciativas se han enfrentado a la resistencia del sector de la IA citando posibles impedimentos para la innovación. Las directrices recién publicadas, que abogan por un enfoque "seguro por diseño", cuentan con el respaldo de países como Canadá, Francia, Alemania, Israel, Italia, Japón, Nueva Zelanda, Nigeria, Noruega, Corea del Sur, Singapur y empresas de IA como OpenAI, Microsoft, Google, Anthropic y Scale AI, que participaron en la formulación de estas directrices.
Published At
11/27/2023 4:45:38 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.