Buterin de Ethereum, haciéndose eco de la sensibilidad de OpenAI, advierte de los riesgos de la IA "superinteligente"
Summary:
El cofundador de Ethereum, Vitalik Buterin, ha expresado su preocupación por la inteligencia artificial (IA) "superinteligente" en relación con los recientes cambios en OpenAI. Sus puntos de vista coinciden con los de Jan Leike, ex jefe de alineación de OpenAI, quien criticó la falta de enfoque de la compañía en los protocolos de seguridad. Buterin enfatizó el uso de modelos abiertos en el hardware de consumo como una forma de evitar el control por parte de un pequeño grupo de empresas. Sus declaraciones se producen cuando el gobierno del Reino Unido examina la creciente participación de las grandes tecnológicas en el sector de la IA.
El cofundador de Ethereum, Vitalik Butertin, expresó recientemente su preocupación por el peligro potencial de la inteligencia artificial (IA) "superinteligente", coincidiendo con los recientes cambios de liderazgo en OpenAI. Como se indicó en un informe de Cointelegraph el 19 de mayo, la transición siguió a la renuncia de Jan Leike, anterior jefe de alineación de OpenAI, quien expresó su desacuerdo sobre el enfoque principal de la empresa. Leike sugirió que los protocolos de seguridad eran secundarios frente a las innovaciones competitivas dentro de OpenAI, una afirmación que muchos sospechan que se relaciona con los avances en inteligencia artificial general (AGI). La AGI, una forma de IA que se espera que iguale o supere las capacidades cognitivas humanas, hace sonar las alarmas entre los expertos industriales que argumentan que la sociedad no está preparada para manejar sistemas de IA tan evolucionados. Este punto de vista se alinea con la propia postura de Buterin. En una publicación reciente de X, Buterin enfatizó un enfoque cauteloso hacia este tema emergente. Buterin promueve modelos abiertos que operan con tecnología de consumo, vistos como una protección contra la posible monopolización por parte de un pequeño grupo de empresas que podrían controlar y filtrar la mayor parte de la cognición humana. "Modelos como estos plantean un riesgo apocalíptico significativamente menor que los gigantes corporativos o los ejércitos", agregó Buterin. Buterin compartió sus puntos de vista por segunda vez en la última semana sobre la IA y sus capacidades en rápida evolución. El 16 de mayo, sugirió que el modelo GPT-4 de OpenAI ha superado la prueba de Turing, una medida de la semejanza de un modelo de IA con el comportamiento humano. Citó estudios recientes que afirman que la mayoría de las personas no pueden distinguir entre interactuar con una máquina y un humano. Sin embargo, Buterin no es pionero en su escepticismo. El gobierno del Reino Unido también ha examinado de cerca la creciente influencia de las grandes tecnológicas en el panorama de la IA, señalando problemas relacionados con la competencia y el dominio del mercado. Grupos activistas como 6079 AI también están brotando en Internet, presionando a favor de la IA descentralizada para evitar la dominación de los gigantes tecnológicos. Ilya Sutskever, cofundador y científico jefe de OpenAI, anunció su renuncia el 14 de mayo. A diferencia de su homólogo, Sutskever no planteó ninguna preocupación sobre AGI en su publicación X, sino que expresó su fe en la capacidad de OpenAI para crear un AGI "seguro y beneficioso".
Published At
5/21/2024 5:01:33 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.