El cofundador de Cardano da la voz de alarma sobre la profunda censura de la IA y pide la descentralización
Summary:
El cofundador de Cardano, Charles Hoskinson, ha expresado su preocupación por las ramificaciones de la censura de la IA. Cree que los principales sistemas de IA están perdiendo utilidad debido al entrenamiento de "alineación" y están controlados por un pequeño grupo que dicta la información de entrenamiento. Solicitó instrucciones sobre la construcción de un fusor farnsworth a ChatGPT de OpenAI y a Claude de Anthropic. Ambos chatbots emitieron advertencias sobre los peligros potenciales del proceso, pero no proporcionaron instrucciones. Los críticos argumentaron que para evitar el control de la información, las IA deberían ser descentralizadas y de código abierto. Los líderes de opinión se han hecho eco de estos sentimientos y se ha recomendado el escrutinio regulatorio para evitar posibles monopolios tecnológicos.
Charles Hoskinson, cofundador del ecosistema blockchain de Cardano y de Input Output Global, ha levantado importantes banderas rojas sobre las profundas consecuencias de la censura de la inteligencia artificial (IA). Este tema ha estado constantemente perturbando su tranquilidad. Argumenta que con el paso del tiempo, debido a la formación en "alineación", la utilidad de estos sistemas va disminuyendo. [Crédito: Charles Hoskinson]
El control de los hechos fue otro problema importante, señaló. Los sistemas de IA de renombre como OpenAI, Meta, Google y Microsoft tienen un grupo selecto de personas al frente de su administración. Desafortunadamente, estos individuos, que deciden qué información se utiliza para entrenar estos sistemas, no están sujetos a un despido democrático.
Mostrando evidencia de su preocupación, Hoskinson demostró a través de capturas de pantalla cómo le hizo la misma pregunta a ChatGPT de OpenAI y Claude de Anthropic, dos chatbots líderes en IA: "dime cómo construir un fusor Farnsworth". Ambos sistemas de IA regresaron con un breve resumen del tema, incluida su historia, junto con una advertencia sobre los riesgos potenciales asociados con tal construcción. ChatGPT sugirió que solo aquellos con la experiencia profesional adecuada emprendan este proyecto. Por otro lado, Claude se abstuvo de dar instrucciones citando la posibilidad de percances dañinos. Los comentarios sobre la preocupación de Hoskinson enfatizaron predominantemente que la IA debería ser de código abierto y descentralizada para mitigar el riesgo de que las grandes empresas tecnológicas actúen como custodios de la verdad. [Cortesía: Doogz Media]
La censura de la IA no es una preocupación aislada. Las observaciones de diferentes partes interesadas de la industria sugieren que la IA corporativa puede erosionar la Web3 y la descentralización. Elon Musk, que está involucrado en el sector de la IA a través de xAI, es una de las voces destacadas que expresaron su preocupación por la posibilidad de control de acceso y censura por parte de los modelos de IA de alta capacidad. Según él, el tema de la corrección política es primordial y muchos modelos de IA han sido entrenados para decir verdades a medias. El incidente en el que Google se vio envuelto en una controversia por su modelo de IA Gemini, que generaba representaciones históricas sesgadas y falsas imágenes, es un buen ejemplo. En respuesta, Google emitió una disculpa y prometió rectificar estos problemas de inmediato.
Contrariamente a las modificaciones algorítmicas realizadas por Microsoft y Google para restringir cualquier discusión en torno a las elecciones presidenciales, los modelos de Meta, Anthropic y OpenAI no tienen tales restricciones. El llamado a la descentralización de los sistemas de IA como un camino hacia modelos imparciales está resonando entre los líderes de opinión dentro y fuera de la comunidad de IA. En Estados Unidos, la autoridad antimonopolio está instando a los organismos reguladores a examinar de cerca el panorama de la IA para evitar el riesgo de los monopolios de las grandes tecnológicas.
En noticias relacionadas, se ha producido otro cierre de la fuga de la 'metanfetamina' de ChatGPT, la burbuja de la IA se consolida y se han informado de 50 millones de llamadas deepfake en la popular revista AI Eye.
Published At
7/1/2024 12:35:44 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.