Соучредитель Cardano бьет тревогу по поводу глубокой цензуры ИИ и призывает к децентрализации
Summary:
Соучредитель Cardano Чарльз Хоскинсон выразил обеспокоенность по поводу последствий цензуры ИИ. Он считает, что ведущие системы ИИ теряют полезность из-за обучения «выравниванию» и контролируются небольшой группой, которая диктует обучающую информацию. Он запросил инструкции по созданию фузора farnsworth у ChatGPT из OpenAI и Клода из Anthropic. Оба чат-бота предупредили о потенциальной опасности этого процесса, но не предоставили никаких инструкций. Критики утверждали, что для предотвращения контроля за информацией ИИ должен быть децентрализован и иметь открытый исходный код. Лидеры мнений поддержали эти настроения, и было рекомендовано провести тщательный контроль со стороны регулирующих органов, чтобы избежать потенциальных технологических монополий.
Чарльз Хоскинсон, соучредитель блокчейн-экосистемы Cardano и Input Output Global, поднял серьезные красные флажки о серьезных последствиях цензуры искусственного интеллекта (ИИ). Этот вопрос постоянно нарушает его душевное спокойствие. Он утверждает, что с течением времени, из-за обучения «выравниванию», полезность этих систем уменьшается. [Источник: Чарльз Хоскинсон]
Еще одной серьезной проблемой, на которую он указал, является фактический контроль. У руля таких известных систем искусственного интеллекта, как OpenAI, Meta, Google и Microsoft, стоит избранная группа людей. К сожалению, эти люди, которые решают, какая информация идет на обучение этих систем, не подвергаются демократическому увольнению.
Демонстрируя доказательства своей обеспокоенности, Хоскинсон продемонстрировал на скриншотах, как он задал ChatGPT из OpenAI и Клоду из Anthropic, двум ведущим чат-ботам с искусственным интеллектом, один и тот же вопрос — «скажите мне, как создать фузор Фарнсворта». Обе системы ИИ вернулись с кратким изложением темы, включая ее историю, а также с предупреждением о потенциальных рисках, связанных с таким строительством. ChatGPT предложил, чтобы этим проектом занимались только те, кто имеет соответствующий профессиональный опыт. С другой стороны, Клод воздержался от дачи инструкций, сославшись на возможность опасных несчастных случаев. В отзывах об обеспокоенности Хоскинсона в основном подчеркивалось, что ИИ должен быть с открытым исходным кодом и децентрализован, чтобы снизить риск того, что крупные технологические компании будут выступать в качестве хранителей правды. [Фото предоставлено Doogz Media]
Цензура ИИ не является изолированной проблемой. Наблюдения различных заинтересованных сторон отрасли показывают, что корпоративный ИИ может подорвать Web3 и децентрализацию. Илон Маск, который вовлечен в сектор искусственного интеллекта через xAI, является одним из известных голосов, которые выразили обеспокоенность по поводу возможности контроля и цензуры со стороны высокопроизводительных моделей ИИ. По его словам, вопрос политкорректности имеет первостепенное значение, и многие модели ИИ обучены говорить полуправду. Инцидент, когда Google оказался втянут в споры из-за своей модели искусственного интеллекта Gemini, генерирующей предвзятые исторические изображения и ложные визуальные эффекты, является тому примером. В ответ Google принесла извинения и пообещала немедленно исправить эти проблемы.
В отличие от алгоритмических модификаций, сделанных Microsoft и Google, чтобы ограничить любую дискуссию вокруг президентских выборов, модели от Meta, Anthropic, и OpenAI не несут таких ограничений. Призыв к децентрализации систем ИИ как пути к объективным моделям находит отклик среди лидеров мнений как в сообществе ИИ, так и за его пределами. В США антимонопольный орган призывает регулирующие органы внимательно изучить ландшафт ИИ, чтобы предотвратить риск монополий Big Tech.
В связанных новостях произошло очередное закрытие джейлбрейка ChatGPT с «метамфетамином», пузырь искусственного интеллекта консолидируется, а в популярном журнале AI Eye Magazine было зарегистрировано 50 миллионов дипфейк-вызовов.
Published At
7/1/2024 12:35:44 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.