Бутерин из Ethereum, вторя чувствительности OpenAI, предупреждает о рисках, связанных со «сверхразумным» искусственным интеллектом
Summary:
Соучредитель Ethereum Виталик Бутерин выразил обеспокоенность по поводу «сверхразумного» искусственного интеллекта (ИИ) в связи с недавними изменениями в OpenAI. Его взгляды совпадают с взглядами Яна Лейке, бывшего руководителя отдела выравнивания в OpenAI, который критиковал компанию за недостаточное внимание к протоколам безопасности. Бутерин сделал акцент на использовании открытых моделей на потребительском оборудовании как способе предотвращения контроля со стороны небольшой группы компаний. Его заявления прозвучали в то время, когда правительство Великобритании тщательно изучает растущее участие Big Tech в секторе искусственного интеллекта.
Соучредитель Ethereum Виталик Бутертин недавно выразил обеспокоенность по поводу потенциальной опасности «сверхразумного» искусственного интеллекта (ИИ), что совпало с недавними перестановками в руководстве OpenAI. Как указано в отчете Cointelegraph от 19 мая, переход последовал за отставкой Яна Лейке, предыдущего руководителя отдела выравнивания в OpenAI, который выразил свое несогласие с основной направленностью фирмы. Лейке предположил, что протоколы безопасности вторичны по отношению к конкурентным инновациям в OpenAI, и многие подозревают, что это утверждение связано с достижениями в области общего искусственного интеллекта (AGI). AGI, форма ИИ, которая, как ожидается, будет соответствовать или превосходить когнитивные способности человека, вызывает тревогу у промышленных экспертов, которые утверждают, что общество не готово к работе с такими развитыми системами ИИ. Эта точка зрения совпадает с позицией самого Бутерина. В недавнем посте X Бутерин подчеркнул осторожный подход к этой новой теме. Бутерин продвигает открытые модели, основанные на потребительских технологиях, которые рассматриваются как защита от потенциальной монополизации со стороны небольшой группы компаний, которые потенциально могут контролировать и фильтровать большую часть человеческого познания. «Такие модели представляют значительно меньший апокалиптический риск, чем корпоративные гиганты или военные», — добавил Бутерин. Бутерин во второй раз за прошедшую неделю поделился своим мнением об искусственном интеллекте и его быстро развивающихся возможностях. 16 мая он предположил, что модель GPT-4 от OpenAI превзошла тест Тьюринга, измеряющий сходство модели ИИ с поведением человека. Он сослался на недавние исследования, в которых говорится, что большинство людей не могут отличить взаимодействие с машиной от человека. Тем не менее, Бутерин не является первопроходцем в своем скептицизме. Правительство Великобритании также внимательно изучило растущее влияние Big Tech в сфере искусственного интеллекта, отметив проблемы, связанные с конкуренцией и доминированием на рынке. Группы активистов, такие как 6079 AI, также прорастают в Интернете, лоббируя децентрализованный ИИ, чтобы предотвратить доминирование технологических гигантов. Илья Суцкевер, сооснователь и главный научный сотрудник OpenAI, объявил о своей отставке 14 мая. В отличие от своего коллеги, Суцкевер не высказывал никаких опасений по поводу AGI в своем посте X, вместо этого выразив свою веру в способность OpenAI создать «безопасный и полезный» AGI.
Published At
5/21/2024 5:01:33 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.