OpenAI представляет команду «готовности» для противодействия потенциальным катастрофам ИИ
Summary:
OpenAI, компания, занимающаяся исследованиями и разработками в области искусственного интеллекта, объявила о своей новой инициативе «Готовность», направленной на потенциальные угрозы ИИ. Эта команда, возглавляемая Александром Мадри, будет отслеживать, оценивать, прогнозировать и сводить к минимуму потенциальные катастрофические риски, связанные с ИИ. Основными направлениями будут химические, биологические, радиологические и ядерные угрозы, индивидуальное убеждение, кибербезопасность и автономная адаптация репликации. Кроме того, OpenAI запустила конкурс AI Preparedness Challenge, предоставив 25 000 долларов США в виде кредитов API для лучших заявок. Фирма также приглашает кандидатов из различных технических дисциплин присоединиться к новой команде.
OpenAI, организация, ответственная за разработку и исследование технологий ИИ, включая ChatGPT, инициирует новый стратегический план по выявлению и устранению широкого спектра опасностей, связанных с ИИ. 25 октября организация сообщила, что создает специализированную команду для выявления, оценки, упреждающего прогнозирования и защиты от потенциальных катастрофических опасностей, возникающих в результате применения технологии искусственного интеллекта. Это специализированное подразделение OpenAI, получившее название «Готовность», в первую очередь сосредоточится на потенциальных рисках ИИ, связанных с химическим, биологическим, радиологическим и ядерным ущербом, а также на персонализированном убеждении, кибербезопасности, автономной репликации и эволюции. Возглавляемая Александром Мадри команда по обеспечению готовности попытается определить степень опасности, которую могут представлять передовые системы ИИ при неправильном использовании, и могут ли эти системы эффективно использоваться злоумышленниками, получившими украденные веса моделей ИИ. OpenAI заявила: «Передовые модели ИИ, с их потенциалом превзойти возможности самых сложных существующих в настоящее время моделей, обещают принести огромную пользу человечеству». Тем не менее, компания также признала постоянно растущие риски, которые представляют эти модели. Далее компания уточнила: «Мы серьезно относимся ко всем рискам безопасности, связанным с искусственным интеллектом, от существующих систем до мыслимых вершин сверхинтеллекта. Чтобы обеспечить безопасность сложных систем искусственного интеллекта, мы оттачиваем нашу стратегию готовности к катастрофическим рискам». OpenAI объяснила в своем блоге, что в настоящее время они ищут квалифицированных людей с различным техническим опытом, которые присоединятся к команде готовности. Кроме того, они запустили конкурс AI Preparedness Challenge для поощрения инициатив по предотвращению катастрофического неправомерного использования, в рамках которого 10 лучших участников получили 25 000 долларов США в виде кредитов API. Примечательно, что компания объявила о планах создать команду, занимающуюся потенциальными рисками ИИ, еще в июле 2023 года. Постоянно подчеркивается опасность, связанная с технологией ИИ, в сочетании с опасениями, что ИИ потенциально может превзойти человеческий интеллект. Несмотря на осведомленность об этих рисках, такие компании, как OpenAI, продолжают активно развивать технологии искусственного интеллекта, тем самым подпитывая дальнейшие опасения. В мае 2023 года некоммерческая организация Center for AI Safety опубликовала открытое письмо, в котором подчеркнула риски ИИ, призвав к коллективным действиям по снижению риска вымирания человечества из-за ИИ, наряду с другими крупномасштабными угрозами, такими как пандемии и ядерная война.
Published At
10/27/2023 10:03:00 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.