OpenAI запускает инициативу «Готовность» для борьбы с рисками, связанными с ИИ, и смягчения потенциальных угроз
Summary:
OpenAI запускает инициативу под названием «Готовность» для оценки и смягчения широкого спектра рисков, связанных с ИИ. Инициатива будет сосредоточена на потенциальных угрозах ИИ, включая химические, биологические, радиологические и ядерные угрозы, индивидуальное убеждение, кибербезопасность и автономную репликацию. Команда под руководством Александра Мадри будет исследовать опасности неправомерного использования передовых систем ИИ. OpenAI также запустила конкурс AI Preparedness Challenge для предотвращения катастрофического неправомерного использования, в рамках которого за лучшие работы будет присуждено 25 000 долларов США в виде кредитов API.
OpenAI, компания, ответственная за разработку технологий искусственного интеллекта, таких как ChatGPT, запускает проект, направленный на оценку различных потенциальных опасностей, связанных с искусственным интеллектом. Как стало известно 25 октября, OpenAI в настоящее время структурирует уникальную команду, основной задачей которой будет изучение, прогнозирование и смягчение потенциальных непреодолимых опасностей, которые могут возникнуть в результате использования технологии искусственного интеллекта. Эта команда, получившая название «Готовность», будет уделять пристальное внимание потенциальным рискам ИИ, включая химические, биологические, радиологические и ядерные угрозы, индивидуальное убеждение, кибербезопасность, а также спонтанную репликацию и адаптацию.
Команде, возглавляемой Александром Мадри, поручено разобраться в критических вопросах, таких как уровень опасности, которую может представлять продвинутая система искусственного интеллекта при неправильном использовании, или может ли она, в случае кражи, быть развернута вредоносными элементами. «Передовые модели ИИ, — поделились в OpenAI, — потенциально могут быть полезными для всего человечества». Кроме того, они утверждали, что эти модели ИИ также могут представлять «все более серьезные риски».
Излагая взгляды компании, OpenAI заявила: «Мы признаем и серьезно рассматриваем все формы рисков безопасности, связанных с искусственным интеллектом, от сегодняшних систем до крайностей сверхинтеллекта... Чтобы обеспечить безопасность высокопроизводительных систем ИИ, мы совершенствуем наш подход к обеспечению готовности к катастрофическим рискам».
В дополнение к созданию нового подразделения, OpenAI запускает челлендж, направленный на предотвращение катастрофического злоупотребления искусственным интеллектом, обещая 25 000 долларов США в виде кредитов API для 10 лучших заявок. Фирма также объявила, что ищет таланты с различным техническим опытом, чтобы стать частью команды по готовности.
Ранее OpenAI намекнула на создание команды, ориентированной на борьбу с потенциальными угрозами ИИ, в июле 2023 года. Традиционно часто указывают на потенциальные опасности, связанные с искусственным интеллектом, что вызывает опасения, что эти системы ИИ могут когда-нибудь превзойти человеческий интеллект. Несмотря на эти опасения, такие компании, как OpenAI, активно развивают новые технологии искусственного интеллекта, непреднамеренно вызывая больше подозрений и беспокойства.
В мае 2023 года некоммерческая организация Center for AI Safety опубликовала открытое письмо, в котором подчеркнула риски ИИ. Центр считает, что риски, связанные с ИИ, должны серьезно рассматриваться в глобальном масштабе, наряду с другими рисками в масштабе общества, такими как пандемии и ядерная война.
Published At
10/27/2023 10:03:56 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.