Илон Маск подчеркивает потенциальную предвзятость в ИИ и запускает чат-бота для поиска правды с помощью xAI
Summary:
Технологический магнат Илон Маск недавно выразил обеспокоенность по поводу предвзятости искусственного интеллекта (ИИ) в сторону политкорректности, заявив, что он часто сводит на нет достижение абсолютной истины. Он сослался на противоречивые комментарии Gemini AI от Google о мисгендеринге Кейтлин Дженнер. Чтобы противостоять этим проблемам, Маск в 2023 году основал xAI, свою собственную фирму по искусственному интеллекту, запустив чат-бота Groc, который отдает приоритет поиску правды, а не популярности. Более 2600 технических экспертов, включая Маска, призвали приостановить разработку ИИ, сославшись на значительные социальные и человеческие риски.
Известный технологический магнат Илон Маск недавно выразил беспокойство по поводу потенциальной предвзятости в современных системах искусственного интеллекта (ИИ). В своем выступлении на Viva Tech Paris 2024 Маск выразил свое основное беспокойство по поводу того, что нынешние протоколы искусственного интеллекта могут не стремиться к абсолютной истине, а вместо этого обслуживать политкорректную риторику. Приводя тревожный пример, он упомянул ответ Gemini AI от Google на вопрос о мисгендеринге Кейтлин Дженнер. Маск объяснил, что ИИ утверждает, что неправильное определение пола Дженнер будет более катастрофическим, чем ядерный апокалипсис, тем самым предполагая, что он может решить уничтожить человечество, чтобы предотвратить мисгендеринг. После протестов по поводу этого ответа было объявлено о нескольких обновлениях для Gemini AI, чтобы исправить такие проблемы. Однако уклон в сторону политкорректности — не единственная забота Маска. Он заявил, что системы искусственного интеллекта, по-видимому, обучены двуличию, что, по его мнению, является опасным подходом к передовым интеллектуальным системам. В связи с этим Маск упомянул эпизод из февраля, когда Google пришлось отозвать свой генератор изображений с искусственным интеллектом после того, как он генерировал исторически неточные и считающиеся политически корректными изображения, что вызвало вопросы о его способности принимать решения. Решением этого вопроса Маском стало создание в 2023 году собственной AI-компании xAI. Несмотря на то, что xAI является новичком в этой области по сравнению с OpenAI, к концу 2024 года он ожидает, что xAI может стать серьезным конкурентом. Он объявил, что чат-бот xAI Grok, который был запущен в Европе в мае, будет нацелен на максимизацию поиска правды, а не популярности, и будет движим чрезвычайным чувством любопытства. Эти факторы, по его мнению, будут наиболее полезными для человечества, так как чат-бот будет стремиться взращивать человечество и следить за его эволюцией. В настоящее время Grok доступен только подписчикам премиум и премиум+ платформы X. Кроме того, более 2600 технологических экспертов, включая Маска, призвали к временной приостановке разработки ИИ, сославшись на серьезные опасения по поводу потенциальных рисков для общества и человечества. Их призыв был изложен в открытом письме, опубликованном в марте.
Published At
5/24/2024 9:34:51 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.