Новые нейронные функции в системах искусственного интеллекта могут решить проблему галлюцинаций ИИ
Summary:
Галлюцинации с искусственным интеллектом (ИИ), одна из основных проблем отрасли, могут быть решены с помощью недавно обнаруженных нейронных функций. Эти галлюцинации являются неверными данными, полученными при обучении больших языковых моделей ИИ. Генеральный директор Anthropic, Дарио Амодей, подчеркивает, что эти нейронные функции позволяют вмешиваться и изменять системы искусственного интеллекта. Фирма изучает влияние корректировки этих функций для изменения поведения ИИ. Кроме того, прогресс в развитии искусственного интеллекта больше не зависит в первую очередь от данных, а от талантов из-за появления синтетических наборов данных.
Недавно обнаруженные аспекты нейронного функционирования систем искусственного интеллекта (ИИ) потенциально могут решить постоянную проблему, известную как галлюцинации ИИ. Такие галлюцинации являются неожиданными результатами, возникающими, когда более крупные языковые модели обучаются для работы в качестве генеративных систем ИИ. Эти модели иногда генерируют новые, хотя и неверные, данные, которые ранее не были частью их набора данных. Тем не менее, эти новые нейронные функции могут стать решением этой проблемы, говорит соучредитель и генеральный директор Anthropic, Дарио Амодеи.
В своем выступлении на мероприятии Viva Tech в Париже в 2024 году Амодей заявил, что современные системы искусственного интеллекта состоят из сотен миллионов нейронов. Он подчеркнул, что в их модели было обнаружено 30 миллионов особенностей, в том числе связанных с уязвимостями безопасности или предвзятым отношением к определенным группам. Теперь появилась возможность вмешиваться и изменять эти функции.
Проблема с галлюцинациями заключается в том, что процессы ИИ не знают, что их выходные данные неверны. Но Амодей уверяет, что эти новые функции потенциально могут положить конец галлюцинациям ИИ. Он утверждает: «Основные преимущества этого нового открытия включают в себя уменьшение случаев галлюцинаций искусственного интеллекта».
В настоящее время в Anthropic проводятся исследования, направленные на изучение того, как изменение внутренних функций может изменить поведение ИИ. Им удалось создать демонстрационную модель, в которой одна уникальная особенность заставила ИИ сконцентрироваться на мосту Золотые Ворота. 23 мая Anthropic выразил уверенность в посте X: «Способность идентифицировать и модифицировать эти особенности в Claude укрепляет нашу уверенность в том, что мы начинаем понимать, как на самом деле работают обширные языковые модели».
Anthropic, уважаемая компания по разработке искусственного интеллекта, представила своего чат-бота с искусственным интеллектом Claude на европейском рынке ранее в мае. С 14 мая Claude поддерживает несколько европейских языков, таких как французский, немецкий, испанский и итальянский.
По словам Амодея, развитие искусственного интеллекта зависит от талантов, а не от данных. Нехватка данных ранее препятствовала развитию ИИ, но появление синтетических наборов данных сместило основное препятствие на нехватку навыков разработчиков. Синтетические данные обещают масштабируемость ИИ, но Amodei предупредил о сбалансированном соотношении между синтетическими и реальными данными, поскольку избыток синтетических данных может привести к более слабым и нереалистичным наборам данных.
Инвестиции в искусственный интеллект значительно выросли с начала 2024 года, и 27 мая компания Илона Маска получила колоссальное финансирование серии B в размере 6 миллиардов долларов. Это финансирование направлено на позиционирование чат-бота Grok в качестве конкурента ChatGPT к концу года.
Published At
5/29/2024 12:49:21 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.