Ходят слухи, что OpenAI разработает автономного помощника с искусственным интеллектом на фоне проблем с конфиденциальностью
Summary:
По слухам, OpenAI потенциально разрабатывает автономную систему искусственного интеллекта, способную выполнять задачи на пользовательских устройствах без вмешательства человека. Этот шаг представляет собой следующий шаг в эволюции систем генеративного ИИ. Если это подтвердится, новая технология, которая охватывает более широкий спектр действий, чем существующие умные помощники, может открыть новую эру возможностей искусственного интеллекта. Однако это также вызывает серьезные опасения по поводу конфиденциальности и безопасности из-за потенциального неограниченного доступа к персональным данным и зависимости от крупномасштабных облачных вычислительных центров.
Ходят слухи, что OpenAI находится в процессе создания системы искусственного интеллекта, которая может автономно взять на себя управление устройством пользователя для выполнения задач. Первым об этих слухах сообщило издание The Information, сославшись на неназванный источник, знакомый с ситуацией. Хотя OpenAI еще не подтвердила эти сообщения, а информация все еще скудна, кажется правдоподобным, что следующим шагом для систем генеративного ИИ, таких как ChatGPT, будут агенты действия.
ChatGPT и Gemini от Google, системы генеративного искусственного интеллекта, предназначены для создания человекоподобных медиа, будь то текст, изображения, звук или видео. Однако для того, чтобы реально использовать эти модели, например, для управления роботом, разработчики должны интегрировать свои выходные данные во внешние приложения, которые преобразуют выходные данные ИИ в исполняемые действия.
Существующие системы умных помощников и тому подобное полагаются на технологии, которые не так продвинуты, как те, которые используются в ChatGPT, Gemini или даже в собственных базовых линиях Amazon и творениях генеративного ИИ. Таким образом, кажется разумным ожидать, что виртуальный помощник, использующий технологию больших языковых моделей, похожий на ChatGPT, будет более компетентен с точки зрения автономных действий по сравнению с простыми системами, которые управляют старыми умными помощниками.
Без конкретной информации от OpenAI об их будущих автономных агентах можно только догадываться об их потенциальных возможностях. Информация предполагает, что новая технология искусственного интеллекта может управлять пользовательскими устройствами для выполнения задач, запрошенных пользователем, например, передачи данных с одной платформы на другую. Теоретически любая физическая активность, которую может выполнять человек, например, смахивание, касание или набор текста, может выполняться системой искусственного интеллекта, получившей достаточное количество разрешений на устройство.
В то время как идея такой технологии напоминает научно-фантастические фантазии, такие как JARVIS от Ironman, создание реальных систем искусственного интеллекта не обходится без сложностей, особенно в отношении конфиденциальности и безопасности. Современным передовым системам генеративного ИИ не хватает осмотрительности, и им необходимо подключение к крупномасштабным облачным вычислительным центрам. Хотя некоторые функции ИИ могут работать исключительно на ноутбуках или смартфонах, маловероятно, что агент ИИ в такой форме может существовать исключительно на чипе ИИ, интегрированном в устройство.
Это вызывает серьезные опасения по поводу конфиденциальности, особенно при рассмотрении рисков, связанных с предоставлением корпоративной системе ИИ неограниченного доступа к частной информации. Учитывая широкомасштабные возможности обмена данными среднестатистического смартфона, автономные агенты действий, если они будут реализованы, могут представлять новую и серьезную угрозу кибербезопасности с глобальными последствиями.
Published At
2/8/2024 9:40:00 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.