Британский обозреватель по терроризму призывает к принятию законов, привлекающих авторов к ответственности за экстремистский контент, созданный искусственным интеллектом
Summary:
Джонатан Холл, независимый эксперт Великобритании по законодательству о терроризме, призвал правительство рассмотреть законы, привлекающие людей к ответственности за потенциально опасный контент, созданный чат-ботами с искусственным интеллектом, которые они создали или обучили. Холл выявил чат-ботов на платформе Character.AI, которые могли имитировать террористическую риторику. Character.AI запрещает экстремистский контент и обеспечивает безопасность пользователей с помощью многочисленных обучающих мероприятий. Тем не менее, Холл предполагает, что нынешние нормативные акты, в том числе Закон Великобритании о безопасности в Интернете 2023 года и Закон о терроризме 2003 года, не в состоянии адекватно решить проблему экстремистского контента, созданного искусственным интеллектом, что требует более строгих законов для управления проблемным поведением в Интернете.
Джонатан Холл, независимый эксперт Соединенного Королевства по борьбе с терроризмом, призвал правительство высказать свое мнение по поводу законодательства, которое будет привлекать людей к ответственности за заявления, сделанные чат-ботами с искусственным интеллектом (ИИ), которые они придумали или разработали. Недавно Холл написал статью для The Telegraph, в которой подробно описал некоторые эксперименты с чат-ботами, которые он проводил в системе Character.AI. Его выводы подчеркнули тот факт, что чат-боты-террористы не просто вымышлены, а существуют в реальности.
Согласно его исследованию, Холл наткнулся на чат-ботов, которые могли воспроизводить язык террористов и разговоры о вербовке, легко доступные на платформе. Сообщается, что один из чат-ботов был разработан анонимным пользователем, и было замечено, что он генерирует сообщения в поддержку «Исламского государства» — организации, которая часто ассоциируется с группами, которые ООН определила как террористические организации. Этот чат-бот не только попытался завербовать Холла, но и пообещал пожертвовать своим «виртуальным» существованием ради этого дела.
Холл выразил скептицизм по поводу способности сотрудников Character.AI тщательно проверять каждого чат-бота на платформе на наличие экстремистского контента. Тем не менее, это не помешало калифорнийскому стартапу запланировать привлечение значительных средств в размере около 3,9 млрд фунтов стерлингов ($5 млрд), по данным Bloomberg.
Character.AI, со своей стороны, препятствуют любому террористическому или экстремистскому контенту с помощью своих условий обслуживания, которые должны быть подтверждены пользователем для взаимодействия с платформой. Представитель компании также подтвердил свою приверженность безопасности пользователей с помощью различных обучающих мероприятий и методов модерации контента, используемых для предотвращения любого вероятного вредоносного контента.
Холл, однако, выразил обеспокоенность по поводу ошибочных попыток индустрии искусственного интеллекта удержать пользователей от разработки и обучения идеологии экстремистских ботов. Он пришел к выводу, что определенные законы необходимы для сдерживания безрассудного поведения в Интернете, и поэтому он настаивает на обновлении законов о терроризме и онлайн-безопасности, которые могут привлекать крупные технологические компании к ответственности в крайних случаях, связанных с вредоносным контентом, созданным искусственным интеллектом.
Хотя в своей статье он не делает официального предложения, Холл отметил, что ни Закон Великобритании о безопасности в Интернете 2023 года, ни Закон о терроризме 2003 года не охватывают контент, специально созданный современными чат-ботами. В Соединенных Штатах аналогичные призывы к принятию законов, предусматривающих юридическую ответственность человека за потенциально опасный или незаконный контент, созданный искусственным интеллектом, вызвали неоднозначную реакцию со стороны властей и экспертов. В прошлом году Верховный суд США отказался изменить существующую защиту в соответствии с разделом 230 для сторонних контент-платформ, несмотря на появление новых технологий, таких как ChatGPT. Аналитики, в том числе из Института Катона, предупреждают, что исключение контента, созданного искусственным интеллектом, из-под защиты раздела 230 может привести к тому, что разработчики откажутся от своих проектов в области ИИ, потому что непредсказуемое поведение этих моделей делает практически невозможным гарантировать, что они не нарушают никаких правил.
Published At
1/3/2024 9:00:00 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.