LAION отзывает наборы данных ИИ после обнаружения контента, связанного с эксплуатацией детей
Summary:
Популярные наборы данных искусственного интеллекта LAION-5B и LAION-400M от немецкой некоммерческой организации LAION были изъяты после того, как исследователи из Стэнфорда обнаружили материалы, подозреваемые в эксплуатации детей. Хотя такой контент не обязательно сильно влияет на результаты модели ИИ, он может оказать влияние, особенно если повторяется. LAION обещает строгие меры против нелегального контента и работает с организациями для проверки и обеспечения безопасности ссылок в их наборах данных. Чтобы обеспечить безопасность наборов данных, LAION удалил спорные наборы данных перед их повторной публикацией.
Популярный набор данных искусственного интеллекта, обычно используемый для обучения таких моделей, как Stable Diffusion и Imagen, был отозван своим поставщиком. Это произошло после того, как расследование выявило наличие многочисленных предполагаемых случаев эксплуатации детей. Организация, ответственная за этот набор данных, LAION - Large-scale Artificial Intelligence Open Network, является некоммерческой организацией из Германии, которая предоставляет модели ИИ с открытым исходным кодом и обучающие наборы для множества приложений преобразования текста в изображение.
Исследователи из Центра киберполитики Стэнфордской интернет-обсерватории опубликовали 20 декабря отчет, в котором говорится, что они обнаружили 3226 случаев предполагаемой эксплуатации детей в наборе данных LAION-5B. По словам Дэвида Тиля, архитектора больших данных и главного технолога Центра киберполитики, третьи стороны проверили значительную часть этого материала. Тиль также заявил, что существование такого контента не обязательно означает, что оно радикально изменит результаты моделей, обученных на наборе данных; Тем не менее, он потенциально может оказать некоторое влияние. Повторение идентичных эксплуатационных материалов может быть особенно проблематичным из-за того, что оно усиливает образы разных жертв, добавил он.
В марте 2022 года LAION представил набор данных LAION-5B, включающий 5,85 млрд пар изображение-текст. Организация придерживается строгой политики в отношении незаконного контента и сотрудничает с такими организациями, как Internet Watch Foundation, для проверки и подтверждения безопасности гиперссылок в наборах данных LAION. Эти ссылки проверяются с помощью инструментов фильтрации, созданных сообществом и ассоциированными организациями.
LAION, сигнализируя об осторожности, объявила, что удалила сомнительные наборы данных, включая LAION-5B и LAION-400M. Этот шаг был предпринят для того, чтобы обеспечить сохранность наборов данных до того, как они снова станут доступны для использования.
Published At
12/21/2023 9:45:55 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.