- 13,850
- 20
- 8 Ноя 2022
Популярный каталог чат-ботов раскрыл подполье ИИ-технологий.
В ноябре 2023 года OpenAI Для просмотра ссылки Войдиили Зарегистрируйся маркетплейс, где пользователи могут создавать и находить уникальные версии чат-ботов на основе ChatGPT . Анализ Gizmodo Для просмотра ссылки Войди или Зарегистрируйся что многие из представленных моделей нарушают правила платформы.
Среди обнаруженных моделей — чат-боты для создания порнографического контента, инструменты для обхода систем обнаружения плагиата и модели, предлагающие медицинские и юридические консультации. Некоторые из чат-ботов используются десятки тысяч раз.
На главной странице маркетплейса можно найти модели, такие как «Терапевт – психолог», фитнес-коуч и BypassGPT, который помогает студентам избегать обнаружения ИИ-плагиата (использовался более 50 000 раз). Например, NSFW AI Art Generator, использованный более 10 000 раз, направляет пользователей на сайт, где открыто заявлено, что он предназначен для создания порнографии с помощью ИИ.
Главная страница сайта
Интересно, что несмотря на заявление OpenAI о важности соблюдения строгих политик, в том числе запрета на создание порнографических материалов, подобные инструменты остаются в свободном доступе.
После обращения издания Gizmodo к OpenAI с перечнем более чем 100 моделей, которые нарушают правила, ряд из них был удалён, включая генераторы порнографического контента и инструменты для ставок на спорт. Тем не менее, популярные модели, помогающие студентам в обмане систем обнаружения плагиата, а также предоставляющие медицинские советы, остаются доступными.
Страница маркетплейса чат-ботов с версиями, нарушающими правила
Официальный представитель OpenAI отметил, что компания предпринимает действия против моделей, которые нарушают политику, используя автоматизированные системы и ручные проверки, а также предоставляет пользователям инструменты для жалоб. В будущем OpenAI планирует внедрить модель разделения доходов, чтобы разработчики могли зарабатывать на своих GPT в зависимости от частоты их использования.
В ноябре 2023 года OpenAI Для просмотра ссылки Войди
Среди обнаруженных моделей — чат-боты для создания порнографического контента, инструменты для обхода систем обнаружения плагиата и модели, предлагающие медицинские и юридические консультации. Некоторые из чат-ботов используются десятки тысяч раз.
На главной странице маркетплейса можно найти модели, такие как «Терапевт – психолог», фитнес-коуч и BypassGPT, который помогает студентам избегать обнаружения ИИ-плагиата (использовался более 50 000 раз). Например, NSFW AI Art Generator, использованный более 10 000 раз, направляет пользователей на сайт, где открыто заявлено, что он предназначен для создания порнографии с помощью ИИ.
Главная страница сайта
Интересно, что несмотря на заявление OpenAI о важности соблюдения строгих политик, в том числе запрета на создание порнографических материалов, подобные инструменты остаются в свободном доступе.
После обращения издания Gizmodo к OpenAI с перечнем более чем 100 моделей, которые нарушают правила, ряд из них был удалён, включая генераторы порнографического контента и инструменты для ставок на спорт. Тем не менее, популярные модели, помогающие студентам в обмане систем обнаружения плагиата, а также предоставляющие медицинские советы, остаются доступными.
Страница маркетплейса чат-ботов с версиями, нарушающими правила
Официальный представитель OpenAI отметил, что компания предпринимает действия против моделей, которые нарушают политику, используя автоматизированные системы и ручные проверки, а также предоставляет пользователям инструменты для жалоб. В будущем OpenAI планирует внедрить модель разделения доходов, чтобы разработчики могли зарабатывать на своих GPT в зависимости от частоты их использования.
- Источник новости
- www.securitylab.ru
