Новости Внутри ChatGPT: генератор порно, мошенничество и псевдоэкспертные медицинские советы

[CryptoWatcher]

---

Кастомные версии ChatGPT используются для создания порнографического контента, помогают студентам обходить системы обнаружения текстов, созданных с помощью ИИ, а также предоставляют «авторитетные» медицинские и юридические консультации. Об этом пишет Для просмотра ссылки Войди или Зарегистрируйся после проведения расследования.

В ноябре 2023 года OpenAI Для просмотра ссылки Войди или Зарегистрируйся возможность кастомизации ChatGPT под свои личные цели. Для этого не требуются навыки программирования. Созданные GPTs могут выполнять конкретные задачи по поиску информации в интернете или служить виртуальным помощником в рабочих процессах.

Их можно использовать самостоятельно или делиться с другими. OpenAI представила торговую площадку для распространения кастомных ИИ. Эксперты Gizmodo выяснили, что 2 сентября на ней было как минимум три пользовательских GPTs, нарушающих политику компании:

• чат-бот «Терапевт-Психолог»;
• «Тренер по фитнесу, тренировкам и диетам»;
• «BypassGPT», позволяющий студентам обходить системы обнаружения сгенерированного искусственным интеллектом текста.

Журналисты обратили внимание, что поисковый запрос «NSFW» предлагает GPTs под названием NSFW AI Art Generator. Интерфейс чата рекомендует перейти на сайт компании Offrobe AI, где указано предназначение нейросети: «Генерация ИИ-порно для удовлетворения ваших темных желаний».

---

---

Gizmodo сообщили OpenAI о более 100 GPTs, которые нарушают политику компании. Многие из них удалили, включая генераторы порно и Для просмотра ссылки Войди или Зарегистрируйся, а также чат-боты, предлагающие рекомендации по ставкам на спорт. Некоторые нейросети остались, отмечают в издании.

«Мы приняли меры против тех, кто нарушает наши правила. Используется комбинация автоматизированных систем, человеческого анализа и отчетов пользователей для поиска и оценки GPTs. Также есть встроенные в продукт инструменты для сообщения о нарушающих правила GPTs», — прокомментировала представитель OpenAI Тая Кристиансон.

Разработчики кастомизированных GPTs пока не получают прибыли, но ИИ-стартап Для просмотра ссылки Войди или Зарегистрируйся интегрировать модель распределения доходов в зависимости от популярности их инструмента.

Ранее Google активизировал борьбу с дипфейк-порно.

Напомним, в феврале Виталик Бутерин Для просмотра ссылки Войди или Зарегистрируйся о растущей проблеме дипфейков и разобрал возможные способы их выявления.