- 13,086
- 20
- 8 Ноя 2022
У кого искать поддержки человеку, который внезапно стал жертвой дипфейк-насилия?
Боты в популярном мессенджере Telegram , которые создают порнографические изображения на основе фотографий, стали настоящей проблемой, несмотря на попытки законодательных органов и IT-компаний бороться с ними.
Эксперт по дипфейкам Генри Айдер в 2020 году обнаружил один из первых ботов, «раздевающих» изображения женщин с помощью искусственного интеллекта. По его словам, тогда было создано более 100 000 откровенных фотографий, в том числе изображений детей. Этот случай стал важной вехой, демонстрирующей, к чему могут привести дипфейки.
С тех пор технология развивалась, и теперь в Telegram можно найти десятки ботов, которые предлагают создать обнажённые или порнографические изображения с помощью нескольких кликов. Свежее исследование, Для просмотра ссылки Войдиили Зарегистрируйся выявило как минимум 50 таких ботов, некоторые из которых демонстрируют особенно высокую популярность, набирая более 400 тысяч пользователей. В то же время, суммарно все эти боты насчитывают порядка 4 миллионов активных пользователей в месяц.
Айдер подчёркивает, что количество людей, использующих подобные инструменты, резко возросло, особенно в сравнении с 2020 годом. Он отмечает, что такие технологии представляют серьёзную угрозу, особенно для молодых девушек и женщин, и до сих пор легко доступны через Telegram. Боты, нарушающие приватность, часто сопровождаются каналами, на которых пользователи могут подписываться на обновления о новых функциях и предложениях.
Хотя Telegram удалил 75 ботов и связанных с ними каналов после вопросов от WIRED, проблема не исчезла. Новые боты продолжают появляться, несмотря на попытки платформы бороться с этим. По словам Елены Майкл, директора кампании #NotYourPorn, Telegram трудно отслеживать и модерировать, что делает платформу особенно опасной для жертв дипфейк-насилия.
Примечательно, что большинство ботов требует от пользователей покупки токенов для создания изображений, а правила, запрещающие загружать изображения без согласия, практически не контролируются. Более того, Telegram предоставляет функции поиска, которые позволяют легко находить и использовать таких ботов.
Пока законодательные меры принимаются в разных странах, а IT-компании обновляют свои политики, Telegram остаётся одной из ключевых платформ, на которой продолжают распространяться дипфейк-изображения.
Боты в популярном мессенджере Telegram , которые создают порнографические изображения на основе фотографий, стали настоящей проблемой, несмотря на попытки законодательных органов и IT-компаний бороться с ними.
Эксперт по дипфейкам Генри Айдер в 2020 году обнаружил один из первых ботов, «раздевающих» изображения женщин с помощью искусственного интеллекта. По его словам, тогда было создано более 100 000 откровенных фотографий, в том числе изображений детей. Этот случай стал важной вехой, демонстрирующей, к чему могут привести дипфейки.
С тех пор технология развивалась, и теперь в Telegram можно найти десятки ботов, которые предлагают создать обнажённые или порнографические изображения с помощью нескольких кликов. Свежее исследование, Для просмотра ссылки Войди
Айдер подчёркивает, что количество людей, использующих подобные инструменты, резко возросло, особенно в сравнении с 2020 годом. Он отмечает, что такие технологии представляют серьёзную угрозу, особенно для молодых девушек и женщин, и до сих пор легко доступны через Telegram. Боты, нарушающие приватность, часто сопровождаются каналами, на которых пользователи могут подписываться на обновления о новых функциях и предложениях.
Хотя Telegram удалил 75 ботов и связанных с ними каналов после вопросов от WIRED, проблема не исчезла. Новые боты продолжают появляться, несмотря на попытки платформы бороться с этим. По словам Елены Майкл, директора кампании #NotYourPorn, Telegram трудно отслеживать и модерировать, что делает платформу особенно опасной для жертв дипфейк-насилия.
Примечательно, что большинство ботов требует от пользователей покупки токенов для создания изображений, а правила, запрещающие загружать изображения без согласия, практически не контролируются. Более того, Telegram предоставляет функции поиска, которые позволяют легко находить и использовать таких ботов.
Пока законодательные меры принимаются в разных странах, а IT-компании обновляют свои политики, Telegram остаётся одной из ключевых платформ, на которой продолжают распространяться дипфейк-изображения.
- Источник новости
- www.securitylab.ru
