- 13,858
- 20
- 8 Ноя 2022
ИИ может самостоятельно наполнять сайты без участия человека, что приводит к политическим конфузам.
Согласно Для просмотра ссылки Войдиили Зарегистрируйся организации NewsGuard, отслеживающей распространение дезинформации, с мая 2023 года количество веб-сайтов, публикующих фейковые статьи, созданные с помощью искусственного интеллекта, возросло более чем на 1000%. NewsGuard обнаружила 614 таких сайта, которые функционируют с минимальным или полным отсутствием человеческого контроля. Ранее этот показатель составлял 49 сайтов.
Эксперты отмечают, что внедрение инструментов генеративного ИИ стало находкой как для «ферм контента», так и для распространителей ложной информации. Теперь распространять пропаганду или ложные нарративы о выборах, войнах и природных катастрофах стало проще, чем когда-либо.
Ранее для ведения пропагандистских кампаний использовались армии низкооплачиваемых работников так называемых «тролль-ферм». Теперь же ИИ позволяет практически любому – будь то разведывательное агентство или подросток-гик – создавать подобные ресурсы.
Большинство людей не обладают достаточными навыками критического анализа новостей, что делает такое развитие событий особенно опасным. Такие веб-сайты часто имеют общие названия, такие как iBusiness Day, Ireland Top News и Daily Time Update, которые на первый взгляд могут казаться настоящими новостными сайтами.
Ненадежные новостные и информационные веб-сайты, созданные с помощью искусственного интеллекта, получили название UAINS (Unreliable AI-Generated News). NewsGuard подчеркивает, что подобные сайты работают с минимальным или полным отсутствием человеческого контроля и публикуют статьи, написанные в основном или полностью ботами, а не традиционно созданными и отредактированными журналистами.
Например, в одной из статей, созданных искусственным интеллектом, рассказывалась выдуманная история о психиатре Биньямина Нетаньяху, в которой говорилось, что он умер и оставил после себя записку, в которой предполагалось, что к этому причастен премьер-министр Израиля. Хотя психиатр был вымышленным, эта история была показана в иранском телешоу и распространена на других авторитетных медиаресурсах.
Также был выявлен китайский правительственный сайт, использующий сгенерированный текст о том, что США управляют лабораторией биологического оружия в Казахстане, которая заражает верблюдов, чтобы подвергнуть опасности людей в Китае.
NewsGuard указывает, что частично вина за расцвет таких сайтов лежит на брендах, готовых рекламироваться практически везде. Модель дохода этих сайтов часто основывается на программной рекламе, при которой рекламные технологии подают объявления без учёта качества и содержания сайта, в результате чего известные бренды непреднамеренно поддерживают их.
Для того, чтобы убедиться в подлинности прочитанных новостей, NewsGuard рекомендует обращать внимание на определённые признаки, например, на наличие сообщений об ошибках или других характерных для чат-ботов выражений, что указывает на создание контента с помощью ИИ без редактирования.
NewsGuard предполагает, что многие достоверные новостные сайты вскоре также начнут использовать инструменты ИИ, но при этом они будут обеспечивать эффективный контроль людей и не будут производить сотни или тысячи статей в день.
Особенно тревожным является рост сайтов, распространяющих фейковый контент, в преддверии президентских выборов, так как поток пропаганды может легко повлиять на шансы того или иного политического кандидата. Хотя соцсети уже переполнены дезинформацией, Meta* запретила политическим кампаниям использовать свои продукты генеративного ИИ для рекламы.
<span style="font-size: 9pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
Согласно Для просмотра ссылки Войди
Эксперты отмечают, что внедрение инструментов генеративного ИИ стало находкой как для «ферм контента», так и для распространителей ложной информации. Теперь распространять пропаганду или ложные нарративы о выборах, войнах и природных катастрофах стало проще, чем когда-либо.
Ранее для ведения пропагандистских кампаний использовались армии низкооплачиваемых работников так называемых «тролль-ферм». Теперь же ИИ позволяет практически любому – будь то разведывательное агентство или подросток-гик – создавать подобные ресурсы.
Большинство людей не обладают достаточными навыками критического анализа новостей, что делает такое развитие событий особенно опасным. Такие веб-сайты часто имеют общие названия, такие как iBusiness Day, Ireland Top News и Daily Time Update, которые на первый взгляд могут казаться настоящими новостными сайтами.
Ненадежные новостные и информационные веб-сайты, созданные с помощью искусственного интеллекта, получили название UAINS (Unreliable AI-Generated News). NewsGuard подчеркивает, что подобные сайты работают с минимальным или полным отсутствием человеческого контроля и публикуют статьи, написанные в основном или полностью ботами, а не традиционно созданными и отредактированными журналистами.
Например, в одной из статей, созданных искусственным интеллектом, рассказывалась выдуманная история о психиатре Биньямина Нетаньяху, в которой говорилось, что он умер и оставил после себя записку, в которой предполагалось, что к этому причастен премьер-министр Израиля. Хотя психиатр был вымышленным, эта история была показана в иранском телешоу и распространена на других авторитетных медиаресурсах.
Также был выявлен китайский правительственный сайт, использующий сгенерированный текст о том, что США управляют лабораторией биологического оружия в Казахстане, которая заражает верблюдов, чтобы подвергнуть опасности людей в Китае.
NewsGuard указывает, что частично вина за расцвет таких сайтов лежит на брендах, готовых рекламироваться практически везде. Модель дохода этих сайтов часто основывается на программной рекламе, при которой рекламные технологии подают объявления без учёта качества и содержания сайта, в результате чего известные бренды непреднамеренно поддерживают их.
Для того, чтобы убедиться в подлинности прочитанных новостей, NewsGuard рекомендует обращать внимание на определённые признаки, например, на наличие сообщений об ошибках или других характерных для чат-ботов выражений, что указывает на создание контента с помощью ИИ без редактирования.
NewsGuard предполагает, что многие достоверные новостные сайты вскоре также начнут использовать инструменты ИИ, но при этом они будут обеспечивать эффективный контроль людей и не будут производить сотни или тысячи статей в день.
Особенно тревожным является рост сайтов, распространяющих фейковый контент, в преддверии президентских выборов, так как поток пропаганды может легко повлиять на шансы того или иного политического кандидата. Хотя соцсети уже переполнены дезинформацией, Meta* запретила политическим кампаниям использовать свои продукты генеративного ИИ для рекламы.
<span style="font-size: 9pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
- Источник новости
- www.securitylab.ru
