- 13,854
- 20
- 8 Ноя 2022
20 технологических гигантов создают единый фронт против ИИ-пропаганды.
Не менее 20 крупнейших технологических компаний, включая Google , Meta*, Microsoft и OpenAI , подписали новое соглашение о регулировании генеративного ИИ. Организации обещают не допускать распространение дипфейков в период избирательных кампаний 2024 года. Как это реализовать?
Новый «Технологический договор о противодействии недобросовестному использованию ИИ» был представлен в пятницу на 55-й Мюнхенской конференции по безопасности.
По словам вице-президента Microsoft, Брэда Смита, цель соглашения — гарантировать избирателям право выбирать тех, кто, по их мнению, будет справедливо управлять страной, без обмана и манипуляций.
Соглашение фокусируется на борьбе с «ложным ИИ-контентом» — поддельными аудио, видео и изображениями политиков, а также фейковой информацией о порядке и сроках голосования.
В договоре прописаны восемь конкретных обязательств, которые можно разделить на три основные категории:
Согласно своим обязательствам, Microsoft уже создала специальный интернет-ресурс под названием Для просмотра ссылки Войдиили Зарегистрируйся . Сервис позволяет кандидатам сообщать о любых фейках и пропагандистских материалах.
По предварительным оценкам, в этом году на выборах будут голосовать свыше 4 миллиардов человек в разных странах. Уже сегодня активно используется генеративный ИИ, который влияет на политические процессы и взгляды избирателей, а иногда и вовсе отговаривает людей от участия в голосовании.
Последнее исследование экспертов из Европейского Союза, проведённое в прошлом месяце, выявило свыше 750 случаев целенаправленного распространения пропаганды иностранными агентами.
Особое внимание вызвал инцидент 23 января, когда жители Нью-Гэмпшира Для просмотра ссылки Войдиили Зарегистрируйся от имени Джо Байдена. В сообщении президент призывал выходить из дома и не участвовать в праймериз.
Случай подтолкнул Федеральную комиссию по связи Для просмотра ссылки Войдиили Зарегистрируйся нежелательные робозвонки, создаваемые с помощью ИИ, на территории всей страны. Белый дом, в свою очередь, обещал применять методы криптографической верификации, чтобы предотвратить такие инициативы.
Важной мерой в борьбе с распространением поддельного контента, созданного с помощью генеративных технологий, стало внедрение водяных знаков или метаданных, которые помогут публике распознавать искусственно созданный контент и проверять его источники.
Ник Клегг, президент по глобальным вопросам в Meta Platforms, подчеркнул значимость совместных усилий: «Конечно, каждая платформа может разрабатывать собственные механизмы обнаружения подделок, идентификации источников, маркировки и прочего. Но без общей стратегии и взаимодействия мы рискуем оказаться в ситуации, когда каждый действует в одиночку, создавая мозаику разрозненных подходов, что существенно снизит эффективность общих усилий».
Особый фокус участники хотят сделать на поддельных аудио и видео, которым люди больше склонны доверять — к тексту общественность часто относится с большим скептицизмом.
Полный список подписавших соглашение: Adobe, Amazon, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc., Stability AI, TikTok, Trend Micro, Truepic и X.
<span style="font-size: 8pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
Не менее 20 крупнейших технологических компаний, включая Google , Meta*, Microsoft и OpenAI , подписали новое соглашение о регулировании генеративного ИИ. Организации обещают не допускать распространение дипфейков в период избирательных кампаний 2024 года. Как это реализовать?
Новый «Технологический договор о противодействии недобросовестному использованию ИИ» был представлен в пятницу на 55-й Мюнхенской конференции по безопасности.
По словам вице-президента Microsoft, Брэда Смита, цель соглашения — гарантировать избирателям право выбирать тех, кто, по их мнению, будет справедливо управлять страной, без обмана и манипуляций.
Соглашение фокусируется на борьбе с «ложным ИИ-контентом» — поддельными аудио, видео и изображениями политиков, а также фейковой информацией о порядке и сроках голосования.
В договоре прописаны восемь конкретных обязательств, которые можно разделить на три основные категории:
- Компании пообещали ограничить использование легальных инструментов для создания дипфейков.
- Будут выработаны универсальные способы выявления и реагирования на дипфейки.
- Компании намерены повысить осведомленность общества и устойчивость к дезинформации в преддверии выборов.
Согласно своим обязательствам, Microsoft уже создала специальный интернет-ресурс под названием Для просмотра ссылки Войди
По предварительным оценкам, в этом году на выборах будут голосовать свыше 4 миллиардов человек в разных странах. Уже сегодня активно используется генеративный ИИ, который влияет на политические процессы и взгляды избирателей, а иногда и вовсе отговаривает людей от участия в голосовании.
Последнее исследование экспертов из Европейского Союза, проведённое в прошлом месяце, выявило свыше 750 случаев целенаправленного распространения пропаганды иностранными агентами.
Особое внимание вызвал инцидент 23 января, когда жители Нью-Гэмпшира Для просмотра ссылки Войди
Случай подтолкнул Федеральную комиссию по связи Для просмотра ссылки Войди
Важной мерой в борьбе с распространением поддельного контента, созданного с помощью генеративных технологий, стало внедрение водяных знаков или метаданных, которые помогут публике распознавать искусственно созданный контент и проверять его источники.
Ник Клегг, президент по глобальным вопросам в Meta Platforms, подчеркнул значимость совместных усилий: «Конечно, каждая платформа может разрабатывать собственные механизмы обнаружения подделок, идентификации источников, маркировки и прочего. Но без общей стратегии и взаимодействия мы рискуем оказаться в ситуации, когда каждый действует в одиночку, создавая мозаику разрозненных подходов, что существенно снизит эффективность общих усилий».
Особый фокус участники хотят сделать на поддельных аудио и видео, которым люди больше склонны доверять — к тексту общественность часто относится с большим скептицизмом.
Полный список подписавших соглашение: Adobe, Amazon, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc., Stability AI, TikTok, Trend Micro, Truepic и X.
<span style="font-size: 8pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
- Источник новости
- www.securitylab.ru
