- 13,854
- 20
- 8 Ноя 2022
Исследователи Mozilla призывают одиноких пользователей не доверять машинам свои личные данные.
14 февраля, в День святого Валентина, исследователи из компании Mozilla опубликовали Для просмотра ссылки Войдиили Зарегистрируйся в рамках серии публикаций Для просмотра ссылки Войди или Зарегистрируйся , в котором специалисты выявили, что большинство имеющихся на рынке приложений для романтических переписок с чат-ботами не соответствуют современным стандартам безопасности и конфиденциальности.
С развитием генеративного искусственного интеллекта начался настоящий бум чат-ботов для «отношений», предлагающих компанию одиноким сердцам. Причём такие нейропереписки часто носят не только романтический, но и эротический характер.
Миша Рыков, исследователь из Mozilla, резко высказался по поводу подобных увлечений: «Честно говоря, ИИ-подруги — это не ваши друзья. Несмотря на обещания улучшить ваше психическое состояние, на деле они способствуют зависимости, одиночеству и токсичности, при этом извлекая из вас как можно больше данных».
В результате оценки 11 популярных чат-ботов для романтических переписок, включая такие приложения, как «Romantic AI», «Talkie Soulful AI» и «EVA AI Chat Bot & Soulmate», все из них получили от Mozilla пометку Privacy Not Included, что выделяет их как одни из наиболее проблемных с точки зрения конфиденциальности.
Скриншоты из приложения «EVA AI Chat Bot & Soulmate», где чат-бот
буквально выпрашивает у пользователя его фото и голосовые сообщения
Среди основных проблем безопасности и конфиденциальности, выявленных в исследовании, эксперты Mozilla отмечают отсутствие публичной информации о том, как управляются уязвимости безопасности (73%), неясность данных об использовании шифрования (64%), разрешение на использование слабых паролей, включая «11111» (45%), продажа данных пользователей или их использование для таргетированной рекламы без достаточно ясной информации в политике конфиденциальности (90%), и запрет на удаление личных данных (54%).
Джен Калтрайдер, директор программы Privacy Not Included, предостерегает: «Сегодня мы сталкиваемся с "диким западом" нейрогенеративных чат-ботов для отношений. Их популярность растёт взрывными темпами, а количество личной информации, которую они извлекают для создания романтических, дружеских и интимных взаимодействий, по-настоящему огромно».
Калтрайдер подчёркивает необходимость повышения прозрачности и предоставления пользователям куда большего контроля над подобными ИИ-сервисами, чтобы предотвратить потенциальную манипуляцию и защитить личные данные.
Таким образом, чат-боты для романтических отношений, которые день ото дня становятся всё более популярными, создают серьёзные риски для безопасности и конфиденциальности пользователей. Эти приложения собирают большое количество личных данных, включая фотографии и аудио, которые можно использовать в том числе как биометрию, однако не предоставляют достаточной информации о том, как они обрабатывают и защищают эту информацию.
Пользователи должны проявлять осторожность и критически относиться к подобным чат-ботам, чтобы не допустить утечку чувствительных данных, а также предотвратить злоупотребления и манипуляции со стороны злоумышленников, способных заполучить эти данные.
14 февраля, в День святого Валентина, исследователи из компании Mozilla опубликовали Для просмотра ссылки Войди
С развитием генеративного искусственного интеллекта начался настоящий бум чат-ботов для «отношений», предлагающих компанию одиноким сердцам. Причём такие нейропереписки часто носят не только романтический, но и эротический характер.
Миша Рыков, исследователь из Mozilla, резко высказался по поводу подобных увлечений: «Честно говоря, ИИ-подруги — это не ваши друзья. Несмотря на обещания улучшить ваше психическое состояние, на деле они способствуют зависимости, одиночеству и токсичности, при этом извлекая из вас как можно больше данных».
В результате оценки 11 популярных чат-ботов для романтических переписок, включая такие приложения, как «Romantic AI», «Talkie Soulful AI» и «EVA AI Chat Bot & Soulmate», все из них получили от Mozilla пометку Privacy Not Included, что выделяет их как одни из наиболее проблемных с точки зрения конфиденциальности.
Скриншоты из приложения «EVA AI Chat Bot & Soulmate», где чат-бот
буквально выпрашивает у пользователя его фото и голосовые сообщения
Среди основных проблем безопасности и конфиденциальности, выявленных в исследовании, эксперты Mozilla отмечают отсутствие публичной информации о том, как управляются уязвимости безопасности (73%), неясность данных об использовании шифрования (64%), разрешение на использование слабых паролей, включая «11111» (45%), продажа данных пользователей или их использование для таргетированной рекламы без достаточно ясной информации в политике конфиденциальности (90%), и запрет на удаление личных данных (54%).
Джен Калтрайдер, директор программы Privacy Not Included, предостерегает: «Сегодня мы сталкиваемся с "диким западом" нейрогенеративных чат-ботов для отношений. Их популярность растёт взрывными темпами, а количество личной информации, которую они извлекают для создания романтических, дружеских и интимных взаимодействий, по-настоящему огромно».
Калтрайдер подчёркивает необходимость повышения прозрачности и предоставления пользователям куда большего контроля над подобными ИИ-сервисами, чтобы предотвратить потенциальную манипуляцию и защитить личные данные.
Таким образом, чат-боты для романтических отношений, которые день ото дня становятся всё более популярными, создают серьёзные риски для безопасности и конфиденциальности пользователей. Эти приложения собирают большое количество личных данных, включая фотографии и аудио, которые можно использовать в том числе как биометрию, однако не предоставляют достаточной информации о том, как они обрабатывают и защищают эту информацию.
Пользователи должны проявлять осторожность и критически относиться к подобным чат-ботам, чтобы не допустить утечку чувствительных данных, а также предотвратить злоупотребления и манипуляции со стороны злоумышленников, способных заполучить эти данные.
- Источник новости
- www.securitylab.ru
