- 13,854
- 20
- 8 Ноя 2022
Эксперты призывают к законодательному регулированию ИИ, воссоздающего личности умерших людей.
Эксперты из Кембриджского университета выразили обеспокоенность в связи с развитием технологий искусственного интеллекта, которые позволяют вести текстовые и голосовые беседы с умершими. По мнению исследователей, такие технологии, получившие название «грифботы» или «мертвец-боты», могут нанести психологический вред и создать иллюзию присутствия умерших, что названо «цифровым преследованием».
В статье, опубликованной в журнале Для просмотра ссылки Войдиили Зарегистрируйся , говорится о потенциальной опасности злоупотребления такими ИИ-чатботами, включая скрытую рекламу товаров и услуг или создание беспокойства среди детей утверждениями о том, что умерший родитель все еще «с ними». К тому же, интерактивное взаимодействие с «мертвец-ботами» может стать «подавляющим эмоциональным бременем».
Исследователи из Центра будущего разума в Кембридже предложили разработать особые протоколы дизайна для таких платформ, чтобы предотвратить использование «мертвец-ботов» в непочтительных целях, например, для рекламы или активности в социальных сетях. Они также настаивают на необходимости получения согласия от лиц, данные которых используются для создания ботов, до их смерти.
Одна из предложенных сценариев в статье — компания «Paren’t», которая создает бота для помощи восьмилетнему ребенку в преодолении горя после смерти матери. Начальный успех терапевтического бота со временем приводит к путанице у ребенка из-за неоднозначных ответов ИИ.
Томаш Холланек, соавтор исследования, предложил ввести возрастные ограничения для использования «мертвец-ботов» и обеспечить «значимую прозрачность» для того, чтобы пользователи всегда осознавали, что их собеседник — искусственный интеллект . Это могло бы включать в себя предупреждения, аналогичные тем, что предупреждают о возможных приступах при просмотре контента.
В заключение исследователи подчеркивают важность разработки протоколов для возможности отказа от использования «мертвец-ботов», что позволило бы пользователям прекратить взаимодействие с ними, обеспечив эмоциональное завершение. Они призывают команды разработчиков заранее думать о том, как снизить социальные и психологические риски «цифрового бессмертия», поскольку технологии уже здесь.
Эксперты из Кембриджского университета выразили обеспокоенность в связи с развитием технологий искусственного интеллекта, которые позволяют вести текстовые и голосовые беседы с умершими. По мнению исследователей, такие технологии, получившие название «грифботы» или «мертвец-боты», могут нанести психологический вред и создать иллюзию присутствия умерших, что названо «цифровым преследованием».
В статье, опубликованной в журнале Для просмотра ссылки Войди
Исследователи из Центра будущего разума в Кембридже предложили разработать особые протоколы дизайна для таких платформ, чтобы предотвратить использование «мертвец-ботов» в непочтительных целях, например, для рекламы или активности в социальных сетях. Они также настаивают на необходимости получения согласия от лиц, данные которых используются для создания ботов, до их смерти.
Одна из предложенных сценариев в статье — компания «Paren’t», которая создает бота для помощи восьмилетнему ребенку в преодолении горя после смерти матери. Начальный успех терапевтического бота со временем приводит к путанице у ребенка из-за неоднозначных ответов ИИ.
Томаш Холланек, соавтор исследования, предложил ввести возрастные ограничения для использования «мертвец-ботов» и обеспечить «значимую прозрачность» для того, чтобы пользователи всегда осознавали, что их собеседник — искусственный интеллект . Это могло бы включать в себя предупреждения, аналогичные тем, что предупреждают о возможных приступах при просмотре контента.
В заключение исследователи подчеркивают важность разработки протоколов для возможности отказа от использования «мертвец-ботов», что позволило бы пользователям прекратить взаимодействие с ними, обеспечив эмоциональное завершение. Они призывают команды разработчиков заранее думать о том, как снизить социальные и психологические риски «цифрового бессмертия», поскольку технологии уже здесь.
- Источник новости
- www.securitylab.ru
