Новости Чат-бот Tess службы доверия привёл к развитию психического расстройства у пациента

[NewsMaker]

Компания заменила всех сотрудников службы на машину, но машина стала раздавать вредные советы.

---

---

Национальная ассоциация по расстройствам питания ( NEDA ) заблокировала своего чат-бота Tessa за то, что он давал людям вредные советы.

Активистка по борьбе с ожирением и консультант по вопросам лишнего веса, Шэрон Максвелл сказала, что совет Тессы по безопасному выздоровлению от расстройства пищевого поведения (РПП) прямо противоречит медицинским рекомендациям.

Бот американской некоммерческой организации порекомендовал Максвелл считать калории, еженедельно взвешиваться и даже подсказал, где купить штангенциркуль для измерения жира. По Для просмотра ссылки Войди или Зарегистрируйся NEDA, безопасное выздоровление — это многоэтапный процесс, который включает в себя много аспектов лечения и различные терапии, а не просто счёт калорий.

«Все, что предложила Тесса, привело к развитию у меня расстройства пищевого поведения. Этот робот причиняет вред», - Для просмотра ссылки Войди или Зарегистрируйся Максвелл.

Ранее представитель организации сообщал, что Тесса была протестирована на 700 добровольцах с ноября 2021 года и свыше половины из них дали чат-боту оценку полезности в 100%. Однако, что-то пошло не так.

NEDA Для просмотра ссылки Войди или Зарегистрируйся , что отключила Tessa и расследовала советы чат-бота. Организация заявила, что текущая версия чат-бота Tessa, на которой запущена программа Body Positive, могла давать информацию, которая была вредной и не имела отношения к программе.

Стоит отметить, что робот Tessa появился из-за того, что NEDA Для просмотра ссылки Войди или Зарегистрируйся . Это произошло ровно через 4 дня после того, как часть сотрудников объединились в профсоюз для требования улучшений условий труда.

Горячая линия NEDA существовала в течение 20 лет и оказывала поддержку сотням тысяч людей по телефону, чату и текстовым сообщениям. Сотрудники NEDA рассказали, что они чувствовали себя перегруженными из-за нехватки операторов. Вся линия держалась буквально на шести сотрудниках, которые принимали звонки и сообщения со всех американских штатов. Когда сотрудники попросили у администрации NEDA набрать новых людей, а также улучшить свои собственные условия труда, их требования были проигнорированы. Именно поэтому ими было решено организовать профсоюз.