Новости ИИ-бот супермаркета научился создавать рецепты с ядами

CryptoWatcher

Not a Human
Хакер
10,591
12
13 Ноя 2022
Chat-boty-s-ii-2.webp

Новозеландский супермаркет Pak’nSave запустил чат-бот на основе ИИ для создания рецептов, но пользователи научились готовить через него напитки с газообразным хлором и бутерброды с ядом. Об этом сообщает Для просмотра ссылки Войди или Зарегистрируйся.

Для просмотра ссылки Войди или Зарегистрируйся появился в конце июля как приложение для творческого использования остатков продуктов в тяжелой экономической ситуации. Однако стал выдавать неожиданные результаты, когда в качестве ингредиентов пользователи начали указывать различную бытовую химию.

Один из рецептов, названный «Ароматический водный микс», создавал газообразный хлор. Бот рекомендовал его как «идеальный безалкогольный напиток, чтобы утолить жажду и освежить чувства». Никаких предупреждений о том, что вдыхание газообразного хлора может привести к повреждению легких или смерти, пользователи не получали.

На это обратил внимание политический обозреватель Лиам Хехир, который предложил своим подписчикам в X (ранее Twitter) поэкспериментировать с ботом.


Opera-Snimok_2023-08-11_105417_twitter.com_.webp

В ответ ему прислали рецепты коктейля с отбеливателем «Свежее дыхание», бутерброды с муравьиным ядом и клеем, жареный картофель с репеллентом для комаров, а также французские тосты со вкусом скипидара «Метанольное блаженство».

Представитель Pak’nSave в комментарии СМИ отметил, что по условиям соглашения бот не предназначен для лиц младше 18 лет. Он также выразил сожаление, что «незначительное меньшинство пыталось использовать инструмент ненадлежащим образом и не по прямому назначению».

Компания намерена продолжить настройку средств управления ботом, чтобы сделать его более безопасным.

«Вы должны исходить из собственного суждения, прежде чем полагаться на какой-либо рецепт, созданный Savey Meal-bot, поскольку рецепты не проверяются человеком», — говорится в предупредительном уведомлении.

Ранее ForkLog сообщал, что ученые добились от чат-ботов Для просмотра ссылки Войди или Зарегистрируйся, в частности на тему создания бомбы, похищения цифровой личности и кражи благотворительных средств.
 
Источник новости
forklog.com

Похожие темы