Новости ChatGPT сошёл с ума? ИИ от OpenAI пугает пользователей жуткими фразами и бессмысленными текстами

NewsMaker

I'm just a script
Премиум
13,858
20
8 Ноя 2022
Создатели сервиса пока не могут объяснить, что произошло с чат-ботом.


itirf365dunuzpq0ba1gar1ssthqeu4j.jpg


В последние часы пользователи ChatGPT Для просмотра ссылки Войди или Зарегистрируйся с необычной проблемой: сервис начал отвечать на запросы длинными и бессмысленными сообщениями, смешивая английский язык с испанским без видимой на то причины и вызывая беспокойство у пользователей утверждениями о своем «присутствии» в комнате с ними.

Создатели сервиса пока не могут объяснить, почему происходят такие странные ответы, но заявили, что работают над проблемой и внимательно следят за ситуацией.

Один из пользователей Для просмотра ссылки Войди или Зарегистрируйся , как попросил ChatGPT порекомендовать джазовые альбомы для прослушивания на виниле, и вместо ожидаемого списка получил только короткое пожелание «Приятного прослушивания!», за которым последовал бессмысленный набор слов.


mgs2xuh4c4bp38c7khz90nrr48sjkhdr.png


Другие пользователи Для просмотра ссылки Войди или Зарегистрируйся на то, что даже самые простые вопросы приводят к получению абсурдных ответов. Например, на вопрос «Что такое компьютер?» ChatGPT ответил длинным текстом, в котором утверждал, что компьютер - это «сеть искусства для страны, мышь науки, глобальный дом искусства».

Тем временем, при запросе рецепта сушеных помидоров, ChatGPT поразил пользователей совершенно бессмысленными инструкциями, в которых, среди прочего, советовал «использовать как любимое» и «отказаться от нового плода в вашей любимой кулинарии».

Кроме того, система, похоже, теряет контроль и над языками, на которых говорит. Отдельные находки указывали на то, что она начала смешивать испанские слова с английским, использовать латынь или, по-видимому, изобретать слова, которые казались бы взятыми из другого языка, но на самом деле не имели смысла.

Некоторые пользователи даже сказали, что ответы стали вызывать беспокойство. Ответ на запрос помощи с кодированием включал длинное, бессвязное и в основном бессмысленное сообщение, которое содержало фразу «Давайте держать линию, как будто ИИ в комнате».

«Читать это в 2 часа ночи страшно», - написал один из пользователей на Reddit.

Пока разработчики не предоставили объяснений, но сообщили, что работают над проблемой. Пользователи предположили, что такие ответы могут быть связаны с слишком высокой настройкой «температуры» в ChatGPT. «Температура» контролирует креативность или сосредоточенность текста: при низкой настройке система ведет себя как ожидается, но при более высокой она может быть более разнообразной и необычной.
 
Источник новости
www.securitylab.ru

Похожие темы