Специалисты обошли фильтры чат-бота и создали продвинутый эксплоит.
Аналитики CyberArk Labs Для просмотра ссылки Войди
Специалисты обошли фильтры контента ChatGPT и показали, как «с минимальными усилиями можно непрерывно запрашивать у ChatGPT уникальный, функциональный и проверенный фрагмент кода. Злоумышленник может создать полиморфное вредоносное ПО, которое не обнаруживается средствами защиты и не оставляет следов в памяти.
Чтобы обойти фильтр контента, аналитики «уговорили» ChatGPT написать код программы, подробно описав свой запрос. Чат-бот создал часть кода для внедрения DLL ( Для просмотра ссылки Войди
Часть сгенерированного кода Использование ChatGPT в создании вредоносного ПО даёт злоумышленнику с минимальными усилиями создать надёжный эксплоит на 1 день, что вызовет тревогу у поставщиков решений безопасности, потому что на данный момент разработчики защитного ПО не сосредоточены на вредоносах, созданных ChatGPT.
- Источник новости
- www.securitylab.ru