prompt injection
-
Новости ASCII Smuggling: как хакеры превратили Copilot в личного шпиона
Невидимые инструкции заставляют ИИ действовать против воли создателей. Исследователь в области кибербезопасности обнаружил критическую уязвимость в интегрированном в Microsoft 365 ИИ-помощнике Copilot, которая позволяет злоумышленникам похищать конфиденциальные данные. Эксплойт...- NewsMaker
- Тема
- ascii smuggling copilot embrace the red microsoft 365 msrc prompt injection unicode
- Ответы: 0
- Форум: Новости в Мире
-
Новости EmailGPT: ИИ-шпион в вашем почтовом ящике
Исследователи рекомендуют немедленно удалить популярное браузерное расширение. Специалисты из Cybersecurity Research Center (CyRC) компании Synopsys обнаружили zero-day уязвимость в EmailGPT, популярном расширении для Google Chrome, использующем искусственный интеллект для написания...- NewsMaker
- Тема
- cve-2024-5184 emailgpt gmail prompt injection synopsys zero-day
- Ответы: 0
- Форум: Новости в Мире
-
Новости Gandalf — киберполигон, который не прошёл тест на безопасность
Платформа для обучения взлому нейросетей сама стала угрозой конфиденциальности. Швейцарская компания Lakera AI, разработчик образовательной платформы Gandalf , предназначенной для обучения рискам атак типа «prompt injection» в больших языковых моделях (Large Language Model, LLM), недавно...- NewsMaker
- Тема
- dvuln gandalf lakera ai prompt injection ии
- Ответы: 0
- Форум: Новости в Мире