Новости OpenAI запустила баунти-программу с вознаграждением до $20 000

[CryptoWatcher]

---

Компания OpenAI объявила о запуске программы вознаграждения за обнаружение ошибок в ее системах, чтобы помочь устранить растущие риски кибербезопасности.

---

https://twitter.com/i/web/status/1645837926683770881

---

Проект создан в партнерстве с краудсорсинговой платформой Bugcrowd. Независимые исследователи могут сообщить об уязвимостях в системах OpenAI в обмен на финансовое вознаграждение в размере от $200 до $20 000.

В компании заявили, что программа является частью ее «приверженности разработке безопасного и продвинутого ИИ».

Однако разработчики перечислили ряд угроз, обнаружение которых не вознаграждается. На официальной странице программы отмечается:

«Проблемы, связанные с содержанием подсказок и ответов модели, строго выходят за рамки и не будут вознаграждаться, если они не окажут дополнительного непосредственно проверяемого воздействия на безопасность в рамках службы».

К выходящим за рамки программы проблемы включают:

• джейлбрейки и обходы безопасности;
• принуждение модели «говорить плохие вещи»;
• генерирование вредоносного кода.

Некоторые эксперты Для просмотра ссылки Войди или Зарегистрируйся, что инициатива вряд ли полностью устранит широкий спектр рисков кибербезопасности. Скорее программа поможет OpenAI устранить внутренние проблемы безопасности, считают они.

Напомним, в марте власти Италии Для просмотра ссылки Войди или Зарегистрируйся из-за проблем с конфиденциальностью.

Вслед за ними внедрение ограничительных мер против чат-бота Для просмотра ссылки Войди или Зарегистрируйся и другие европейские регуляторы.