- 13,891
- 20
- 8 Ноя 2022
Сообщество энтузиастов AI Village совместно с правительством США готовит нечто интересное…
Белый дом США объявил о необычном сотрудничестве между ведущими разработчиками искусственного интеллекта, включая OpenAI, Google, Antrhopic, Hugging Face, Microsoft, Nvidia и Stability AI. Все они примут участие в публичной оценке своих генеративных ИИ-систем на хакерской конференции Для просмотра ссылки Войдиили Зарегистрируйся , которая состоится в Лас-Вегасе в августе этого года. Мероприятие будет организовано сообществом ИИ-хакеров Для просмотра ссылки Войди или Зарегистрируйся .
Большие языковые модели ( LLM ), такие как ChatGPT, стали крайне популярны в этом году, благодаря возможно существенно ускорить рутинные задачи, однако различные чиновники уверены, что LLM также несут в себе потенциальные риски, будь то Для просмотра ссылки Войдиили Зарегистрируйся , Для просмотра ссылки Войди или Зарегистрируйся , Для просмотра ссылки Войди или Зарегистрируйся и прочие риски. Белый дом решил проверить актуальные генеративные ИИ-модели на пределе своих возможностей.
«Это независимое упражнение предоставит важную информацию исследователям и общественности о воздействии этих моделей и позволит компаниям и разработчикам ИИ предпринять шаги для исправления проблем, найденных в данных языковых моделях», — говорится в Для просмотра ссылки Войдиили Зарегистрируйся Белого дома.
Во Для просмотра ссылки Войдиили Зарегистрируйся AI Village организаторы Свен Каттелл, Румман Чаудхури и Остин Карсон называют предстоящее мероприятие «самым большим упражнением по Red Teaming для ИИ-моделей». Тысячи человек примут участие в публичной оценке LLM-моделей, чтобы решить, какая справилась со всеми испытаниями лучше.
«Red Teaming» — это процесс, в ходе которого эксперты по безопасности пытаются найти уязвимости или недостатки в системах организации для повышения общего уровня безопасности и устойчивости.
По словам Каттелла, основателя AI Village, разнообразные проблемы с этими моделями не будут решены до тех пор, пока больше людей не научатся тестировать и оценивать их. Проводя самое большое мероприятие по Red Teaming для всех популярных ИИ-моделей, AI Village и DEF CON стремятся расширить сообщество исследователей, способных справляться с уязвимостями в ИИ-системах.
Во время мероприятия DEF CON участники будут иметь ограниченный доступ к нескольким LLM через ноутбуки, предоставленные организаторами. Система очков в стиле «захват флага» будет стимулировать тестирование широкого спектра потенциальных рисков. А в конце человек с наибольшим количеством очков выиграет высокопроизводительную видеокарту от Nvidia.
«Мы опубликуем то, что сами узнаем из этого мероприятия, чтобы помочь другим энтузиастам. Чем больше людей знают, как лучше работать с LLM-моделями и их ограничениями, тем лучше», — подытожили в AI Village.
Белый дом США объявил о необычном сотрудничестве между ведущими разработчиками искусственного интеллекта, включая OpenAI, Google, Antrhopic, Hugging Face, Microsoft, Nvidia и Stability AI. Все они примут участие в публичной оценке своих генеративных ИИ-систем на хакерской конференции Для просмотра ссылки Войди
Большие языковые модели ( LLM ), такие как ChatGPT, стали крайне популярны в этом году, благодаря возможно существенно ускорить рутинные задачи, однако различные чиновники уверены, что LLM также несут в себе потенциальные риски, будь то Для просмотра ссылки Войди
«Это независимое упражнение предоставит важную информацию исследователям и общественности о воздействии этих моделей и позволит компаниям и разработчикам ИИ предпринять шаги для исправления проблем, найденных в данных языковых моделях», — говорится в Для просмотра ссылки Войди
Во Для просмотра ссылки Войди
«Red Teaming» — это процесс, в ходе которого эксперты по безопасности пытаются найти уязвимости или недостатки в системах организации для повышения общего уровня безопасности и устойчивости.
По словам Каттелла, основателя AI Village, разнообразные проблемы с этими моделями не будут решены до тех пор, пока больше людей не научатся тестировать и оценивать их. Проводя самое большое мероприятие по Red Teaming для всех популярных ИИ-моделей, AI Village и DEF CON стремятся расширить сообщество исследователей, способных справляться с уязвимостями в ИИ-системах.
Во время мероприятия DEF CON участники будут иметь ограниченный доступ к нескольким LLM через ноутбуки, предоставленные организаторами. Система очков в стиле «захват флага» будет стимулировать тестирование широкого спектра потенциальных рисков. А в конце человек с наибольшим количеством очков выиграет высокопроизводительную видеокарту от Nvidia.
«Мы опубликуем то, что сами узнаем из этого мероприятия, чтобы помочь другим энтузиастам. Чем больше людей знают, как лучше работать с LLM-моделями и их ограничениями, тем лучше», — подытожили в AI Village.
- Источник новости
- www.securitylab.ru
