- 13,855
- 20
- 8 Ноя 2022
«Убийцу GPT-4» спешно стёрли из сети, однако Интернет всё помнит…
На прошлой неделе исследователи Microsoft представили WizardLM 2 — одну из самых мощных открытых моделей больших языковых моделей ( LLM ). Однако вскоре после появления публикации компания Для просмотра ссылки Войдиили Зарегистрируйся её из Интернета. По данным самих разработчиков, это произошло из-за пропуска ими необходимого этапа тестирования на токсичность перед выпуском модели в открытый доступ.
В Для просмотра ссылки Войдиили Зарегистрируйся разработчиков WizardLM 2 говорилось, что модель представляет собой «следующее поколение передовых больших языковых моделей, улучшенных для сложных чатов, многоязычных систем, рассуждений и агентских задач». В отличие от других моделей, обучение которых производилось на общедоступных данных из Интернета или научных журналах, разработчики WizardLM 2 обучали своё детище на синтетических данных, созданных другими ИИ-моделями.
В теории, такой подход должен был сделать новую LLM от Microsoft безопаснее, однако, так как проверить это должным образом, по всем директивам компании, разработчики не успели, — модель была «изъята» из публичного доступа.
Несмотря на быстрое удаление, некоторые пользователи успели скачать LLM и разместили её на платформах Github и Hugging Face . Таким образом, модель, которая по мнению Microsoft не была готова к широкому распространению, теперь всё равно находится в свободном доступе. Как говорится, что однажды попало в Интернет, остаётся там навсегда. Microsoft, по классике, отказалась комментировать произошедшее.
Сами разработчики 16 апреля опубликовали следующее сообщение: «Нам очень жаль. Прошло много времени с момента последнего выпуска модели, поэтому мы не были знакомы с новым процессом выпуска: мы случайно пропустили этап тестирования на токсичность. Уже скоро мы завершим этот тест и выпустим модель заново. Не волнуйтесь, спасибо за вашу заботу и понимание».
Страницы WizardLM 2 на Github и Hugging Face по-прежнему недоступны, но модель легко найти в нескольких ветках-копиях на тех же платформах.
С помощью метода MT-Bench, который автоматически оценивает производительность больших языковых моделей, исследователи Microsoft обнаружили, что WizardLM 2 демонстрирует высококонкурентоспособные результаты по сравнению с самыми современными закрытыми разработками, такими как GPT-4-Turbo и Claude-3. Теоретически, новая модель и правда может стать «убийцей» нашумевших моделей от OpenAI и Anthropic.
Пока достоверно неизвестно, действительно ли новая модель от Microsoft способна генерировать вредоносные и даже «токсичные» ответы, или же компания удалила её только из-за непроверенности данных аспектов. Однако факт остаётся фактом: у компании не получилось проконтролировать распространение новой ИИ-модели, которую она посчитала неготовой к публичному использованию.
На прошлой неделе исследователи Microsoft представили WizardLM 2 — одну из самых мощных открытых моделей больших языковых моделей ( LLM ). Однако вскоре после появления публикации компания Для просмотра ссылки Войди
В Для просмотра ссылки Войди
В теории, такой подход должен был сделать новую LLM от Microsoft безопаснее, однако, так как проверить это должным образом, по всем директивам компании, разработчики не успели, — модель была «изъята» из публичного доступа.
Несмотря на быстрое удаление, некоторые пользователи успели скачать LLM и разместили её на платформах Github и Hugging Face . Таким образом, модель, которая по мнению Microsoft не была готова к широкому распространению, теперь всё равно находится в свободном доступе. Как говорится, что однажды попало в Интернет, остаётся там навсегда. Microsoft, по классике, отказалась комментировать произошедшее.
Сами разработчики 16 апреля опубликовали следующее сообщение: «Нам очень жаль. Прошло много времени с момента последнего выпуска модели, поэтому мы не были знакомы с новым процессом выпуска: мы случайно пропустили этап тестирования на токсичность. Уже скоро мы завершим этот тест и выпустим модель заново. Не волнуйтесь, спасибо за вашу заботу и понимание».
Страницы WizardLM 2 на Github и Hugging Face по-прежнему недоступны, но модель легко найти в нескольких ветках-копиях на тех же платформах.
С помощью метода MT-Bench, который автоматически оценивает производительность больших языковых моделей, исследователи Microsoft обнаружили, что WizardLM 2 демонстрирует высококонкурентоспособные результаты по сравнению с самыми современными закрытыми разработками, такими как GPT-4-Turbo и Claude-3. Теоретически, новая модель и правда может стать «убийцей» нашумевших моделей от OpenAI и Anthropic.
Пока достоверно неизвестно, действительно ли новая модель от Microsoft способна генерировать вредоносные и даже «токсичные» ответы, или же компания удалила её только из-за непроверенности данных аспектов. Однако факт остаётся фактом: у компании не получилось проконтролировать распространение новой ИИ-модели, которую она посчитала неготовой к публичному использованию.
- Источник новости
- www.securitylab.ru
