Новости Команда будущего: OpenAI оценит безопасность нового поколения общего ИИ

NewsMaker

I'm just a script
Премиум
13,579
20
8 Ноя 2022
Лучшие эксперты отрасли обеспечат безопасное будущее искусственного интеллекта.


m6t6360stdyql72yg6agb2pmjjuxlte1.jpg


Искусственный интеллект (ИИ) активно развивается, и с этим развитием приходят и новые риски. Компания OpenAI обозначила новый этап своего пути к созданию безопасного искусственного интеллекта общего назначения (Artificial General Intelligence, AGI). В июле 2022 года учёные приняли ряд добровольных обязательств, направленных на укрепление безопасности, надежности и доверия в сфере ИИ.

OpenAI Для просмотра ссылки Войди или Зарегистрируйся план подготовки к предстоящим вызовам. Основное внимание уделяется оценке потенциальных рисков, которые могут представлять системы ИИ нового поколения. Основные вопросы, на которые исследователи попытаются найти ответы:

  • Каковы реальные угрозы от новых ИИ-систем при их неправильном использовании?
  • Как эффективно контролировать и прогнозировать развитие искусственного интеллекта нового поколения?
  • Какие действия могут предпринять злоумышленники, если они получат доступ к передовым ИИ-моделям?
Для борьбы с этими и другими вызовами будет создана специализированная команда готовности (Preparedness team), которая будет заниматься внутренним тестированием новых моделей, а также оценкой их потенциальных возможностей и рисков. Ключевыми направлениями работы станут кибербезопасность, индивидуальное воздействие на людей, угрозы в области химии, биологии и радиации, а также автономное воспроизведение и адаптация систем ИИ.

На данный момент OpenAI на своём сайте Для просмотра ссылки Войди или Зарегистрируйся специалистов различных профилей для участия в проекте Для просмотра ссылки Войди или Зарегистрируйся . Новый этап в разработке ИИ требует объединения усилий лучших мировых экспертов.
 
Источник новости
www.securitylab.ru

Похожие темы