Новости ИИ на службе Пентагона: готовность №1 к внедрению спорной технологии

NewsMaker

I'm just a script
Премиум
13,858
20
8 Ноя 2022
Насколько безопасны нейросети в погонах? Scale AI обещает дать ответ.


dprduiue94n7rzticream6d07lul5frj.jpg


В недрах Пентагона идут испытания перспективных, но неоднозначных технологий искусственного интеллекта. Цель — адаптировать возможности нейронных сетей для нужд армии США.

Согласно данным компании DefenseScoop, министерство обороны заключило контракт со специализирующимся на ИИ стартапом Scale AI. Его задача — создать инструменты для тестирования и оценки работы мощных языковых моделей, способных к анализу и генерации текста.

Речь идет о комплексной платформе, которая позволит Пентагону глубоко и всесторонне изучить возможности нейросетей. Она будет выдавать обратную связь для военных, а также генерировать специальные тестовые данные для проверки ИИ на конкретных задачах. К примеру, для анализа разведданных, планирования операций, обработки отчетов с горячих точек.

Как Для просмотра ссылки Войди или Зарегистрируйся , специалист по делам ИИ в Пентагоне, нейронные сети могут радикально ускорить обработку поступающей развединформации и принятие стратегических решений:

«Представьте, что вместо получения новых сведений в виде громоздких презентаций PowerPoint или долгого ожидания отчетов по электронной почте из разных подразделений, командующие смогут сразу видеть актуальную обстановку для принятия решений, сократив время реакции с одного-двух дней до 10 минут»

Однако главное препятствие — склонность ИИ к генерации ложных материалов, так называемым «галлюцинациям». Пентагон надеется, что инструменты от Scale AI помогут выявлять и предотвращать подобные угрозы заранее.

В прошлом году для изучения военного использования генеративного ИИ была создана группа Task Force Lima под руководством Мартелла. Но пока в ряде подразделений, включая Космические силы, запрещено применение систем типа ChatGPT из-за риска утечек секретной информации.

«Мы обязаны внедрять эти технологии ответственно, учитывая угрозы безопасности и потенциальное злоупотребления», — резюмировал Мартелл.

Так Пентагон ищет баланс между колоссальным потенциалом нейронных сетей для армии и таящимися в них опасностями. И от того, насколько успешными окажутся текущие испытания, зависит, насколько быстро генеративный ИИ сможет пройти путь от лабораторий к реальным боевым операциям.
 
Источник новости
www.securitylab.ru

Похожие темы