- 13,579
- 20
- 8 Ноя 2022
Насколько безопасны нейросети в погонах? Scale AI обещает дать ответ.
В недрах Пентагона идут испытания перспективных, но неоднозначных технологий искусственного интеллекта. Цель — адаптировать возможности нейронных сетей для нужд армии США.
Согласно данным компании DefenseScoop, министерство обороны заключило контракт со специализирующимся на ИИ стартапом Scale AI. Его задача — создать инструменты для тестирования и оценки работы мощных языковых моделей, способных к анализу и генерации текста.
Речь идет о комплексной платформе, которая позволит Пентагону глубоко и всесторонне изучить возможности нейросетей. Она будет выдавать обратную связь для военных, а также генерировать специальные тестовые данные для проверки ИИ на конкретных задачах. К примеру, для анализа разведданных, планирования операций, обработки отчетов с горячих точек.
Как Для просмотра ссылки Войдиили Зарегистрируйся , специалист по делам ИИ в Пентагоне, нейронные сети могут радикально ускорить обработку поступающей развединформации и принятие стратегических решений:
«Представьте, что вместо получения новых сведений в виде громоздких презентаций PowerPoint или долгого ожидания отчетов по электронной почте из разных подразделений, командующие смогут сразу видеть актуальную обстановку для принятия решений, сократив время реакции с одного-двух дней до 10 минут»
Однако главное препятствие — склонность ИИ к генерации ложных материалов, так называемым «галлюцинациям». Пентагон надеется, что инструменты от Scale AI помогут выявлять и предотвращать подобные угрозы заранее.
В прошлом году для изучения военного использования генеративного ИИ была создана группа Task Force Lima под руководством Мартелла. Но пока в ряде подразделений, включая Космические силы, запрещено применение систем типа ChatGPT из-за риска утечек секретной информации.
«Мы обязаны внедрять эти технологии ответственно, учитывая угрозы безопасности и потенциальное злоупотребления», — резюмировал Мартелл.
Так Пентагон ищет баланс между колоссальным потенциалом нейронных сетей для армии и таящимися в них опасностями. И от того, насколько успешными окажутся текущие испытания, зависит, насколько быстро генеративный ИИ сможет пройти путь от лабораторий к реальным боевым операциям.
В недрах Пентагона идут испытания перспективных, но неоднозначных технологий искусственного интеллекта. Цель — адаптировать возможности нейронных сетей для нужд армии США.
Согласно данным компании DefenseScoop, министерство обороны заключило контракт со специализирующимся на ИИ стартапом Scale AI. Его задача — создать инструменты для тестирования и оценки работы мощных языковых моделей, способных к анализу и генерации текста.
Речь идет о комплексной платформе, которая позволит Пентагону глубоко и всесторонне изучить возможности нейросетей. Она будет выдавать обратную связь для военных, а также генерировать специальные тестовые данные для проверки ИИ на конкретных задачах. К примеру, для анализа разведданных, планирования операций, обработки отчетов с горячих точек.
Как Для просмотра ссылки Войди
«Представьте, что вместо получения новых сведений в виде громоздких презентаций PowerPoint или долгого ожидания отчетов по электронной почте из разных подразделений, командующие смогут сразу видеть актуальную обстановку для принятия решений, сократив время реакции с одного-двух дней до 10 минут»
Однако главное препятствие — склонность ИИ к генерации ложных материалов, так называемым «галлюцинациям». Пентагон надеется, что инструменты от Scale AI помогут выявлять и предотвращать подобные угрозы заранее.
В прошлом году для изучения военного использования генеративного ИИ была создана группа Task Force Lima под руководством Мартелла. Но пока в ряде подразделений, включая Космические силы, запрещено применение систем типа ChatGPT из-за риска утечек секретной информации.
«Мы обязаны внедрять эти технологии ответственно, учитывая угрозы безопасности и потенциальное злоупотребления», — резюмировал Мартелл.
Так Пентагон ищет баланс между колоссальным потенциалом нейронных сетей для армии и таящимися в них опасностями. И от того, насколько успешными окажутся текущие испытания, зависит, насколько быстро генеративный ИИ сможет пройти путь от лабораторий к реальным боевым операциям.
- Источник новости
- www.securitylab.ru
