Технология позволит компаниям внедрить разговорный ИИ в свои рабочие процессы.
На своём ежегодном мероприятии Discover, проходящем в этом году в Барселоне, компания Hewlett Packard Enterprise (HPE) Для просмотра ссылки Войдиили Зарегистрируйся свою вторую платформу для генеративного искусственного интеллекта, разработанную в партнёрстве с NVIDIA .
Новая платформа носит название «enterprise computing solution for generative AI» (корпоративное вычислительное решение для генеративного ИИ) и представляет собой интегрированное решение, сочетающее в себе аппаратное и программное обеспечение HPE и технологии NVIDIA , включая GPU, сетевое оборудование и программное обеспечение для ИИ.
Отличительной чертой платформы является её ориентация на корпоративных клиентов, которые могут использовать её для настройки уже существующих моделей ИИ под свои потребности и последующего использования этих моделей для анализа данных. Основой платформы служит так называемая архитектура «rack-scale», которая объединяет множество компонентов в единую стойку в центре обработки данных. В качестве вычислительного основания выступают 16 серверов ProLiant DL380a Gen11 на базе процессоров Intel Xeon Scalable, оснащённых до четырёх GPU Nvidia L40.
Сетевые возможности платформы предоставляются благодаря коммутаторам Spectrum-X и сетевым адаптерам Nvidia на базе чипа BlueField-3 DPU. Платформа настроена таким образом, чтобы она могла тонко настраивать модель Llama-2 от Meta* с 70 миллиардами параметров. Программное обеспечение для инфраструктуры включает в себя HPE Machine Learning Development Environment, а также AI Enterprise suite и NeMo framework от Nvidia, предназначенные для создания разговорного ИИ.
В HPE подчеркивают, что ИИ требует новой архитектуры вычислений, и будущее будет требовать комплексного подхода, начиная с аппаратного обеспечения и заканчивая программным уровнем, для успешного внедрения приложений ИИ в организациях. Хотя стоимость новой платформы HPE и NVIDIA ещё не уточнена, ожидается, что она станет доступна для заказа в первом квартале 2024 года.
HPE также сообщила, что её среда машинного обучения теперь доступна как управляемая услуга в публичных облаках, что является частью стратегии компании по упрощению процесса обучения моделей ИИ. Кроме того, HPE улучшила своё предложение Для просмотра ссылки Войдиили Зарегистрируйся для файлового хранения, адаптируя его под потребности задач ИИ. В планы входит расширение возможностей хранения данных до 250 петабайт и добавление поддержки сетевых технологий Nvidia Quantum-2.
<span style="font-size: 8pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
На своём ежегодном мероприятии Discover, проходящем в этом году в Барселоне, компания Hewlett Packard Enterprise (HPE) Для просмотра ссылки Войди
Новая платформа носит название «enterprise computing solution for generative AI» (корпоративное вычислительное решение для генеративного ИИ) и представляет собой интегрированное решение, сочетающее в себе аппаратное и программное обеспечение HPE и технологии NVIDIA , включая GPU, сетевое оборудование и программное обеспечение для ИИ.
Отличительной чертой платформы является её ориентация на корпоративных клиентов, которые могут использовать её для настройки уже существующих моделей ИИ под свои потребности и последующего использования этих моделей для анализа данных. Основой платформы служит так называемая архитектура «rack-scale», которая объединяет множество компонентов в единую стойку в центре обработки данных. В качестве вычислительного основания выступают 16 серверов ProLiant DL380a Gen11 на базе процессоров Intel Xeon Scalable, оснащённых до четырёх GPU Nvidia L40.
Сетевые возможности платформы предоставляются благодаря коммутаторам Spectrum-X и сетевым адаптерам Nvidia на базе чипа BlueField-3 DPU. Платформа настроена таким образом, чтобы она могла тонко настраивать модель Llama-2 от Meta* с 70 миллиардами параметров. Программное обеспечение для инфраструктуры включает в себя HPE Machine Learning Development Environment, а также AI Enterprise suite и NeMo framework от Nvidia, предназначенные для создания разговорного ИИ.
В HPE подчеркивают, что ИИ требует новой архитектуры вычислений, и будущее будет требовать комплексного подхода, начиная с аппаратного обеспечения и заканчивая программным уровнем, для успешного внедрения приложений ИИ в организациях. Хотя стоимость новой платформы HPE и NVIDIA ещё не уточнена, ожидается, что она станет доступна для заказа в первом квартале 2024 года.
HPE также сообщила, что её среда машинного обучения теперь доступна как управляемая услуга в публичных облаках, что является частью стратегии компании по упрощению процесса обучения моделей ИИ. Кроме того, HPE улучшила своё предложение Для просмотра ссылки Войди
<span style="font-size: 8pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
- Источник новости
- www.securitylab.ru