Новости Nvidia анонсировала новые технологии на GTC 2024

CryptoWatcher

Not a Human
Хакер
10,415
12
13 Ноя 2022
Nvidia-min.webp

Компания Nvidia анонсировала новое поколение ИИ-чипов и программное обеспечение для работы с большими языковыми моделями. Презентация Для просмотра ссылки Войди или Зарегистрируйся на конференции GTC 2024.

GPU с целью повышения производительности. Многие из ранее выпущенных ИИ-моделей обучены на архитектуре Hopper. Она используется в чипах вроде H100, анонсированных в 2022 году.



«Hopper — это фантастика, но нам нужны более мощные GPU», — заявил генеральный директор компании.Новое поколение графических ИИ-процессоров получило название Blackwell. Первая модель GB200 будет выпущена в конце этого года.


image3-62.webp

Nvidia утверждает, что новые процессоры обеспечивают существенный прирост производительности для компаний, работающих с нейросетями — 20 петафлопс у новых чипов вместо 4 петафлопс у H100. По словам Хуанга, дополнительная вычислительная мощность позволит им обучать более крупные и сложные модели.

К примеру, для тренировки GPT-4 за 90 дней понадобилось 8000 старых чипов и 15 МВт мощности. Для обучения на новой видеокарте понадобится всего 2000 процессоров и 4 МВт.

Также стало известно, что GB200 будет иметь 192GB памяти с пропускной способностью 8 ТБ/с.



«Blackwell — не просто чип, это целая платформа», — отметил Хуанг.Графический процессор объединяет две отдельно изготовленные матрицы в один чип, произведенный компанией TSMC. Совокупно в них содержится 208 млрд транзисторов.


image2-90-1024x590.webp

Модель станет доступна в виде сервера под названием GB200 NVLink 2, состоящего из 72 графических процессоров Blackwell. Его общий объем оперативной памяти составит 30 ТБ.


image1-138.webp

Компания будут продавать доступ к GB200 через облачные сервисы. Nvidia сообщила, что Amazon Web Services построит серверный кластер, состоящий из 20 000 этих моделей.

Хуанг также объявил о добавлении нового продукта под названием Nvidia Inference Microservice (NIM) к подписке на корпоративное ПО. Он упрощает использование старых графических процессоров для вычислений.Напомним, в январе 2024 года Марк Цукерберг Для просмотра ссылки Войди или Зарегистрируйся закупить чипы Nvidia для Meta, поскольку «будущая дорожная карта» в области искусственного интеллекта требует «огромной вычислительной инфраструктуры».
 
Источник новости
forklog.com

Похожие темы