- 13,579
- 20
- 8 Ноя 2022
Ускоритель призван улучшить масштабируемость и персонализацию рекламы.
Компания Meta* Для просмотра ссылки Войдиили Зарегистрируйся о запуске второго поколения своего ускорителя Meta Training Inference Accelerator (MTIA v2), который уже используется для улучшения рекомендательных систем в 16 странах. Новый чип в 3 раза производительнее и на 50% энергоэффективнее своего предшественника.
MTIA v2 разработан с учетом оптимального баланса вычислительной мощности, объема памяти и пропускной способности, что позволяет достигнуть максимальной эффективности работы моделей ранжирования и рекомендаций. Ускоритель оснащен сеткой из 64 процессорных элементов и способен обеспечить в 3.5 раза большую плотность вычислений по сравнению с MTIA v1, а при включенной разреженности производительность увеличивается в 7 раз.
Новинка создана с использованием 5-нм технологического процесса TSMC и имеет увеличенную частоту работы — с 800 МГц до 1,35 ГГц. Кроме того, в MTIA v2 предусмотрены улучшения в архитектуре, включая поддержку разреженных вычислений, увеличенный объем памяти и усовершенствованную сеть на кристалле (Network-on-Chip, NoC) с удвоенной пропускной способностью.
Важно отметить, что несмотря на значительное повышение мощности, новый чип не заменит полностью графические процессоры. По словам Марка Цукерберга, Meta планирует использовать 350 000 чипов Nvidia H100, а к концу года их количество достигнет 600 000.
Сравнение с конкурентами показывает, что MTIA v2 обеспечивает 7,8 тераопераций в секунду (Tera Operations Per Second, TOPS) на ватт (ТОПС/Вт), что превосходит показатели Nvidia H100 SXM (5,65 ТОПС/Вт) и значительно выше A100 SXM (3,12 ТОПС/Вт).
Meta активно использует программную платформу PyTorch и компилятор Triton для развертывания своих рабочих нагрузок на новом ускорителе, что позволяет избежать необходимости разработки специализированного ПО для конкретного оборудования. Meta также заявила о планах по дальнейшей разработке собственных микросхем, в том числе для поддержки систем генеративного ИИ в будущем.
<span style="font-size: 8pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
Компания Meta* Для просмотра ссылки Войди
MTIA v2 разработан с учетом оптимального баланса вычислительной мощности, объема памяти и пропускной способности, что позволяет достигнуть максимальной эффективности работы моделей ранжирования и рекомендаций. Ускоритель оснащен сеткой из 64 процессорных элементов и способен обеспечить в 3.5 раза большую плотность вычислений по сравнению с MTIA v1, а при включенной разреженности производительность увеличивается в 7 раз.
Новинка создана с использованием 5-нм технологического процесса TSMC и имеет увеличенную частоту работы — с 800 МГц до 1,35 ГГц. Кроме того, в MTIA v2 предусмотрены улучшения в архитектуре, включая поддержку разреженных вычислений, увеличенный объем памяти и усовершенствованную сеть на кристалле (Network-on-Chip, NoC) с удвоенной пропускной способностью.
Важно отметить, что несмотря на значительное повышение мощности, новый чип не заменит полностью графические процессоры. По словам Марка Цукерберга, Meta планирует использовать 350 000 чипов Nvidia H100, а к концу года их количество достигнет 600 000.
Сравнение с конкурентами показывает, что MTIA v2 обеспечивает 7,8 тераопераций в секунду (Tera Operations Per Second, TOPS) на ватт (ТОПС/Вт), что превосходит показатели Nvidia H100 SXM (5,65 ТОПС/Вт) и значительно выше A100 SXM (3,12 ТОПС/Вт).
Meta активно использует программную платформу PyTorch и компилятор Triton для развертывания своих рабочих нагрузок на новом ускорителе, что позволяет избежать необходимости разработки специализированного ПО для конкретного оборудования. Meta также заявила о планах по дальнейшей разработке собственных микросхем, в том числе для поддержки систем генеративного ИИ в будущем.
<span style="font-size: 8pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
- Источник новости
- www.securitylab.ru
