- 13,858
- 20
- 8 Ноя 2022
Процессоры Intel Loihi 2 потребляют в 100 раз меньше и считают в 50 раз быстрее.
Intel раскрыла подробности своего новейшего достижения в области ИИ- вычислений. Компания представила свой самый масштабный нейроморфный компьютер на сегодняшний день — систему под названием Hala Point, состоящую из 1,15 миллиарда нейронов.
Как утверждают разработчики, их чип по объему примерно соответствует мозгу совы. Вместо использования биологических нейронов и синапсов, как в естественных нервных системах, Hala Point полностью эмулирует их в кремниевой аппаратной архитектуре.
Разработчики подчеркивают, что человеческий мозг поразительно энергоэффективен в обработке огромных потоков информации, поступающих от наших органов чувств. И именно такую высокую эффективность стремятся воспроизвести Intel и IBM в своих системах в последние годы.
В этом отношении Hala Point действительно демонстрирует неплохие показатели. Несмотря на компактный 6U-корпус, потребляющий всего 2600 Вт, система способна достигать производительности до 15 TOPS/Вт при 8-битной точности вычислений. Для сравнения, новейшая графическая система Nvidia GB200 NVL72 может выдавать лишь 6 TOPS/Вт при INT8.
Таких показателей удалось добиться благодаря использованию 1152 процессоров Для просмотра ссылки Войдиили Зарегистрируйся , объединенных в трехмерную решетку. В совокупности они обеспечивают Hala Point 1,15 миллиардами нейронов, 128 миллиардами синапсов, 140 544 вычислительными ядрами и 2,300 встроенными упрощенными x86-ядрами.
Вспомогательные x86-ядра, по словам руководителя направления нейроморфных вычислений в Intel, Майка Дэвиса, значительно проще и менее производительные, нежели современные процессоры Intel. Они лишь выполняют дополнительные операции, необходимые для функционирования всей комплексной архитектуры.
Следует отметить, что сам нейроморфный чип Loihi 2, лежащий в основе Hala Point, не является новинкой — он был представлен еще в 2021 году как один из первых продуктов, выпущенных по 7-нм техпроцессу. Однако, как заверяют в Intel, его возможности продолжают впечатлять.
По данным компании, отдельные Loihi 2-чипы способны решать задачи ускорения ИИ-вычислений и оптимизации в 50 раз быстрее, чем традиционные CPU и GPU, при этом потребляя в 100 раз меньше энергии. Впрочем, такие показатели были получены при сравнении с относительно слабыми мобильными чипами вроде Nvidia Jetson Orin Nano и процессора Core i9-7920X.
Тем не менее, в Intel уверены в перспективности разработки. Прототип Hala Point уже отправлен в Национальные лаборатории Сандии в США, чтобы исследователи могли всесторонне изучить возможности и ограничения ускорителей. Это, по словам Дэвиса, крайне важно для дальнейшего совершенствования как аппаратного, так и программного обеспечения.
Однако Дэвис признает, что разработка пока не может полностью заменить графические процессоры во всех приложениях. Например, популярные языковые модели, такие как ChatGPT, не смогут эффективно функционировать на Hala Point. «Мы просто не знаем, как это реализовать», — признал он в интервью.
Вместе с тем Intel уже продемонстрировала, что Loihi 2 хорошо проявляет себя в задачах обработки аудио и видео, обеспечивая трехкратный выигрыш по производительности, энергоэффективности и низкой задержке, хотя и с некоторым снижением точности. Еще одно многообещающее направление применения нейроморфных чипов — это комбинаторная оптимизация, например, для планирования маршрутов беспилотных автомобилей.
Intel раскрыла подробности своего новейшего достижения в области ИИ- вычислений. Компания представила свой самый масштабный нейроморфный компьютер на сегодняшний день — систему под названием Hala Point, состоящую из 1,15 миллиарда нейронов.
Как утверждают разработчики, их чип по объему примерно соответствует мозгу совы. Вместо использования биологических нейронов и синапсов, как в естественных нервных системах, Hala Point полностью эмулирует их в кремниевой аппаратной архитектуре.
Разработчики подчеркивают, что человеческий мозг поразительно энергоэффективен в обработке огромных потоков информации, поступающих от наших органов чувств. И именно такую высокую эффективность стремятся воспроизвести Intel и IBM в своих системах в последние годы.
В этом отношении Hala Point действительно демонстрирует неплохие показатели. Несмотря на компактный 6U-корпус, потребляющий всего 2600 Вт, система способна достигать производительности до 15 TOPS/Вт при 8-битной точности вычислений. Для сравнения, новейшая графическая система Nvidia GB200 NVL72 может выдавать лишь 6 TOPS/Вт при INT8.
Таких показателей удалось добиться благодаря использованию 1152 процессоров Для просмотра ссылки Войди
Вспомогательные x86-ядра, по словам руководителя направления нейроморфных вычислений в Intel, Майка Дэвиса, значительно проще и менее производительные, нежели современные процессоры Intel. Они лишь выполняют дополнительные операции, необходимые для функционирования всей комплексной архитектуры.
Следует отметить, что сам нейроморфный чип Loihi 2, лежащий в основе Hala Point, не является новинкой — он был представлен еще в 2021 году как один из первых продуктов, выпущенных по 7-нм техпроцессу. Однако, как заверяют в Intel, его возможности продолжают впечатлять.
По данным компании, отдельные Loihi 2-чипы способны решать задачи ускорения ИИ-вычислений и оптимизации в 50 раз быстрее, чем традиционные CPU и GPU, при этом потребляя в 100 раз меньше энергии. Впрочем, такие показатели были получены при сравнении с относительно слабыми мобильными чипами вроде Nvidia Jetson Orin Nano и процессора Core i9-7920X.
Тем не менее, в Intel уверены в перспективности разработки. Прототип Hala Point уже отправлен в Национальные лаборатории Сандии в США, чтобы исследователи могли всесторонне изучить возможности и ограничения ускорителей. Это, по словам Дэвиса, крайне важно для дальнейшего совершенствования как аппаратного, так и программного обеспечения.
Однако Дэвис признает, что разработка пока не может полностью заменить графические процессоры во всех приложениях. Например, популярные языковые модели, такие как ChatGPT, не смогут эффективно функционировать на Hala Point. «Мы просто не знаем, как это реализовать», — признал он в интервью.
Вместе с тем Intel уже продемонстрировала, что Loihi 2 хорошо проявляет себя в задачах обработки аудио и видео, обеспечивая трехкратный выигрыш по производительности, энергоэффективности и низкой задержке, хотя и с некоторым снижением точности. Еще одно многообещающее направление применения нейроморфных чипов — это комбинаторная оптимизация, например, для планирования маршрутов беспилотных автомобилей.
- Источник новости
- www.securitylab.ru
