- 13,854
- 20
- 8 Ноя 2022
Грядёт век машинного разума?
На недавней конференции Intel Innovation генеральный директор Intel Пат Гелсингер анонсировал скорый выход "ИИ-ПК" - персональных компьютеров, оптимизированных для ускорения широкого спектра задач искусственного интеллекта без подключения к интернету.
Intel не одинока в своих устремлениях. Крупнейшие IT-компании, такие как Apple и Qualcomm, активно разрабатывают аппаратные и программные решения для локального исполнения нейросетей на пользовательских устройствах вместо удаленных серверов в облаке. Цель - персонализированный ИИ, настолько естественно интегрированный в нашу жизнь, что мы перестанем замечать в нем "искусственность".
Однако на пути воплощения этой мечты возникли препятствия. Сегодня наиболее мощные ИИ-модели требуют дорогостоящего специализированного железа и высокоскоростного интернет-соединения. Даже при доступе к удаленным вычислительным мощностям отклик таких систем, как ChatGPT, может замедляться из-за перегрузки серверов.
Для просмотра ссылки Войдиили Зарегистрируйся , вице-президент Intel, подчеркнула, что сегодня около 50% задач ИИ выполняются на устройствах пользователей, в основном благодаря обработке естественного языка и компьютерному зрению. Тем не менее, наиболее мощные модели ИИ в настоящее время зависят от дата-центров, что ограничивает их скорость и доступность.
Для просмотра ссылки Войдиили Зарегистрируйся , профессор компьютерных наук в Эдинбургском университете, рассказал о своём опыте работы с крупными языковыми моделями, отмечая их недостаточную скорость для реальных задач. Вместо этого его команда использовала более маленькую модель Для просмотра ссылки Войди или Зарегистрируйся от Meta.
Компании теперь активно разрабатывают инструменты для локального выполнения ИИ, такие как OpenVINO от Intel и Core ML от Apple. Это не только ускоряет работу ИИ, но и улучшает конфиденциальность данных, поскольку вся обработка происходит на устройстве пользователя.
Примером такого подхода является приложение Rewind для Mac и PC, которое позволяет выполнять сложные задачи ИИ, включая поиск удаленных писем и файлов, локально на устройстве пользователя.
Новые чипы Qualcomm Snapdragon позволят использовать мощные модели ИИ, такие как Llama 2 от Meta, непосредственно на смартфонах без необходимости подключения к Интернету.
Эти инновации не только улучшают производительность и конфиденциальность, но и открывают новые возможности для умных помощников и бытовых устройств, обеспечивая интеллектуальные возможности даже при ограниченных ресурсах.
Похоже, отрасль движется к новой парадигме - когда мощный ИИ "на краю сети" станет привычной частью наших устройств.
На недавней конференции Intel Innovation генеральный директор Intel Пат Гелсингер анонсировал скорый выход "ИИ-ПК" - персональных компьютеров, оптимизированных для ускорения широкого спектра задач искусственного интеллекта без подключения к интернету.
Intel не одинока в своих устремлениях. Крупнейшие IT-компании, такие как Apple и Qualcomm, активно разрабатывают аппаратные и программные решения для локального исполнения нейросетей на пользовательских устройствах вместо удаленных серверов в облаке. Цель - персонализированный ИИ, настолько естественно интегрированный в нашу жизнь, что мы перестанем замечать в нем "искусственность".
Однако на пути воплощения этой мечты возникли препятствия. Сегодня наиболее мощные ИИ-модели требуют дорогостоящего специализированного железа и высокоскоростного интернет-соединения. Даже при доступе к удаленным вычислительным мощностям отклик таких систем, как ChatGPT, может замедляться из-за перегрузки серверов.
Для просмотра ссылки Войди
Для просмотра ссылки Войди
Компании теперь активно разрабатывают инструменты для локального выполнения ИИ, такие как OpenVINO от Intel и Core ML от Apple. Это не только ускоряет работу ИИ, но и улучшает конфиденциальность данных, поскольку вся обработка происходит на устройстве пользователя.
Примером такого подхода является приложение Rewind для Mac и PC, которое позволяет выполнять сложные задачи ИИ, включая поиск удаленных писем и файлов, локально на устройстве пользователя.
Новые чипы Qualcomm Snapdragon позволят использовать мощные модели ИИ, такие как Llama 2 от Meta, непосредственно на смартфонах без необходимости подключения к Интернету.
Эти инновации не только улучшают производительность и конфиденциальность, но и открывают новые возможности для умных помощников и бытовых устройств, обеспечивая интеллектуальные возможности даже при ограниченных ресурсах.
Похоже, отрасль движется к новой парадигме - когда мощный ИИ "на краю сети" станет привычной частью наших устройств.
- Источник новости
- www.securitylab.ru
