proliant.ru > Технические описания и статьи по серверам HPE Proliant и Integrity
.jpg)
Сервер HPE ProLiant DL145 Gen11 с искусственным интеллектом Axle
HPE ProLiant DL145 Gen11 представляет собой пограничный сервер для развертывания Axle AI в полевых условиях и в средах проведения мероприятий, где пространство, электропитание и охлаждение ограничены. Благодаря малому форм-фактору 2U и глубине всего 16 дюймов этот сервер специально создан для портативности и установки в ограниченном пространстве, например, в мобильных стойках и кейсах.
В отличие от традиционного корпоративного оборудования, DL145 Gen11 поддерживает расширенный диапазон рабочих температур от -5°C до 55°C, что делает его пригодным для менее контролируемых сред. Несмотря на свой компактный размер, он предлагает функции корпоративного класса, такие как резервное питание и варианты загрузочного диска, поэтому подходит для тех, кому нужна надежная инфраструктура с возможностями периферии без затрат на полноразмерное оборудование.
Что касается ЦП, DL145 поддерживает процессоры серии AMD EPYC 8004 (Siena) с количеством ядер от 8 до 64. Наша тестовая модель была оснащена процессором EPYC 8434P, имеющим 48 ядер и 96 потоков. Благодаря TDP 200 Вт он обеспечивает надежный баланс между эффективностью и вычислительной мощностью, что делает его идеальным для интенсивных рабочих нагрузок. Процессор поддерживает 96 линий PCIe 5.0 и предлагает 6 каналов памяти DDR5, обеспечивая скорость до 4800 МТ/с с превосходной пропускной способностью памяти. Хотя минимальные требования для Axle AI предусматривают наличие как минимум 16 ядер ЦП и 32 ГБ оперативной памяти, наша конфигурация с легкостью превосходит эти требования благодаря 48 ядрам и 256 ГБ памяти DDR5.
Производительность хранилища имеет решающее значение в любом медиаконвейере, и DL145 поддерживает до 6 накопителей EDSFF E3.S NVMe для удовлетворения этих требований. В нашей конфигурации мы использовали 6 твердотельных накопителей Solidigm D7-PS1010 E3.S, каждый емкостью 7,68 ТБ. Эти накопители PCIe 5.0 x4 обеспечивают скорость чтения до 14 500 МБ/с и скорость записи до 10 000 МБ/с, что в сумме дает почти 46 ТБ высокоскоростного хранилища. Эти твердотельные накопители, разработанные для рабочих процессов искусственного интеллекта и мультимедиа, обеспечивают впечатляющую энергоэффективность и могут обеспечить до 50% более высокую пропускную способность на определенных этапах конвейера по сравнению с обычными накопителями NVMe. Для групп, которым требуется дополнительная емкость, эта установка может масштабироваться до 15,36 ТБ на диск, обеспечивая в общей сложности 92 ТБ быстрого и плотного хранилища в компактном форм-факторе.
DL145 поддерживает до трех однослотовых графических процессоров, и в нашей конфигурации мы использовали один энергоэффективный ускоритель NVIDIA L4. Разработанный для обработки видео, вывода искусственного интеллекта, визуальных вычислений и рабочих нагрузок виртуализации, L4 обеспечивает высокую производительность, потребляя всего 72 Вт. Он оснащен 24 ГБ видеопамяти GDDR6 и подключается через интерфейс PCIe 4.0 x16 как для питания, так и для передачи данных. Axle AI рекомендует иметь минимум 16 ГБ видеопамяти, а L4 с комфортом превышает это значение, добавляя дополнительные 8 ГБ, обеспечивая запас для мультимедийных задач с высоким разрешением и операций, управляемых искусственным интеллектом.
На уровне приложений мы развернули Axle AI MAM и Axle AI Tags, используя виртуальную среду Proxmox (8.3.5). Система настроена с двумя выделенными виртуальными машинами: на одной работает Axle AI MAM, а на другой — Axle AI Tags. Эта структура обеспечивает четкое разделение между управлением мультимедиа и обработкой метаданных с помощью искусственного интеллекта, при этом обеспечивая бесперебойную связь между компонентами.
Работая вместе с MAM, Axle AI Tags предоставляет локальные возможности искусственного интеллекта, включая поиск семантических векторов, распознавание объектов и логотипов, а также обучаемое обнаружение лиц. Он развернут в контейнере Docker и использует графический процессор NVIDIA L4 через сквозной порт PCIe для эффективного вывода данных в реальном времени. Интерфейс обучения и администрирования на основе браузера обеспечивает гибкую настройку, а его модульная конструкция поддерживает аппаратные конфигурации Intel/NVIDIA или AMD/NVIDIA. Хотя Axle AI Tags полностью интегрирован с MAM в нашей настройке, он также обеспечивает совместимость REST API для использования с другими платформами.
Диски Solidigm PS1010 устанавливаются в виртуальную машину Axle AI MAM, обеспечивая высокоскоростной доступ к отснятому материалу с малой задержкой. За счет виртуализации всего стека и назначения выделенных вычислительных ресурсов каждому компоненту такая установка обеспечивает более продолжительное время безотказной работы, лучшее управление ресурсами и многопользовательскую поддержку, намного превосходящую возможности одной рабочей станции. Это делает его идеальным для совместной работы в крупносерийной производственной среде.
Вместе эти компоненты образуют тесно интегрированное аппаратное решение, которое обеспечивает быстрые локальные рабочие процессы мультимедиа на базе искусственного интеллекта. Это эффективная, готовая к работе платформа для удаленных команд, которым требуется надежная производительность в условиях ограниченного пространства и мощности, но где обработка ИИ остается необходимой.
Ключевые характеристики HPE ProLiant DL145 Gen11:
|
CPU
|
AMD EPYC 8434P
|
|
Память
|
256GB ECC DDR5
|
|
Хранилище
|
6 твердотельных накопителей Solidigm D7-PS1010 E3s емкостью 7,68 ТБ
|
|
Загрузочное хранилище
|
2 порта NS204 (480GB Samsung PM9A3 M.2)
|
|
GPU
|
NVIDIA L4
|
|
Операционная система
|
Ubuntu Server 22.04.5
|
HPE ProLiant DL145 Gen11 служит аппаратной основой для периферийного развертывания искусственного интеллекта Axle AI, обеспечивая впечатляющий баланс плотности вычислений, пропускной способности хранилища и ускорения графического процессора при компактных размерах. Эта система, оснащенная 48-ядерным процессором AMD EPYC 8434P из энергоэффективной серии 8004, оптимизирована для многопоточных рабочих нагрузок при сохранении низкого энергопотребления.
Конфигурация включает в себя 256 ГБ ОЗУ и один графический процессор NVIDIA L4 — высокоэффективный ускоритель, хорошо подходящий для обработки ИИ на периферии. Хранилище оснащено шестью твердотельными накопителями Solidigm D7-PS1010 E3.S емкостью 7,68 ТБ каждый, что обеспечивает достаточное высокопроизводительное флэш-хранилище для мультимедийных ресурсов и рабочих нагрузок с интенсивным использованием метаданных.
Благодаря поддержке до трех графических процессоров одинарной ширины и шести дисков E3.S сервер DL145 Gen11 хорошо подходит для масштабирования в требовательных сценариях использования видео и искусственного интеллекта. Эта установка подчеркивает важность тщательной сборки современных аппаратных компонентов, включая процессоры, графические процессоры и твердотельные накопители, чтобы обеспечить исключительную производительность для рабочих процессов искусственного интеллекта, ориентированных на периферию, например, на базе Axle AI.
Axle AI меняет способы создания видеоконтента, особенно для команд, работающих в режиме реального времени с ограниченными ресурсами. Сочетая интеллектуальное управление медиа-активами с мощными инструментами вывода, Axle AI обеспечивает уровень автоматизации и оперативности, с которым традиционные системы MAM не могут сравниться. В сочетании с периферийным сервером HPE ProLiant DL145 Gen11, графическим процессором NVIDIA L4 и твердотельными накопителями Solidigm Gen5 данная система обеспечивает компактную высокопроизводительную среду, оптимизированную для современных рабочих процессов с мультимедиа. Независимо от того, используется ли эта конфигурация в полевых условиях или как часть гибридного конвейера редактирования, она обеспечивает масштабируемый и эффективный способ приема, тегирования, поиска и доставки видеоконтента быстрее, чем когда-либо прежде, без ущерба для качества или контроля. Для команд, перед которыми стоит задача оставаться впереди в быстро меняющемся мире контента, сочетание периферийной инфраструктуры и рабочих процессов с использованием искусственного интеллекта дает значительное конкурентное преимущество.
Более подробную информацию о серверах HPE ProLiant можно получить в нашем интернет-магазине Proliant.ru
Дополнительные материалы:
.png){kind=small}