Для работы систем искусственного интеллекта на компьютере требуются как вычислительная мощность, так и достаточный объём памяти. На этот раз мы собрали для клиента рабочую станцию для искусственного интеллекта, в основе которой лежат две видеокарты PNY NVIDIA RTX PRO 5000 Blackwell с 72 ГБ памяти GDDR7 ECC каждая, дополненные процессором Intel Core Ultra 9, материнской платой ASUS, предназначенной для рабочих станций, и SSD Samsung объемом 4 ТБ.
В основе таких систем лежит возможность локальной работы с искусственным интеллектом. С помощью соответствующим образом настроенного программного обеспечения осуществляется обработка документов, запуск языковых моделей и разработка решений на основе ИИ без отправки данных во внешние сервисы ИИ. Это обеспечивает больший контроль над рабочей средой, используемыми моделями и оборотом данных. Например, локальный ИИ-помощник может помочь найти информацию в документах, подготовить черновики текстов или обобщить материалы. В свою очередь, разработчики могут использовать такую рабочую станцию для тестирования различных моделей и создания прототипов своих приложений. Это возможные сценарии использования, в которых конкретные функции определяются выбранным программным обеспечением, доступными данными и тем, как данное решение интегрируется в повседневную деятельность предприятия.
Объём видеопамяти в данной комплектации имеет особое значение. Память необходима как для параметров самой модели, так и для данных, используемых в ходе расчётов. Каждая карта RTX PRO 5000 располагает 72 ГБ памяти, что открывает более широкие возможности для работы с объёмными моделями и выполнения более сложных задач. Пригодность конкретной модели определяется её точностью, длиной контекста и используемым программным обеспечением.
Общий объём видеопамяти обеих карт составляет 144 ГБ. Чтобы использовать память обеих карт для работы одной модели, программное обеспечение должно поддерживать распределение нагрузки между несколькими графическими процессорами. Карты также можно использовать для выполнения отдельных задач, например, запустить модель на одной, а на другой — проводить эксперименты. Это позволяет адаптировать доступные ресурсы к конкретному рабочему процессу.
В процессе разработки такая гибкость особенно ценна, поскольку работа с ИИ часто сопряжена с многократными попытками. Возможность выполнять эти задачи на собственной рабочей станции помогает организовать работу в соответствии с графиком команды и хранить в одном месте используемые материалы, настройки и полученные результаты.
В качестве процессора используется Intel Core Ultra 9 285 с 24 ядрами — восемью высокопроизводительными и 16 энергоэффективными ядрами. Это обеспечивает ресурсы для обработки данных, работы программ и выполнения задач, осуществляемых параллельно с вычислениями на графическом процессоре. В системе мы использовали оперативную память Kingston DDR5 ECC. Технология ECC помогает обнаруживать и исправлять определенные ошибки памяти, что имеет важное значение при выполнении длительных вычислений.
Оперативная память и видеопамять выполняют разные задачи. Оперативная память системы используется операционной системой, программами и процессами обработки данных, тогда как в памяти графического процессора хранится информация, необходимая для вычислений видеокарты. Поэтому при проектировании рабочей станции искусственного интеллекта объём обоих типов памяти следует оценивать с учётом конкретного рабочего процесса и одновременных задач.
В качестве основы системы была выбрана материнская плата ASUS Pro WS W880-ACE SE. Она предназначена для конфигураций с двумя видеокартами и оснащена разъемами PCIe 5.0. Для обеспечения рабочей среды полезны встроенный контроллер BMC и возможности удаленного управления — компьютер можно контролировать и управлять им даже в том случае, если администратор находится вдали от него.
Для хранения моделей, наборов данных и проектов установлено SSD Samsung 9100 PRO 4 ТБ M.2 . При работе с искусственным интеллектом в хранилище должны содержаться как рабочие файлы, так и различные версии моделей и результаты экспериментов. Быстрый доступ к этим файлам важен для загрузки моделей и подготовки данных.
Для оптимальной конфигурации оборудования важную роль играет выбор программного обеспечения: чтобы эффективно использовать имеющиеся ресурсы, необходимы совместимые драйверы, инструменты искусственного интеллекта и соответствующие настройки. Нагрузка на две видеокарты также зависит от используемой программы. На практике соответствие системы лучше всего демонстрируют тесты с теми же моделями и данными, которые планируется использовать в повседневной работе.
Комплект дополнен устройством GIGABYTE AORUS RTX 5060 Ti AI BOX — внешним графическим решением на базе GeForce RTX 5060 Ti с 16 ГБ видеопамяти. Это графический процессор, размещённый в отдельном корпусе и оснащённый разъёмами Thunderbolt 5 и USB4. Такое устройство открывает дополнительные возможности для экспериментов в области искусственного интеллекта или выполнения других задач, ускоряемых с помощью графического процессора.
Компоненты размещены в чёрном корпусе Fractal Design Epoch XL Solid. Охлаждение процессора be quiet! Pure Rock Pro 3 , в свою очередь, воздушный поток дополняется be quiet! Pure Wings 3 140 мм и 120-мм вентиляторы с PWM-регулировкой. Для рабочей станции, нагрузка на которую может продолжаться часами, отвод тепла является важной составляющей комплектации.
Питание компьютера обеспечивается be quiet! Dark Power 14 1200 Вт блок питания с сертификатом 80 PLUS Titanium и поддержкой стандарта ATX 3.1. В комплект данного компьютера также входит источник бесперебойного питания PowerWalker VI 3000 CW FR с номинальной мощностью 3000 ВА / 2100 Вт. В случае перебоя в электроснабжении он может обеспечить время, необходимое для сохранения рабочих данных и корректного выключения системы; доступное время зависит от фактической нагрузки.
Данная конфигурация даёт представление о том, как формируется рабочая станция ИИ, предназначенная для конкретных задач: ресурсы графического процессора дополняются памятью, системами хранения данных, охлаждением и возможностями управления. Если для деятельности вашей компании также требуется собственная ИИ-станция, обратитесь в TopPC — мы поможем подобрать конфигурацию с учётом необходимых программ, моделей и объёма работы.