Машинное обучение, пожалуй, самая популярная технология на сегодняшний день, и, в отличие от прошлых лет, вам больше не нужен суперкомпьютер Массачусетского технологического института для обучения моделей ИИ. На самом деле, начинающие новаторы в области ИИ могут обучить многие из самые интересные модели ML на сегодняшний день на потребительском ПК.
Это не значит, что вы можете сделать это на любом старом компьютере. Вам понадобится мощная установка с обновленным оборудованием, чтобы получить максимальную отдачу от ваших экспериментов по машинному обучению. Мы рекомендуем с помощью сборщика ПК и собрать свою установку для глубокого обучения самостоятельно, чтобы получить максимальную отдачу от затраченных средств.
Нет, правда — это не так сложно, как вы можете себе представить, и вы можете сэкономить приличную сумму денег! Ознакомьтесь с нашим руководством ниже, чтобы познакомиться с основами глубокого обучения ПК.
Оценка ваших потребностей
Прежде чем приступить к поиску запчастей, необходимо учесть несколько важных факторов:
- Рабочая нагрузка. Насколько велики и сложны модели и наборы данных, с которыми вы хотите работать? Машины, которые обрабатывают большие наборы данных с большей сложностью, обычно требуют более мощного оборудования, чтобы не отставать.
- Бюджет: хотя машина для глубокого обучения никогда не будет тем, что вы бы назвали «бюджетным» ПК (по крайней мере, на данный момент), вы должны иметь общее представление о том, сколько вы пытаетесь потратить. Типичные бюджеты для ПК с глубоким обучением варьируется от 1,500 до 3,000 долларов США. (но может легко пойти намного выше).
- Масштабируемость: вам нужна возможность легко масштабировать свои модели до больших наборов данных в будущем? Возможно, вам захочется добавить в свой компьютер для глубокого обучения некоторый запас по компонентам, которые немного превышают ваши текущие потребности.
Графический процессор
Графический процессор — это основная рабочая лошадка каждой установки для глубокого обучения, обрабатывающая миллионы вычислений в секунду, необходимых для машинного обучения. Высокопроизводительные графические процессоры, такие как серия NVIDIA RTX 4000 или серия AMD Radeon RX 7000, являются стандартным выбором, и вы увидите множество установок машинного обучения с больше одного из этих карт.
Планируйте потратить здесь наибольшую часть своего бюджета и времени на выбор. Некоторые (но не все) наиболее важные факторы при выборе графического процессора включают в себя:
- Архитектура графического процессора. Новейшие архитектуры графических процессоров, такие как NVIDIA Hopper и AMD RDNA3, включают функции, специфичные для ИИ. Ищите карты текущего поколения с этими архитектурами, чтобы максимально увеличить вычислительную мощность.
- Размер видеопамяти: вам нужен графический процессор с максимальной памятью видеопамяти, которую вы можете получить за свой бюджет. VRAM — это встроенная память, которая имеет решающее значение для ускорения обработки машинного обучения, особенно при работе со сложными моделями и большими наборами данных.
- Ядра CUDA (NVIDIA)/потоковые процессоры (AMD): эти крошечные узкоспециализированные ядра являются важным фактором скорости машинного обучения. Вообще говоря, чем больше карт имеет, тем лучше.
- Обработка матриц. Умножение матриц является важным элементом большинства моделей машинного обучения, поэтому ищите функции, предназначенные для работы с матрицами смешанной точности. К ним относятся архитектура Tensor Core от NVIDIA и открытый стек ROCm от AMD.
- Поддержка программного обеспечения: некоторые модели и программные инструменты созданы для совместимости с картами определенных производителей, поэтому убедитесь, что любые инструменты, которые вы хотите использовать, совместимы с вашим графическим процессором.
Процессор
Хотя ЦП играет второстепенную роль после ГП в ресурсоемких задачах глубокого обучения, он по-прежнему является критическим компонентом, управляющим всем процессом подготовки и обучения модели. Вот некоторые основы, которые следует искать в ЦП для глубокого обучения:
- Количество ядер и потоков: ищите ЦП с таким количеством ядер и потоков обработки, которое может вместить ваш бюджет. Глубокое обучение требует высокоэффективной параллельной обработки, и именно здесь особенно важны дополнительные ядра и одновременные потоки.
- Ускорение ИИ. Как и в графических процессорах, современные архитектуры ЦП часто имеют встроенные возможности для ускорения рабочих нагрузок ИИ.
- Дорожки PCIe: если вы будете использовать более одного графического процессора, убедитесь, что ваш процессор предлагает достаточно Дорожки PCI Express для поддержки графических процессоров, которые вы хотите подключить к нему.
- Поддержка памяти: проверьте, поддерживает ли ЦП новейшую память DDR5, а также максимальный объем ОЗУ, который он может поддерживать.
Баран
Последним важным компонентом вашей сборки для глубокого обучения является оперативная память, и вам понадобится ее много.
- Емкость: чем больше ваши наборы данных, тем больше гигабайт вам потребуется. 32 ГБ — это минимальный стандарт для большинства компьютеров с глубоким обучением, но 64 ГБ — обычное дело, а 128 ГБ определенно не являются чем-то необычным для компьютеров ML исследовательского уровня.
- DDR4 против DDR5: оперативная память DDR4 далеко не устарела, но большинство мощных ПК сегодня используют DDR5. Это может обеспечить повышение производительности, и стоит включить всю вашу систему (включая ЦП и материнскую плату) в экосистему DDR5 для упрощения последующих обновлений.
Другие компоненты
Все эти части играют важную роль, даже если они не так важны для основных задач машинного обучения.
- Источник питания: ПК для глубокого обучения используют множество мощных компонентов, поэтому крайне важно найти высокоэффективный блок питания которые могут обеспечить достаточную мощность. Оставьте некоторый запас (обычно не менее 100 Вт) для более высоких нагрузок и будущих обновлений и убедитесь, что у него достаточно портов питания, если вы используете более одного графического процессора.
- Корпус: вы, вероятно, используете более крупный графический процессор, а может быть, даже более одного, поэтому обычно лучше всего использовать полноценный корпус ATX Tower. Воздушный поток является еще одним важным приоритетом, поскольку ваш графический процессор, вероятно, будет генерировать довольно много тепла, поэтому ищите что-то с такими функциями, как сетчатый дизайн передней панели.
- Основное хранилище: большинство твердотельных накопителей большой емкости будут работать нормально, хотя дополнительная скорость твердотельных накопителей NVMe делает их предпочтительнее дисков SATA. Вам понадобится что-то большой емкости (обычно достаточно 2 ТБ), так как наборы данных для обучения каждый может занимать несколько сотен ГБ.
- Материнская плата: убедитесь, что она совместима с вашим процессором, имеет достаточно линий для ваших графических процессоров и совместима с вашей оперативной памятью. Чтобы избежать проблем с совместимостью, многие сборщики ПК выбрать комплект компьютерных запчастей который включает предварительно выбранный процессор и материнскую плату.
Ожидайте сделать больше исследований, прежде чем начать строить. Это основы, которые нужно учитывать, но определенно есть что знать! Продолжайте учиться, продолжайте экспериментировать, и вы сможете обучить одну из моделей, определяющих технологии 21-го века.
