Корзина
  • Добавьте товары в корзину.

Кейс: компактный NAS на Supermicro X10SDV с TrueNAS и сетью 10GbE

18
32 мин на чтение

Небольшому файловому серверу не обязательно занимать половину стойки. В этом кейсе разбираем компактную сборку на Supermicro X10SDV-4C-TLN2F: четыре диска по 16 ТБ, 64 ГБ ECC-памяти, TrueNAS и два встроенных порта 10GbE. Такая конфигурация интересна фотографу, небольшой проектной группе или филиалу, которому нужны общие файлы и удалённое обслуживание без отдельной серверной.

Главный вывод: серверная плата здесь полезна сочетанием ECC, BMC и 10GbE. Но четыре HDD не превращаются в быстрый массив для любых операций, 64 ТБ на этикетках не равны 64 ТБ доступного места, а компактный корпус требует столь же внимательной проверки охлаждения, как большой сервер.

Отправная точка — сборка ServerFlow в Jonsbo N4. Ниже отделены её фактические компоненты от наших вариантов организации ZFS и расчётов. Испытания этой системы нашим стендом не проводились; приведённые бюджеты ёмкости и времени служат для проектирования.

Компактный NAS на Supermicro X10SDV с четырьмя дисками и сетью 10GbE
В небольшом NAS серверные функции управления важны не меньше количества дисковых отсеков.

Какую задачу решает компактный NAS

Представим небольшую команду: два сотрудника обрабатывают фотографии, третий готовит макеты, ещё несколько человек открывают документы и результаты проектов. Накопители в рабочих компьютерах перестали быть удобным общим архивом. Передача папок через внешний USB-диск создаёт несколько версий одного проекта, а выключенный компьютер владельца делает файлы недоступными остальным. NAS переносит хранение в отдельный узел с постоянным сетевым адресом, правами доступа и расписанием резервного копирования.

Задачу стоит сформулировать в измеримых единицах: сколько терабайт занято сейчас, каков годовой прирост, сколько клиентов копируют одновременно, какой простой допустим и сколько данных можно потерять между копиями. Например, 12 ТБ действующих проектов при росте 4 ТБ в год потребуют 24 ТБ через три года ещё до снимков и технического резерва. Покупка четырёх дисков «с большим запасом» без такого подсчёта легко оказывается покупкой запаса на несколько месяцев.

Этот кейс посвящён одной компактной архитектуре. Если нужно сначала решить, нужен ли специализированный NAS или универсальная вычислительная машина, исходную нагрузку лучше сопоставить с серверами хранения. Здесь рассматривается уже следующий вопрос: как устроить и проверить конкретный небольшой файловый узел.

Из чего собрана система

Компонент Конфигурация кейса Практическая роль
Плата и CPU Supermicro X10SDV-4C-TLN2F, Xeon D-1521 Компактная платформа с интегрированным процессором
Оперативная память 64 ГБ Samsung DDR4 ECC Registered, 2 × 32 ГБ Память ОС, ZFS и прикладных служб
Основные диски 4 × WD DC HC550 16 ТБ 64 ТБ сырой суммы ёмкостей
Системный SSD Samsung PM9A1 M.2 512 ГБ Загрузочное устройство; отдельная роль от HDD-пула
Корпус Jonsbo N4 Компактное размещение платы и накопителей
Блок питания Chieftec SFX 650 Вт Питание системы и запуск HDD
Сеть 2 × 10GBASE-T и отдельный интерфейс IPMI Передача файлов и независимое управление
Программная платформа TrueNAS Управление хранением и сетевыми ресурсами

Это состав конкретной сборки, а не обязательный список для любого филиала. Мощность БП не показывает фактическое потребление, объём системного SSD не прибавляется автоматически к файловому пулу, а наличие двух сетевых портов само по себе не удваивает скорость одного клиента. Каждый компонент оценивается по своей функции.

Почему выбрана X10SDV-4C-TLN2F

Xeon D-1521 имеет 4 ядра и 8 потоков, тепловой пакет 45 Вт. Процессор установлен на плате в корпусе FCBGA1667 и не меняется как обычный сокетный Xeon. Плата Mini-ITX размером около 17 × 17 см предоставляет шесть SATA 6 Гбит/с, один PCIe 3.0 x16 и M.2 PCIe 3.0 x4 с поддержкой SATA. Для четырёх HDD отдельный HBA не обязателен: необходимое количество SATA уже есть.

Четыре DIMM-разъёма допускают до 128 ГБ ECC RDIMM либо до 64 ГБ UDIMM в подходящей конфигурации. RDIMM и UDIMM не смешивают. Покупать память только по надписи DDR4 нельзя: нужны подходящие организация модуля, объём и совместимость. Пара 32-гигабайтных RDIMM в данном случае оставляет возможность расширения, но порядок заполнения определяется платой, а не удобством доступа к защёлке.

У этой модели два рабочих порта 10GbE с RJ45. Отдельный разъём BMC служит управлению и не является третьим быстрым интерфейсом для пользовательских файлов. Через BMC можно увидеть консоль, состояние датчиков и перезапустить зависшую систему. Для удалённого филиала это уменьшает количество ситуаций, когда кто-то должен физически подойти к NAS с монитором.

Сколько места останется от четырёх дисков по 16 ТБ

Дисковая ёмкость у производителей задаётся в десятичных байтах. 64 ТБ соответствуют примерно 58,21 ТиБ. Это перевод единиц, а не исчезнувшее место. Затем добавляются затраты на избыточность, метаданные, особенности размещения данных, снимки и свободный резерв.

Расчётный вариант Номинальная ёмкость до накладных расходов При резерве 20% Что важно
Без избыточности 64 ТБ ≈ 58,21 ТиБ 51,2 ТБ Отказ диска может нарушить весь пул; для рабочего архива такой выигрыш обычно неоправдан
Два зеркала по два HDD 32 ТБ ≈ 29,10 ТиБ 25,6 ТБ Допустимость второго отказа зависит от того, в каком зеркале он произошёл
Один RAIDZ1 из четырёх HDD Около 48 ТБ ≈ 43,66 ТиБ Около 38,4 ТБ Одна дисковая избыточность; при восстановлении запас защиты ограничен
Один RAIDZ2 из четырёх HDD Около 32 ТБ ≈ 29,10 ТиБ Около 25,6 ТБ Две дисковые избыточности ценой половины сырой ёмкости

Таблица показывает упрощённый бюджет при одинаковых дисках. Реальный доступный объём будет меньше и зависит в том числе от размера блоков и содержимого. Резерв 20% здесь выбран как проектная политика, а не универсальная встроенная граница ZFS. Для небольших блоков расчёт RAIDZ по формуле «число дисков минус паритет» особенно важно проверить на реальном наборе файлов.

Расчёт ёмкости четырёх HDD по 16 ТБ для зеркал и RAIDZ2
Зеркала и RAIDZ2 дают близкий номинальный объём при разном поведении в случайных операциях и при отказах.

Зеркала или RAIDZ2: что разумнее именно здесь

Для документов, каталогов фотографий и нескольких одновременно работающих клиентов значение имеет не только последовательная скорость. Множество небольших чтений заставляет HDD перемещать головки. Два зеркальных vdev могут быть удобнее одного RAIDZ-vdev для такой нагрузки, но полезный результат зависит от доли чтения, записи и кэширования. Обещать определённые IOPS только по количеству дисков неправильно.

RAIDZ2 привлекательнее, если принципиально пережить любые два отказа дисков в одном четырёхдисковом vdev. У двух зеркал возможна потеря пула при отказе двух дисков одной пары. Поэтому фраза «четыре диска выдерживают два отказа» без схемы избыточности ничего не объясняет. Для обоих вариантов внешняя копия всё равно нужна: избыточность не отменяет ошибочное удаление и повреждение данных приложением.

Выбирать схему следует до массовой загрузки. Возможности расширения зависят от версии TrueNAS/OpenZFS и исходной топологии; не следует заранее обещать добавление одного любого диска без перестройки проекта. Для двух-трёхлетнего плана надёжнее сразу заложить подходящие диски и свободные отсеки, чем строить бюджет на непроверенном способе будущего расширения.

Какой пул был собран на практике и почему это влияет на ёмкость

В сборке ServerFlow выбран RAIDZ1 из четырёх HDD. После создания пула автор добавляет dataset для SMB, назначает доступ пользователю и проверяет копирование файлов с компьютера в локальной сети. Здесь важно не смешать три отдельных шага: собрать дисковую группу, создать набор данных и выдать доступ к сетевому ресурсу.

Для четырёх дисков по 16 ТБ у RAIDZ1 номинально остаётся эквивалент трёх дисков: 48 ТБ, или около 43,7 ТиБ, до служебных расходов ZFS. Если для планирования оставить 20% свободными, получится примерно 38,4 ТБ до остальных накладных расходов. У рассмотренных выше RAIDZ2 и двух зеркальных пар исходная арифметика другая — 32 ТБ. Это варианты конфигурации, а не противоречащие друг другу характеристики одних HDD.

RAIDZ1 сохраняет работоспособность при отказе одного участника. После такого отказа второй диск уже не защищён дополнительной чётностью. Поэтому выбор автора уместно рассматривать как конкретный компромисс ёмкости, а для рабочего архива сравнить его с RAIDZ2, зеркалами и независимым резервированием. Успешное первое копирование не проверяет ни восстановление диска, ни сохранность после удаления папки.

Что в этой сборке подключено к бэкплейну

Четыре HDD соединены с платой четырьмя SATA-кабелями через бэкплейн корпуса; его питание подключается отдельно. NVMe Samsung PM9A1 служит системным накопителем, а не пятым участником RAIDZ. Для обслуживания полезно сразу сопоставить номер отсека с серийным номером HDD. Иначе сообщение об ошибке диска есть, но надёжно определить нужную корзину при замене трудно.

В программе приёмки SMB проверяют не только запись под администратором. Обычный пользователь должен открыть разрешённый каталог и получить отказ в закрытом; после перезагрузки NAS должны сохраниться пул, dataset и права. Такой тест ближе к повседневной работе небольшой команды, чем одиночный скриншот успешного копирования.

Зачем NAS 64 ГБ ECC и нужен ли SSD-кэш

ZFS использует оперативную память под ARC — адаптивный кэш чтения. Если часто открываемый набор документов помещается в ARC, повторное чтение может обслуживаться без обращения к HDD. Но копирование нового архива, который больше памяти, не станет бесконечно быстрым. Объём ARC ограничивается доступной памятью и настройками; ОС и службы тоже требуют ресурсов.

Правило «1 ГБ RAM на каждый терабайт» нельзя применять как обязательную формулу. Для файлового узла с выключенной дедупликацией стартовые требования определяются задачей, числом клиентов, сервисами и рабочим набором. Дедупликацию здесь не стоит включать по привычке: она создаёт отдельные требования к памяти и метаданным, а выигрыш на фото и сжатом видео может оказаться незначительным.

ECC помогает исправлять определённые ошибки оперативной памяти. Контрольные суммы ZFS отвечают за другую часть цепочки: проверяют целостность блоков, а при наличии исправной избыточной копии позволяют восстановить повреждённые данные. Это дополняющие механизмы, а не замена резервной копии.

PM9A1 в исходной сборке — загрузочный SSD. Его нельзя одновременно мысленно считать L2ARC, журналом SLOG и рабочим быстрым пулом. SLOG нужен под определённый профиль синхронной записи; L2ARC расширяет кэш чтения и тоже расходует ресурсы. Сначала измеряют проблему, затем добавляют отдельный подходящий накопитель. Для большинства небольших файловых задач правильная топология HDD и достаточная RAM полезнее случайного SSD «для ускорения всего».

Выдаст ли такой NAS 10 Гбит/с

10 Гбит/с равны 1,25 ГБ/с до Ethernet/IP/TCP/SMB-накладных расходов. Это верхняя арифметическая граница линии, не результат данной сборки. Сам клиент должен иметь 10GbE, коммутатор — соответствующий порт, кабельная линия — подходящее качество, а SSD клиента — способность принимать поток. При клиентском 1GbE граница линии составит 125 МБ/с до накладных расходов, даже если в NAS установлены два десятигигабитных порта.

Для расчёта времени удобно сначала взять заведомо оптимистичную границу. Передача 1 ТБ при 1 ГБ/с займёт около 16,7 минуты, при 250 МБ/с — около 66,7 минуты. Это сценарные значения скорости, а не измерения. Короткая передача из кэша и длительная запись на диски способны дать совершенно разные результаты.

Два порта полезны для нескольких клиентов, разделения трафика или сетевой избыточности. LACP обычно распределяет потоки по физическим линиям и не гарантирует удвоения одного TCP-соединения. SMB Multichannel — отдельный механизм со своими требованиями к клиенту, серверу и настройкам. Сначала проверяют одну исправную линию, затем усложняют сеть.

Путь данных от клиента через 10GbE к памяти и дискам NAS
Каждое звено ограничивает скорость; сеть управления BMC отделена от пользовательского файлового трафика.

Как охлаждать серверную плату в маленьком корпусе

Пассивный радиатор означает отсутствие собственного вентилятора, но не отсутствие потребности в воздушном потоке. В компактном корпусе кабели могут перекрыть путь от входного вентилятора к радиатору SoC и сетевой части. При проверке важны одновременно температура процессора, зоны платы и каждого HDD. Вентилятор, который хорошо охлаждает дисковую корзину, не обязательно продувает низкий радиатор платы.

Проверять систему нужно с закрытой крышкой и штатными фильтрами. Открытый корпус меняет аэродинамику и не подтверждает рабочий режим. Сначала выполняют длительную запись, затем параллельное чтение нескольких клиентов и сканирование пула; отдельно проверяют поведение вентиляторов при перезагрузке и после восстановления питания.

Тихий звук в комнате не равен безопасной температуре дисков. Оценку «почти не слышно» полезно дополнять RPM и температурным журналом. Если нужна методика измерения акустики и размещения, она отдельно разобрана в статье о работе сервера в офисе; здесь ключевой вопрос — выдерживает ли именно компактная сборка длительную дисковую нагрузку.

Почему блок питания 650 Вт не означает расход 650 Вт

Номинал БП — допустимая выходная мощность в оговорённых условиях. Потребление из розетки определяется текущей нагрузкой и КПД. Четыре HDD при раскрутке требуют иного тока, чем в установившемся режиме, поэтому расчёт только по среднему idle не подходит. Нужно учитывать линии питания, количество штатных SATA-разъёмов и одновременный старт дисков.

Для иллюстрации годового бюджета: постоянные 80 Вт дадут 700,8 кВт·ч в год, 120 Вт — 1051,2 кВт·ч. Разница 40 Вт превращается в 350,4 кВт·ч за год. Это арифметика режима 24/7, а не фактические замеры исходного NAS. Измерять желательно на входе всей системы, включая её реальный БП, а резерв для ИБП считать ещё и по времени корректного завершения работы.

Как организовать папки, снимки и доступ сотрудников

Общая папка «всё для всех» быстро становится источником случайных удалений. Проектные данные, личные каталоги, архив и резервные копии удобнее развести по datasets с отдельными правами, квотами и расписаниями snapshots. Гостевой доступ не должен незаметно превращать внутренний архив в общедоступную папку.

Снимок хранит состояние данных на определённый момент. Если дизайнер перезаписал файл, его можно вернуть без восстановления всей системы. Но снимки занимают место по мере изменения блоков. Например, при 300 ГБ уникальных изменений в день 14-дневное окно может потребовать порядка 4,2 ТБ до сжатия и особенностей сохранения блоков. Это рабочая оценка, которую уточняют наблюдением, а не фиксированная стоимость snapshots.

BMC и административный веб-интерфейс TrueNAS держат в сети управления. Удалённый доступ организуют через контролируемое защищённое подключение, а не прямой проброс административных портов наружу. Отдельная учётная запись для бэкапа уменьшает последствия компрометации обычного рабочего компьютера.

Как проверить резервную копию, а не только её наличие

Предположим, требуется RPO 24 часа и RTO 8 часов. Первое означает допустимость потери не более суток изменений, второе — время возврата сервиса. Для полного восстановления 20 ТБ за 8 часов нужен средний поток около 694 МБ/с без учёта подготовки и проверки. Копия, записывающаяся по 1GbE, физически не укладывается в такой срок полного возврата: граница 125 МБ/с даёт минимум 44,4 часа для 20 ТБ.

Поэтому нужно заранее решить, восстанавливается весь архив или сначала активные проекты. Отдельная копия последних 2 ТБ даёт совсем другую задачу, чем возврат всех 20 ТБ. Хранить резерв можно на независимом узле или другом носителе с необходимой изоляцией. Копия на другом dataset того же пула не защищает от отказа NAS целиком.

При пробном восстановлении выбирают и большой файл, и каталог с множеством мелких файлов, проверяют контрольные суммы и разрешения доступа. Успешная запись задания в журнале не доказывает, что пользователь сможет открыть восстановленный проект.

Что проверить до переноса рабочих данных

Проверка Что фиксировать Критерий приёмки
Диски и кабели Серийные номера, SMART, ошибки интерфейса Каждый накопитель однозначно связан с физическим отсеком
Оперативная память Полный тест RAM и события ECC Нет необъяснённых ошибок
Сетевая линия Скорость согласования, потери, загрузка клиента Известно, где находится узкое место
Длительная работа Температуры, RPM, скорость после окончания кэш-эффекта Нет троттлинга и дисковых ошибок
Перезапуск Импорт пула, доступность SMB, адреса сети Файловый сервис возвращается без ручного вмешательства
Восстановление Время, хэши файлов, ACL Копия действительно читается в нужный срок

Приёмка компактного NAS с проверкой охлаждения и удалённого управления
Приёмку проводят с закрытым корпусом, длительной нагрузкой и реальным восстановлением файлов.

Как выглядит план заполнения на три года

Вернёмся к примеру 12 ТБ исходных данных и росту 4 ТБ ежегодно. Для варианта с номинальными 32 ТБ и плановой занятостью 25,6 ТБ важно учитывать не только новые файлы. Если дополнительно выделить 3 ТБ под сохранённые версии, через два года получится 12 + 2 × 4 + 3 = 23 ТБ. До планового лимита останется 2,6 ТБ. Через три года потребность достигнет 27 ТБ, и исходный проект перестанет укладываться в выбранный резерв.

Это не означает, что система внезапно остановится в день достижения 25,6 ТБ. Это означает, что заранее согласованный запас уже израсходован и пора менять план. Увеличение срока хранения снимков, неожиданное видео высокого разрешения или перенос архива ещё одного сотрудника способны приблизить этот момент. Предупреждения стоит строить по прогнозу даты заполнения, а не только по факту критического остатка.

Полезная ежемесячная сводка содержит три числа: текущую занятость, прирост за последние недели и объём, удерживаемый снимками. Если актуальные файлы выросли на 500 ГБ, а свободное место уменьшилось на 2 ТБ, нужно искать версии, временные копии и изменения крупных файлов. Покупка следующего HDD без понимания причины может лишь отложить повторение проблемы.

Как отделить скорость сети от скорости дисков

Испытание строят от простого к сложному. Сначала проверяют согласование 10GbE и сетевой обмен без файлового сервиса. Затем читают и записывают большой файл через реальный SMB-клиент. После этого повторяют тест на каталоге из множества небольших файлов и при одновременной работе нескольких пользователей. Если первая ступень уже медленная, настройка ZFS не исправит неисправный кабель или ограничение клиента.

Пример набора приёмочных данных: один файл 100 ГБ, папка из 50 тысяч небольших документов и настоящий обезличенный рабочий проект. Эти объёмы выбраны для тест-плана, а не описывают исходные испытания ServerFlow. Один большой файл показывает последовательный тракт, множество мелких — стоимость операций и метаданных, рабочий проект — результат для пользователя.

Одновременно записывают загрузку CPU, ожидание накопителей, ARC hit/miss и сетевые ошибки. Если повторное чтение заметно быстрее первого, важно понять, обслуживается ли оно из RAM. В протоколе теста указывают, был ли набор больше памяти и сколько длилась передача. Иначе красивый пик в начале легко принять за устойчивую скорость четырёх HDD.

Безопасная диагностика состояния ZFS начинается с команд чтения вроде zpool status -v и zpool iostat -v 2 в предусмотренной среде администрирования. Они помогают увидеть состояние пула и распределение операций, но не заменяют проверку физической маркировки. Команды очистки и создания пула к диагностике не относятся: их выполняют только на подтверждённых пустых носителях по отдельной процедуре.

Что должно остаться после сборки, кроме работающей папки

Компактный NAS часто устанавливает один энтузиаст, а обслуживать его через год приходится другому человеку. Поэтому вместе с системой нужны карта дисков, схема сети, точные модели памяти и SSD, версии BIOS/BMC/TrueNAS, конфигурация прав, расписание копий и описание восстановления. Пароли и ключи хранят защищённо, а не включают открытым текстом в обычную памятку.

Отдельно фиксируют загрузочное устройство. Если системный SSD выйдет из строя, нужно знать, как восстановить ОС и импортировать прежний пул без его повторного создания. Резерв конфигурации TrueNAS и независимая копия пользовательских данных решают разные задачи. Наличие первого не гарантирует наличие второго.

Полезно проверить сценарий «владелец недоступен»: другой администратор должен суметь найти нужный отсек, увидеть тревогу, открыть консоль и вернуть тестовый файл. Если для каждого шага требуется личная переписка создателя, проект ещё не передан в эксплуатацию. Именно здесь серверное управление BMC приносит практическую пользу небольшой команде.

Программа уведомлений тоже требует проверки. Сообщение о проблеме должно уходить по каналу, который не зависит только от самого NAS. Отправленная тестовая тревога и подтверждённый получатель полезнее десятка включённых, но никем не читаемых уведомлений. После изменения почты или сети эту проверку повторяют.

Когда компактную конфигурацию лучше изменить

Если основной рабочий набор представляет собой миллионы мелких файлов, стоит отдельно испытать SSD-пул вместо попыток ускорить HDD случайным кэшем. Если требуются десятки активных ВМ, нужен другой расчёт дисковых задержек и CPU. Если по прогнозу уже скоро не хватает четырёх накопителей, более просторное шасси может быть выгоднее сложной миграции через год.

Удалённый филиал с редкими обращениями, напротив, может не использовать преимущества 10GbE. Тогда ценность BMC, правильного бэкапа и понятного обслуживания окажется выше максимальной сетевой скорости. Два одинаково компактных NAS могут иметь совершенно разные приоритеты: у фотографа — быстрый перенос съёмки, у филиала — возвращение доступа без выезда инженера.

Для итогового выбора сравнивают две полностью определённые конфигурации с одинаковыми требованиями к доступности и сохранению данных. В одной строке стоимости должны учитываться память, сеть, диски, корпус, БП и резервирование. Иначе экономия на плате может оказаться расходом на дополнительные адаптеры и отсутствующий бэкап.

Частые вопросы по этой сборке

Можно ли использовать NAS как сервер виртуальных машин?

Лёгкие дополнительные службы возможны в поддерживаемом выбранной версией режиме. Но четырёхъядерный Xeon D и HDD-пул не стоит одновременно планировать под тяжёлые ВМ, активный монтаж и резервное копирование. Сначала выделяют ресурсы основной задаче хранения, затем проверяют остаток CPU, памяти и дисковых задержек.

Нужно ли сразу покупать коммутатор 10GbE?

Если активный клиент один, возможна отдельная прямая линия между ним и NAS при корректной сетевой конфигурации. Для нескольких рабочих мест коммутатор удобнее. В обоих случаях пользовательский трафик и администрирование необходимо продумать отдельно.

Можно ли заменить серверную плату обычной Mini-ITX?

Можно спроектировать другую систему, но нужно заново проверить ECC, поддержку памяти, число SATA, сеть и удалённую консоль. Сравнивать надо итоговый комплект: добавление 10GbE-карты и других контроллеров расходует деньги, PCIe и место в маленьком корпусе.

Что передать для подбора аналогичной конфигурации?

Текущий объём, прирост за год, типы файлов, число одновременно активных пользователей, желаемую скорость сети, RPO/RTO, ограничения по месту и шуму. На этой основе можно подобрать материнскую плату Supermicro, диски и корпус. Итогом должен быть согласованный бюджет ёмкости и проверок, а не только список артикулов.

Официальный поставщик SUPERMICRO

Продажи на территории России

Оптовые и розничные продажи

Снижение логистических расходов

Индивидуальные условия

Выгода без посредников

Единая система поставок

Весь ассортимент на складе