Ответить
  • Technics Senior MemberАвтор темы
    офлайн
    Technics Senior Member Автор темы

    5947

    16 лет на сайте
    пользователь #99678

    Профиль
    Написать сообщение

    5947
    # 21 октября 2008 00:02 Редактировалось Technics, 7 раз(а).

    В данной теме обсуждаем NAS – сетевую систему хранения данных.
    Выбор, технические характеристики.
    Делимся мнениями, впечатлениями.

    NAS (англ. Network Attached Storage) – сетевая система хранения данных. Сетевые хранилища представляют собой внешние жёсткие диски, которые подключаются к сети и позволяют нескольким пользователям работать с общими файлами.

    Каталог сетевых накопителей (NAS) на onliner

    В этом вашем интернете хрен поймешь, кто прикалывается, а кто реально идиот.
  • TheVITALI Senior Member
    офлайн
    TheVITALI Senior Member

    3253

    18 лет на сайте
    пользователь #45012

    Профиль
    Написать сообщение

    3253
    # 19 октября 2016 22:56

    у меня на винчестере на 4тб хранится 85.000 видеороликов
    проведена дедубликация
    вся папка занимает 4.446 гб
    ещё хранится 179 гб данных не подлежащих дедубликации (там нету повторяющихся файлов)
    итого дедубликация позволила сэкономить порядка 500гб места.

    ещё есть папка с музыкой.
    вес примерно 120гб.
    после дедубликации вес уменьшился на примерно 20гб.

    есть папка с видеоклипами.
    недавно выкачал все видеоклипы одного исполнителя.
    и разный видеоконтент - сумарный вес 150гб.
    три года назад тоже выкачивал, но скорость интернета была 3 мегабита, поэтому выкачал только выборочные раздачи.
    после дедубликации вес умньшился на 30гб.

    ещё есть архив инсталяций игр.
    раньше он весил 500гб.
    в инсталах многих игр присуствуют одни и теже файлы, типа инсталяции directX и подобного - если сделать дедубликацию, то занимаемое впустую пространство освободиться.

    да, дедубликацию желательно делать с архивными неизменяемыми данными, особенно если програмы и файловая система работает только с жесткими ссылками, а не при изменении файла создаёт новый файл, и лиш потом анализирует его на предмет идентичности.
    если работает покластерная дедубликация, то таких проблем нету.
    это я к тому что дедублицировать можно только те данные которые никто никогда не будет редактировать, иначе могут возникнуть неприятные казусы.

    учитывая что дома обычно хранятся файлопомойки, то дедубликация дома бывает очень полезной.
    да, можно просто купить ещё один винчестер или винчестер большего обьёма.
    но если можно запустить програму дедубликации или просто включить её и получить 10% дополнительеого свободного места, то почему бы не воспользоваться этим.

    Судить меня дано лишь Богу а остальным я укажу дорогу к богу. Если я тебе не нравлюсь - застрелись, я не исправлюсь!
  • alex_poehali Senior Member
    офлайн
    alex_poehali Senior Member

    8309

    21 год на сайте
    пользователь #8718

    Профиль
    Написать сообщение

    8309
    # 20 октября 2016 01:51

    TheVITALI, так и при ваших объемах, и при паттерне использования нет сильно большой проблемы дедуплицировать вручную - одного запуска раз в полгода хватит. Запускать чаще будет без толку.

    To4kaTitAN, как раз пятерка очень даже нормальное решение.

    Насчет bcache - он требует форматировать раздел. Гораздо перспективнее выглядит lvmcache, хочешь включай, хочешь отключай. Результаты изумительные - дома планирую тоже вкрутить, а то все на работе и на работе...

    Железный рейд привязывает, это факт. Но если железка уже есть? И старые (относительно) контроллеры сейчас стоят очень дешево, часто дешевле аналогичных SATA HBA. mdadm + LVM + ext4 это самый мейнстрим, хотя xfs очень хороша для одиночных и неуменьшаемых разделов. Для себя я еще btrfs использую, но клиентам ставлю только если очень просят.

    По поводу размеров рейда и дисков более чем X TB... RAID5 из 5 дисков по 4 Тб (WD RE) инициализируется (полный ребилд) ровно 1.5 суток. При такой скорости и вероятности URE для данных дисков риск вылета всего массива на горизонте 10 лет не дотягивает даже до 2 десятых процента... Вот если диски медленные, десктопные, без TLER (читай - каждый блок это полный ребилд по вылету всего диска) - тогда дело труба. И вариант с двумя массивами RAID5 с общим Hot Spare также хорош.

    И еще в пользу уже RAID6 скажу вот что - RAID10 (1+0 / 0+1) всем хорош, кроме того что по надежности он сравним не с RAID6, а с RAID5 т.к. вылет неудачной пары это такой же конец всему, как и вылет пары из RAID5. В то же время RAID6 выдерживает вылет любой пары. Если бы не пенальти на запись, то RAID6 самый интересный вариант для 6+ дисков и иногда даже для 4-х (но для 4-х RAID10 это чуть ли не классика наравне с RAID5). 50/60-е уровни нет смысла обсуждать, их делают когда очень четко просчитаны все варианты.

    P.S. А ведь еще почти никто не вспоминает про такую дивную штуку, как обычные системы четности (в линуксе как пример - snapraid). Из-за того что запись в процессе "ребилда" идет только на чистый диск, то и вылет сектора нефатален, в худшем случае теряются данные только конкретного диска. Лично запускал на 45 дисках где 43 диска это данные, а 2 оставшиеся для хешей (да, это жесть ;) но превышение чтения над записью гигантское) - и там уже были вылеты дисков, все восстанавливалось на ура. Прекрасно работает для архивных, неизменяемых данных. Упирается больше в память, свободное место на дисках четности и требование к одновременной доступности всех дисков и высокой скорости чтения (т.к. по факту она упрется в шину).

  • TheVITALI Senior Member
    офлайн
    TheVITALI Senior Member

    3253

    18 лет на сайте
    пользователь #45012

    Профиль
    Написать сообщение

    3253
    # 21 октября 2016 00:27

    да, я запускаю дедубликацию раз в пару месяцев по мере необходимости.

    Судить меня дано лишь Богу а остальным я укажу дорогу к богу. Если я тебе не нравлюсь - застрелись, я не исправлюсь!
  • Vladislav Senior Member
    офлайн
    Vladislav Senior Member

    7220

    21 год на сайте
    пользователь #8737

    Профиль
    Написать сообщение

    7220
    # 21 октября 2016 09:57

    Какие сейчас актуальны диски для домашних НАСов? Я смотрю разница 2/3/4 Тб в пересчете на 1Тб не велика, поэтому нужен видимо на 4 Тб, вот только какой будет потише и понадежнее?

  • stas0859 Senior Member
    офлайн
    stas0859 Senior Member

    6478

    11 лет на сайте
    пользователь #812714

    Профиль
    Написать сообщение

    6478
    # 21 октября 2016 10:03 Редактировалось stas0859, 1 раз.

    Vladislav, поставил такой вроде норма. ST4000VN000. по поводу надежности не скажу, у меня только торренты и длна.

  • Mih-Mih Senior Member
    офлайн
    Mih-Mih Senior Member

    9589

    12 лет на сайте
    пользователь #574089

    Профиль
    Написать сообщение

    9589
    # 21 октября 2016 10:13 Редактировалось Mih-Mih, 1 раз.

    DEL

  • stas0859 Senior Member
    офлайн
    stas0859 Senior Member

    6478

    11 лет на сайте
    пользователь #812714

    Профиль
    Написать сообщение

    6478
    # 21 октября 2016 10:15 Редактировалось stas0859, 1 раз.

    Mih-Mih, ценной инфы на этом венике нет, только жалко денег будет, а какие достойные?

  • MethroGnome Senior Member
    офлайн
    MethroGnome Senior Member

    6083

    21 год на сайте
    пользователь #7294

    Профиль
    Написать сообщение

    6083
    # 21 октября 2016 10:48
    Mih-Mih:

    stas0859:

    поставил такой вроде норма. ST4000VN000.

    ай не. нехочу никого пугать, но за почти 20 лет с компами, у меня два раза вылетали веники с потерей информации, и два раза это были сигейты. после второго раза я решил, что сигейтов у меня больше не будет.

    Такую статистику можно привести по любым производителям. Я как работавший 5 лет в датацентре, могу сказать что дохнут любые, даже enterprise-диски с SAS или FibreChannel-интерфейсом. Сейчас не имеет большого значения какого производителя выбирать HDD. Следите за температурой и не насилуйте бытовые HDD слишком активно и будет вам счастье. Но бэкапы и избыточность нужна все равно.

  • Mih-Mih Senior Member
    офлайн
    Mih-Mih Senior Member

    9589

    12 лет на сайте
    пользователь #574089

    Профиль
    Написать сообщение

    9589
    # 21 октября 2016 11:19 Редактировалось Mih-Mih, 1 раз.

    DEL

  • alex_poehali Senior Member
    офлайн
    alex_poehali Senior Member

    8309

    21 год на сайте
    пользователь #8718

    Профиль
    Написать сообщение

    8309
    # 21 октября 2016 22:02

    Mih-Mih, вот эту модель не надо от слова совсем! Если шум некритичен и готовы несколько переплатить - возьмите хитачи 7K6000, или десктопный вариант - HDN724040ALE640. А так - WD. Они чуть дороже сигейтов, но получше будут. WD40EZRZ (Blue) - весьма хорош и надежен, цена как у вашего сигейта. Можно взять несколько более дорогой WD40EFRX.
    При желании поиграться с SMR дисками (а-ля известного Сигейт на 8 Тб) можно взять тот же Хитачи HMS5C4040BLE640 - интересная модель, цена как у вашего сигейта и WD. Несколько проседает при записи, но чтение отменное.

    4 Тб это на сегодня оптимум по соотношению цена за Гб. Диски на 3 Тб лучше буквально чуть-чуть, но разница будет при закупке 20+ дисков, а не 2-х.

  • TheVITALI Senior Member
    офлайн
    TheVITALI Senior Member

    3253

    18 лет на сайте
    пользователь #45012

    Профиль
    Написать сообщение

    3253
    # 22 октября 2016 01:22

    alex_poehali
    интересует надежность винчестеров seagate archive 8tb
    наверно уже в мире статистика накоплена?
    если использовать для хранения файлопомойки без торентов?
    а если для торентов - 1 раз записал и много-много раз прочел для раздачи?

    в интернете несколько раз читал душещипательные истории типа
    был собран рейд5 из много seagate archive 8tb для nas
    запись редкая, много чтения.
    несколько винчестеров или все сразу в один прекрасный момент сдохли или появилось много-много нечитаемых секторов.
    возможно это страшилки?
    цена просто очень привлекательная на эту модель.

    Судить меня дано лишь Богу а остальным я укажу дорогу к богу. Если я тебе не нравлюсь - застрелись, я не исправлюсь!
  • alex_poehali Senior Member
    офлайн
    alex_poehali Senior Member

    8309

    21 год на сайте
    пользователь #8718

    Профиль
    Написать сообщение

    8309
    # 22 октября 2016 09:46 Редактировалось alex_poehali, 4 раз(а).

    TheVITALI, страшилки имеют под собой основания. Хотя проблемы были больше с первыми ревизиями.

    Эти 8ТБ диски я только в ZFS raidz делаю - там хотя бы шансы будут. Или одиночными - тоже не страшно если что.
    Тут как-то человек отписывался что у него было несколько сотен дисков - были вылеты, но в основном на самых первых.

    Если интересно, один из последних (полгода ему) массивов raidz1 (аналог RAID5 - да-да!) на 5-ти 8ТБ дисках

    код выделить все
    pool: zfs1
    state: ONLINE
    scan: scrub repaired 0 in 67h4m with 0 errors on Wed Oct 12 05:52:55 2016
    config:

    NAME STATE READ WRITE CKSUM
    zfs1 ONLINE 0 0 0
    raidz1-0 ONLINE 0 0 0
    sdb ONLINE 0 0 0
    sdc ONLINE 0 0 0
    sdd ONLINE 0 0 0
    sde ONLINE 0 0 0
    sdf ONLINE 0 0 0

    errors: No known data errors

    Это без выделенного кеша. Массив постоянно используется, но скорость записи падает тем сильнее, чем больше заполнен массив. Иногда проседает до каких-то смешных значений в десятки Мб/сек! Стоит отметить что на машинке только 8 Гб памяти, негусто для ZFS. Посмотрел еще смарт дисков за ~4890 часов: чтение 536 Петабайт, запись 8,5 Петабайт на каждый диск (Total LBAs Read/Written, умноженное на 512 и деленное на 1024 три раза). Это 109,5 Гб/час чтение и 1.7 Гб/час запись - в среднем за время жизни массива. Тут отмечу что такое большое чтение связано с тем, что внутри себя он считывает сразу несколько дорожек, это же SMR диск.

    Есть и другие raidz1/raidz2, но они без удаленного доступа. Судя по отзывам работают нормально.
    Мои личные: там запись как правило не многим выше емкости, чтение от 1 до 3 емкостей. Они у меня реально архивные ;)

  • TheVITALI Senior Member
    офлайн
    TheVITALI Senior Member

    3253

    18 лет на сайте
    пользователь #45012

    Профиль
    Написать сообщение

    3253
    # 24 октября 2016 19:32

    большое спасибо, видимо страшиллки это еденичные случаи.

    имеются винчестеры
    4х 1тб
    2х 4тб
    к ним можно докупить 1х 8тб seagate archive

    как этот весь зоопарк обьеденить при помощи zfs в zraid (наверно zraid1) чтобы в будущем можно было дообавить ещё винчестеров, или если что-то сдохнет, то заменить на более емкий винчестер? дедупликация нужна на некоторые папки, на другие папки дедупликация не нужна (в них данные иногда редактируются).

    Судить меня дано лишь Богу а остальным я укажу дорогу к богу. Если я тебе не нравлюсь - застрелись, я не исправлюсь!
  • MethroGnome Senior Member
    офлайн
    MethroGnome Senior Member

    6083

    21 год на сайте
    пользователь #7294

    Профиль
    Написать сообщение

    6083
    # 24 октября 2016 20:42 Редактировалось MethroGnome, 1 раз.
    TheVITALI:

    имеются винчестеры
    4х 1тб
    2х 4тб
    к ним можно докупить 1х 8тб seagate archive

    как этот весь зоопарк обьеденить при помощи zfs в zraid (наверно zraid1) чтобы в будущем можно было дообавить ещё винчестеров, или если что-то сдохнет, то заменить на более емкий винчестер?

    В ZFS пуле должны быть диски одинакового объема. Соответственно, расширить емкость пула можно только 2-мя способами:
    1) Заменой всех дисков группы на более емкие последовательно, делая ребилд после каждого диска. Но новое пространство будет доступно только после замены последнего диска. Этот способ подходит, когда нет возможности добавить физических дисков.
    2) Добавлением новой группы дисков в существующий пул. Если у нас был пул скажем raidz1 (аналог традиционного RAID5) из 4 дисков, то можно к нему добавить еще 4 диска в raidz1, получится некий аналог RAID5+0

    В вашем случае, я бы докупил 2 диска по 4 Тб вместо одного на 8 и сделал raidz1 пул из 4х4Тб. Потом, постепенно менять их на 8-ки.
    Диски на 1 Тб здесь не в тему, я бы их продал, но можно заюзать в какой-нибудь другой хранилке для бэкапов и поставить где-нибудь в другом месте.

  • TheVITALI Senior Member
    офлайн
    TheVITALI Senior Member

    3253

    18 лет на сайте
    пользователь #45012

    Профиль
    Написать сообщение

    3253
    # 25 октября 2016 02:19

    мдааа... я думал что zfs позволяет как у synology в shr обьеденять диски разного обьёма кратного 500гб в один shr массив с возможностью добавлять диски или менять по одному в некоторых приделах.

    я пытался погуглить чтобы почитать про zfs на русском языке чтобы понять на что zfs способна и что может, но везде или общие сведения или всё сваливается в консольные команды и ничего толком не понять. и во всех примерах типа "возьмём 6 винчестеров на 2тб".

    ===
    а можно в zfs обьеденить три винчестера по 8тб в zraid1, потом добавить четвертый винчестер на 8тб, сделать ребилд, потом пятый на 8тб, ребилд... ?
    а что можно в btrfs?
    как я понял в shr от synology такое легко можно.

    Судить меня дано лишь Богу а остальным я укажу дорогу к богу. Если я тебе не нравлюсь - застрелись, я не исправлюсь!
  • MethroGnome Senior Member
    офлайн
    MethroGnome Senior Member

    6083

    21 год на сайте
    пользователь #7294

    Профиль
    Написать сообщение

    6083
    # 25 октября 2016 03:01
    TheVITALI:

    а можно в zfs обьеденить три винчестера по 8тб в zraid1, потом добавить четвертый винчестер на 8тб, сделать ребилд, потом пятый на 8тб, ребилд... ?

    Нет, по одному нельзя. В raidz диски добавлять можно только группами. Есть допустим 4 диска в raidz1, можно добавить еще 4 второй группой.

    Но если нет денег сразу на 4 диска по 8 Тб - можно пойти на хитрость ценой снижения общей надежности и скорости. Можно взять 2 диска на 4 Тб, третий на 8 и порезать его на 2 раздела по 4. Итого у нас получится 4 раздела по 4 Тб, но 2 из них будут физически на одном диске. Из них можно сделать пул raidz, затем плавно добавлять диски, 4-ки менять на 8-ки. Но понятно, что в такой конфигурации если 8 Тб диск умрет - пулу хана.

    Второй вариант, более извращенный. Докупаете к имещимся 4-кам еще 2 диска по 8 Тб, делаете 6 разделов по 4, создаете пул raidz2 - с двухкратным резервированием. Такой пул переживет падение любой 8-ки либо обоих 4-ок. Со временем можно добавить еще 4 8-ки и получить raidz2 пул из 6х8 Тб. Но raidz2 отнимает 2 диска полезного объема...

    Третий вариант, еще более извращенный. Задействовать имеющиеся 4 диска по 1 Тб, создать из них RAID-массив средствами материнки или контроллера, чтобы в системе он был виден как один девайс на 4 Тб. Далее аналогично 2-му варианту, только разделов будет уже 7, в последствии все эти извращенные разделы можно заменить на 8-ки и получить пул 7х8 Тб с полезным объемом 5х8Тб

  • TheVITALI Senior Member
    офлайн
    TheVITALI Senior Member

    3253

    18 лет на сайте
    пользователь #45012

    Профиль
    Написать сообщение

    3253
    # 25 октября 2016 08:46

    лично у меня за всю жизнь не умер ни один винчестер.
    наверно сильно повезло.
    хотя всё бывает в первый раз.

    ===
    а как обстоят дела с созданием рейд масивов из винчестеров разного обьема и добавлением новых винчестеров в btrfs?
    почему то у synology в shr такое возможно.

    ===
    всё что мне счас нужно - обьеденить свободное место с разных винчестеров, желатеьно увеличить скорость дисковой системы для торентов (особенно для перехеширования торентов, ибо иногда нужно перехешировать несколько сотен гб), и дедублицировать одинаковые файлы находящиеся на разных винчестерах для увеличения свободного места.

    Судить меня дано лишь Богу а остальным я укажу дорогу к богу. Если я тебе не нравлюсь - застрелись, я не исправлюсь!
  • Vladislav Senior Member
    офлайн
    Vladislav Senior Member

    7220

    21 год на сайте
    пользователь #8737

    Профиль
    Написать сообщение

    7220
    # 25 октября 2016 10:30

    Появился Synology 216j с одним диском на 4Тб, в хозяйстве есть Dune HD Smart H1 с 2Тб диском. Есть необходимость всё с 2Тб диска из дюны перекинуть на 4Тб в синолоджи. Как это быстрее всего сделать? Подключил дюну как USB, но не прокатило - "не поддерживаемая файловая система", хотя и там и там линукс и ext2/3 должен нативно понимать. Разбираться пока не было времени, может кто знает ответ в чем беда?

  • Micola Senior Member
    офлайн
    Micola Senior Member

    20192

    20 лет на сайте
    пользователь #18992

    Профиль
    Написать сообщение

    20192
    # 25 октября 2016 10:44

    Vladislav, так из консоли синоложи нельзя зайти на сетевую шару дюны?

    Китайские дети утром делают зарядку, а вечером относят её в Евросеть.
  • Vladislav Senior Member
    офлайн
    Vladislav Senior Member

    7220

    21 год на сайте
    пользователь #8737

    Профиль
    Написать сообщение

    7220
    # 25 октября 2016 10:46

    Micola, Можно. Но увы у меня пока временно 100Мбит сеть, копирование займёт вечность