about NetApp

Я уже упоминал, что в Data ONTAP есть очень полезная команда stats, с помошью котрой можно вывести массу информации о работе системы. К сожалению, формат вывода ее “человеконечитаемый”, в большинстве случаев, поэтому для того, чтобы извлечь из ее вывода что-нибудь полезное, приходится предпринять некоторые усилия.

Так, например, довольно интересной задачей яляется поиск и вывод так наываемых busy spindles, или физических дисков, нагрузка по вводу-выводу на которые превышает норму по аггрегейту. Такое случается иногда при несбалансированности aggregate, например, чаще всего, при добавении дисков, которые, в ряде случаев, могут потребовать “рестрайпинга данных”.

В community.netapp.com я увидел интересную строчку для использования в скрипте вывода такой информации:

watch -n 3 "ssh NetAppHost stats show disk:\*:disk_busy | awk '{FS=\":\"; print \$1 \" \" \$2 \" \" \$3 \" \" \$13}'| sed 's/%//g' | awk '\$4>40{print}'"

Можете воспользоваться, кому интересно, и расскажите как работает.

Коллеги, с удовольствием хочу сообщить хорошую новость. На днях я решил завести “место для дискуссий” для значительного числа пользователей (а также “пока не пользователей”) NetApp, как моих читателей, так и для любых пользователей, предпочитающх общение на русском языке. Теперь у нас есть специальная группа на сайте http://communities.netapp.com, главном сайте всех юзергрупп, созданом NetApp.

В опросе, проведенном в прошлом году, я увидел, что отсутствие своего места для обсуждения, поддержки на русском языке и взаимодействия с партнерами и вендором, является одной из самых острых и насущных проблем пользователей NetApp. Именно для решения этой проблемы и была создана NetApp Russian Users Group (NetApp RUG), пока виртуальная, но позже, кто знает, может быть, найдем время и возможность собраться и познакомиться очно.

Ее адрес: https://communities.netapp.com/groups/netapp-ru. Группа открытая, и доступна для просмотра незарегистрированным на comunities.netapp, но для полноценного общения, комментирования, для скачивания документов, которые я там постепенно буду выкладывать, рекомендую зарегистрироваться и создать логин. Можно пользоваться вашим логином на NOW, если он у вас есть, можно создать отдельный. В отличие от регистрации на NOW этот логин создается сразу же и не требует аппрува в поддержке NOW.

Жду багрепортов, пожеланий и замечаний.

Я планирую привлечь для регулярного участия в группе специалистов компний партнеров и дистрибуторов, а также, возможно, найду на нас время и наши коллеги из российского представительства NetApp. Если вы имеете вопросы по вашим системам NetApp, или, может быть, также вопросы как потенциальный покупатель, технические вопросы по технологиям NetApp, технические проблемы, которые вы не можете разрешить с поддержкой, или же по тем или иным причинам не можете или не хотите решать на уровне официального саппорта, их тоже можно попробовать задавать в группу. Уверен, кто что знает – поможет. По крайней мере англоязычные дискуссии и помощь на communities.netapp очень полезные и активные.

Также буду рад пользователям IBM N-series, имеющим, как я знаю боооольшие проблемы с поддержкой по линии IBM. Заходите, что-нибудь придумаем и с вами.

Этот год для компании NetApp станет, без сомнения, “годом cluster-mode”. Наконец-то этот режим “дозрел” до широкого рынка, и в этом году, я надеюсь, мы увидим активность во внедрении именно этой, до сих пор для массового пользователя остававшейся в тени, но весьма многообещающей возможности систем хранения NetApp.

Для начала же несколько слов о том, что такое Data ONTAP Cluster-mode, и чем он отличается от привычного Data ONTAP 7-mode в HA-кластере.

Еще в 2003 году NetApp купила стартап Spinnaker, занимавшийся разработками в области кластерных файловых систем и системы Global Namespace, и несколько лет спустя выпустила на рынок специальную OS, под названием Data ONTAP 10. Это была специальная OS для систем NetApp, позволявшая строить многоузловые кластеры хранения данных. К сожалению, она имела множество ограничений, в частности, работала только как NFS-сервер, и не имела множества важных и привычных возможностей “классической” Data ONTAP 7.x, поэтому особой популярности не завоевала, была дорогой, ограниченной, требовавшей значительных специальных знаний для запуска и использования, и, в результате, ее использование было ограничено рынком высокопроизводительных файловых серверов для HPC (High-performance Computing) и систем хранения научной и аудио-видео информации. Общее число клиентов в мире, использовавших Data ONTAP 10, не превышало пары сотен.

Следующим шагом NetApp, стала попытка объединить, “слить” две эти OS в одну. Однако объявленное в 2008 году “слияние” оказалось в значительной степени “фиктивным”, просто из одного дистрибутива OS, получившей название Data ONTAP 8.x стало возможным установить две OS: либо в режиме 7-mode, то есть “классической” Data ONTAP, либо в режиме, получившем название “Cluster-mode”, и явившемся развитием Data ONTAP 10. К сожалению это были, как я сказал выше, просто две OS, ставившихся из одного дистрибутива, и только. В Cluster-mode не появились привычные возможности Data ONTAP Classic, и по-прежнему это были две несовместимые OS, не имевшие возможности миграции данных или взаимодействия, полностью отличавшихся по структурам хранения данных и работе с ними.

Вследствие этого, имеющиеся пара сотен клиентов DOT10 были переведены на 8.x Cluster-mode, а основная масса пользователей систем NetApp по прежнему продолжала пользоваться “7-mode”. Значительным барьером, кроме функциональных ограничений, была и цена, а также сложность реализации.

Однако работы продолжались, и, постепенно, в 8.x Cluster-mode стали появляться привычные для 7-mode возможности, такие как репликация, блочная дедупликация, а также, что более всего важно, работа с блочными протоколами – FC, iSCSI и FCoE. Напомню, что, до версии 8.1, Cluster-mode была чисто “файловым хранилищем”, работающем по протоколам NFS и CIFS, что устраивало не всех.

Тем временем, как NetApp “переваривала” наследство Spinnaker, на рынке стали появляться конкуренты в данной области, так активно стал продаваться (и в итоге продался целиком EMC) продукт компании Isilon, а растущий интерес к “облачным” IT-системам естественным образом стал “локомотивом” развития и “облаков” хранения - многоузловых кластеров.

Итак, начиная с версии Data ONTAP 8.1 версия Cluster-mode стала уметь работать с блочными SAN-протоколами, стала уметь асинхронную репликацию и снэпшоты, привычные для Data ONTAP Classic, дедупликацию и компрессию, наконец, были снижены цены, и использование Cluster-mode стало несколько более доступным для пользователей.

Настала пора и в этом блоге поподробнее поговорить о том, что же такое Cluster-mode, как его можно использовать, и чем он может вам пригодиться. В этом году, я надеюсь, я буду говорить о Data ONTAP 8.x Cluster-mode куда чаще. В ближайшие несколько постов я намерен рассказать подробнее о том, что сегодня представляет собой Cluster-mode, и как это выглядит на практике.

Просматривая англоязычные блоги нашел вам хорошую картинку о том, что же такое такое эффективность хранилища. Под “эффективностью хранилища” (storage efficiency) это отношение всей “купленной” емкости дисков, к емкости “задействованной”. Чем выше эта величина, тем экономически выгоднее использование системы хранения, тем меньше вы тратите дорогостоящей емкости непроизводительно, впустую.

Помогает взглянуть с большим интересом на понятие “эффективность” и на его важность в практической жизни, не так-ли?

Если вы, к примеру, купили сторадж на 20TB raw data за, допустим, 100 тысяч $, и, в результате, используете на нем 12,5% его raw-емкости для хранения данных ваших приложений, это значит, что вы заплатили сто тысяч долларов за емкость 2,5TB. Жестокая правда.

PS. Обратите внимание, что я снова ни разу не сказал в этом посте слова “NetApp” ;)

Вынужден извинится перед моими читатеями, которые не нашли в этом блоге привычных двух статей в понедельник и в четверг, к сожалению сильно загружен, и выберусь пописать сюда только на следующей неделе. А пока – результат моих “новогодних каникул” (неужели вы поверили что я в самом деле только и делал, что отдыхал три недели?;)

Руководство по наилучшим способам использования систем NetApp с VMware vSphere

Vaughn Stewart, Larry Touchette, Mike Slisinger, Peter Learmonth, Sitakanta Chaudhury, Julian Cates, NetApp Декабрь 2010 | TR-3749 | Version 3.0

Лежит этот документ на обычном месте, на страничке “технической библиотеки NetApp” компании Нетвелл, дистрибутора NetApp, инициатора перевода документов Best Practices из библиотеки NetApp.

Всего в сентябре мы опубликовали перевод преыдущей версии этой работы, и вот уже в декабре у NetApp вышла новая, версия 3.0, а в январе мы готовы представить вам перевод. Основное дополнение этого перевода – изменения и дополнения, связанные с выходом версии VMware vSphere 5.

Если вы, по какой-то причине еще никогда не заходили на страничку техбиблиотеки, то самое время познакомиться с этим наиполезнейшим ресурсом документации на русском языке, включающем в себя наши переводы на самые разнообразные темы и области применений систем хранения NetApp.

Я уже писал про то, что такое OnCommand – новое объединяющее семейство софта производства NetApp. В него входят (и называются теперь OnCommand что-нибудь) как ранее известные продукты, так и вновь разрабатываемые, а также недавно приобретенные компанией.

Таким образом, OnCommand это не новый продукт, это новое общее название  для уже существующих (и будущих) продуктов, название программного семейства. Часть продуктов, в него входящих, является бесплатным, часть – платным, и лицензируемым по разному.

Все семейство делится на три основных области использования:

• Control – управление системами хранения NetApp
• Automate – автоматизация, представлена продуктом OnCommand Unifed Manager, и занимается серверной автоматизацией, созданием и применением политик, SLA.
• Analyze – анализ и оценка работы, которой знимается продукты OnCommand Insight. Анализ производительности, конфигураций, емкости для NetApp и других систем.

Вот что входит в семейство, как оно называлось до переименования, какой области принадлежит и как лицензируется:

Control

OnCommand System Manager – установка и первоначальная настройка новой системы хранения, а затем управление отдельно взятым контроллером/системой. Бесплатно.

OnCommand My Autosupport – web-based инструмент для оценки состояния здоровья, рисков, емкости и эффективности работы системы хранения. Бесплатно при наличии действующего контракта поддержки.

OnCommand Report – создание настраиваемых отчетов о работе системы хранения.  Бесплатно.

Automate

OnCommand Unified Manager – ранее три продукта: Operations Manager, Protection Manager и Provision Manager. Построение централизованного RBAC, мониторинга, службы уведомлений и отчетов. Разработка политик защиты данных на системе хранения. Автоматизация процессов распределения емкости на системе. Бесплатно.

Virtual Storage Console – ранее так и существовала под этим названием, но теперь формально входит в семейство OnCommand Automate. Позволяет администраторам виртуальной инфраструктуры создавать и распределять датасторы для VMware ESX непосредственно из интерфейса vCenter, упрощает и оптимизирует настройку системы хранения. Бесплатно.

SnapManager product suite – также хорошо известное семейство, теперь входит в OnCommand Automate. Упрощает создание автоматизированных application-consistent backup, уменьшает RTO приложений. Лицензируется либо на контроллер (unlimited hosts), либо по хостам.

Workflow Automator – Обеспечивает разработку процедур workflow в сложных случаях, которые не под силу Provisioing Manager. Бесплатно, но требует поупки услуг Professional Services.

Analyze

OnCommand Insight Discover – бывший SANscreen Service Insight. Необходимый компонент для работы идущих ниже продуктов Assure, Perform, Plan. Лицензируется по емкости  raw TB.

OnCommand Insight Assure – бывший SANscreen Service Assurance. Полный обзор всей IT-инфраструктуры в деталях, того, каким образом инфраструктура поддерживает приложение. Анализ областей повышенного риска для системы и приложений. Обнаружение “заброшенных” и неиспользуемых ресурсов в системе. Интеграция CMDB/ITIL. Лицензируется по емкости raw TB.

OnCommand Insight Perform – бывший SANscreen Application Insight. Анализ и настройка необходимых уровней хранения с точки зрения производительности, поиск источников проблем с производительностью. Лицензируется по емкости raw TB.

OnCommand Insight Plan – бывший SANscreen Capacity Manager. Планирование и отчет по емкости хранения для всей IT-инфраструктуры компании, учет расходов емкости, динамика, отчеты  о расходовании пространства. Лицензируется по емкости raw TB.

OnCommand Insight Balance – бывший Acorri BalancePoint. Глубокий анализ вопросов производительности виртуальной машины, углубленный на уровень ее OS и работающих в ней приложений. Оптимизация рабочих нагрузок виртуальной серверной инфраструктуры. Лицензируются системы серий FASx2xx  - на контроллер, старые FAS или сторонние стораджи – по емкости usable TB.

Дополнительно к трем перечисленным подсемействам следует упомянуть “объединяющий” их продукт управления – NetApp Manageability SDK, обеспечивающий программный интерфейс управления всеми продуктами OnCommand, и позволяет сторонним компаниям встраивать поддержку софта семейства OnCommad в свои продукты, или строить программные функциональные надстройки над теми или иными продуктами.

Ну, надеюсь все вернулись с российских “рождественских каникул” живые и, по возможности, здоровые, можно начинать новый год в блоге.

Начнем мы его сегодня легкой темой. В конце прошедшего года IDC опубликовала традиционный Storage Tracker, документ, описываюший состояние рынка систем хранения данных, и очередной “промежуточный финиш” в его бесконечной гонке. Так как результат публикуется в декабре, то он, естественно, не включает в себя четвертый квартал, оценивается первых три квартала года, с января по сентябрь, у IDC это принято называть YTD.

Итак, вот какие результаты долей рынка “в долларах” IDC приводит по первой пятерке вендоров. Обратите внимание, что подсчет идет “branded”, то есть по торговым маркам, IBM N-series считается как IBM. Open Networked это сумма NAS и SAN-систем, но без DAS и Mainframes.

А вот какова динамика Revenue (в долларах, заработок):

Как вы видите, в этом году росли только EMC и NetApp, IBM падает второй год подряд, а HP… Sic transit gloria mundi. Не будем о грустном :(

Так уж традиционно получилось, что, обычно, публикуют только вот вышеприведенные результаты “в долларах”, заработка. Однако в Storage Tracker всегда приводится и еще одна метрика, а именно – продажи “объемов хранения” в петабайтах.

Позволю себе привести и эти результаты, потому что больно уж они интересны.

Вы видите, насколько, в данном случае, интереснее ситуация, особенно когла сравнивать ее с revenue.

А вот вам график с динамикой:

Причем это, хочу отметить, raw storage, то есть простая сумма всех маркетиновых raw-байт проданных с системами дисков. Без учета дальнейших “софтверных” средств повышения емкости, таких как дедупликация и thin provisioning. Просто прямая сумма: продан сторадж с 20 дисками SAS 600GB, пишем соответствующему вендору 12000GB проданной capacity.

Несмотря на то, что обычно при оценке принято меряться по revenue, мне по-прежнему кажется, что метрика проданных петабайт в каком-то смысле честнее. Потому что уплаченные деньги это еще не сторадж для данных, а вот терабайты – это уже сторадж.

Хороший получается ответ людям, утверждающим, что “терабайт” на нетаппе, якобы, “стоит дороже”, чем терабайт у конкурентов. Можно даже примерно посчитать стоимость “усредненного терабайта” по приведенным данным. И это, еще раз отмечу, до использования RAID-DP, дедупликации, снэпшотов и thin provisioning. При их использовании результат станет, очевидно, еще лучше.

Особенно поучительно всегда бывает сравнивать два графика. Например у EMC, с 2008 по 2010 год, продажа емкости хранилища, по данным IDC, падала, но revenue при этом – стабильно росло, то есть за бОльшие деньги два года подряд продавались меньшие объемы хранения. Как, почему – вопрос к EMC :) Их графики в двух этих схемах, пожалуй, наболее ярко и выразительно расходятся между собой.

Впрочем, я всегда говорил, что у EMC самая сильная в отрасли сэйловая команда,  способная стабильно продавать даже снег эскимосам и солярии тайцам ;) Это похвала, если кто не заметил :)

Блог, в лице своей редакции, совета директоров, бенефициаров и авторского коллектива ;) уходит в отпуск до середины января.
Ну потому что все равно никто в период The Russian Christmas его, согласно вебстатистике, не читает.
Нацию косит жестокий отходняк “с первого по тринадцатое” (с)
Так что ведите себя хорошо, вернемся к регулярности в наступающем году.

А это вам место проведения нашего отпуска :)

Когда вы поставили и запустили симулятор Data ONTAP 8, вы увидите, что он идет с 28 (2х14) “дисками”, размером 1GB. Этого в общем вполне достаточно для большинства целей использования, однако, если вам потребуется больше дисков, вы можете увеличить их количество (но не размер!) до 56 штук. Обратите внимание, что вы не можете увеличить размер дисков, он для симулятора не может превышать 1GB. Ну… например чтобы не было соблазна устраивать из не предназначенного для этого симулятора бесплатный “виртуальный сторадж” ;). Как говорил один большой друг СССР – “Doverjai no proverjai!” ;)

Но сперва стоит немного остановится на некоторых деталях.

В отличие от Data ONTAP 7, в версии 8 появился специальный user-mode shell (консоль админа, несмотря на внешнюю схожесть, шеллом как таковым не является). Он доступен для специального, отключенного в целях безопасности, пользователя diaguser.

Мы рассмотрим добавление дисков только для симулятора 7-Mode. Для Cluster-mode это возможно также, но чтобы не удлиннять пост я его опущу (если кому-то понадобится процедура для Cluster-mode Simulator – напишите).

Итак, начнем с того, что разблокируем diaguser, от имени которого в шелле мы проделаем операции добавления:

priv set advanced
useradmin diaguser unlock
useradmin diaguser password

Теперь зайдем с systemshell этм пользователем:

systemshell
login: diag
password: <password>

Далее нам придется поправить некий глюк, допущенный при сборке утилиты управления “дисками”. Добавим символьные линки на стандартные библиотеки, а то утилита не сможет их найти:

cd /lib
sudo mount -u -o rw /
sudo ln -s libc.so.6 libc.so.7
sudo mount -u -o ro /

Установим переменную пути:

setenv PATH "${PATH}:/sim/bin"
echo $PATH

И перейдем в директорию эмулированных устройств

cd /sim/dev
ls ,disks/

Тут вы увидите уже созданные 28 дисков. К ним мы сейчас добавим еще 28. Имена уже существующих файлов-дисков начинаются с v1 и v2, что означает, что они “подключены” к адаптерам v1 и v2. У нас есть еще два неиспользованных адаптера (v3 и v4), к каждому из которых мы “подключим” по 14 дисков (это похоже на то, как подключаются обычные FC-полки к адаптерам отдельной FC-“петлей”, каждая полка на 14 дисков на свой адаптер).

Для этого воспользуемся утилитой makedisk.main:

makedisks.main -h
sudo makedisks.main -n 14 -t 23 -a 2
sudo makedisks.main -n 14 -t 23 -a 3
ls ,disks/

Первая команда печатает пояснение по доступным ключам. Две другие создают по 14 дисков
(-n 14) с типом диска 23 (-t 23) на адаптерах 2 и 3 (-a 2 и -a 3). Симулятор Data ONTAP 8.0.1 поддерживает конструктивно только диски размером 1GB и менее. Даже если вы видите в подсказке команды диски большего размера, воздержитесь от соблазна попробовать добавить их в симулятор. С виртуальными дисками размером больше 1GB Data ONTAP упадет в panic при перезагрузке, и вам придется устанавливать симулятор заново.

Ну вот и все, что необходимо было сделать в шелле. Вернемся “по своим следам” из шелла в обычную админскую консоль, выйдя из шелла и запретив diaguser, перезагрузим симулятор и он увидит новые диски:

exit
useradmin diaguser lock
priv set admin
reboot

После перезагрузки необходимо назначить ownership новым дискам:

disk show -n
disk assign all
disk show -v

Теперь у вас в симуляторе 56 “дисков” по 1GB каждый. Они уже zeroed, и вы можете непосредственно добавить их в нужный вам aggregate.

Исходный текст был взят тут: https://communities.netapp.com/docs/DOC-9579

В ряде случаев, например когда вы планируете использовать несколько установленных симуляторов, подключенных в Operations Manager, необходимо задать каждому из этих симуляторов индивидуальный SystemID и Serial Number. В будущем в NetApp обещают генерировать при установке произвольный номер, а пока все симуляторы идут с одним. Поэтому нужно проделать небольшой трюк.

При начальной загрузке прервите ее и войдите в SIMLOADER.

Выполните там две следующие команды:

SIMLOADER> set bootarg.nvram.sysid=1111111101
SIMLOADER> set SYS_SERIAL_NUM=1111111101

SystemID это 10-значное число. Последние две цифры должны быть уникальны в пределах Cluster-mode кластера для того, чтобы обеспечить уникальность UID дисков. Таким образом первые 8 цифр определяют кластер, а последние 2 – ноду в этом кластере. Впрочем, если вы используете симулятор только как 7-mode, вам это не важно, назначьте туда любое 10-циферное число.

Дайте команду:

SIMLOADER> boot

Войдите в Boot Menu нажатием Ctrl-C и выберите там Maintenance mode boot

Переназначьте диски на новый SystemID, если вы уже назначили их ранее контроллеру на его прежний SystemID. Если вы делаете описываемую процедуру при самом первом старте, то переназначать диски еще не нужно, назначьте из обычным образом.

UPD: Приведенный метод, к сожалению, НЕ РАБОТАЕТ для Simulator версии 8.1, он работает только для 8.0.1