Полигон-2

Мне обещали отдать десяток Р1-133 комплектных относительно в "лежачих" корпусах. Появилась мысль сложить их стопкой, соединить сеткой 10/100 через хаб на многопортовый, выделить одну машину на файл-сервер, еще одну на терминал ввода/вывода, а остальные на "вычислительные узлы".
Туда соответственно залить пингвинов на локальные паругиговые винты, если будут, или лить его по сетке и "попробовать со всей этой фигней взлететь"...
Если получится в плюсах 1) "антикварный" кластер 2) опыт администрирования и отладки кластера.
Вот такая вот загогулина...

А что этот кластер будет делать?

Подписался на тему.
Интересно будет почитать о результатах.

Как вариант поставить на все 10 штук (параллельно) одну микруху - даташит http://www.5v.ru/pdf/5v3001b.pdf схемка включения простая все ноги использовать не надо только четыре всего семь деталей включая контроллер.

[q]

Но у меня есть книга "Как построить и использовать суперкомпьютер" Алексея Лациса.

[/q]

На твердом носителе?

А ты подумал, сколько эта "громадина" будет жрать енергии ? Счетчик не задымит от перенапряжения ?

Я где то с год назад тоже хотел собрать из 120-ых пней кластер для интереса, была тема такая поднималась - Кластеры - в этом наша сила!

Мне автор темы прислал диск с ClusterKnoppix'ом, но у меня так и не сложилось все это собрать и попробовать настроить/запустить...

Подписался на тему, ибо интересно

хм, ну а что ето кластер делать может?
ДВД в AVI перекодировать умеет? я бы мамок 10 с процами Р1 и ОЗУ собрал, винты и сетевые тоже есть....

А можна для начала в кластер подключить два компа?

0leg

[q]

Так, я что-то пропустил и у новых плат нет такого пункта?

[/q]

Если биос авард то в самом первом пункте, стоит "Halt on: all errors" типа остановка загрузки на любых ошыбках, а там можна поставить типу "без остановки"

А если биос АМИ то тоже где-то вначале такое есть....

[q]

Можно, только смысла нет...

[/q]

как нет, а научится, что сразу 10 компов включать

bschepan написал:

[q]

Мне автор темы прислал диск с ClusterKnoppix'ом,

[/q]

Можете поделится образом или болван нарезать и почтой заслать?

0leg написал:

[q]

> А можна для начала в кластер подключить два компа?
Можно, только смысла нет...

[/q]

Почему нет?
Ведь кластер используется не только при построении систем распределённых вычислений, но и для организации систем с повышенными требованиями к отказоустойчивости.

Под Линуксом из двух компов можно сделать, например, два сервера (основной/резервный), заюзать Heartbeat и получить вполне надёжную систему: при падении одного сервера, автоматически начнёт работу другой.

0leg написал:

[q]

Но эта идея так и заглохла из-за нехватки ОЗУ и сетевушек с бутромами...

[/q]

Чтобы не парится с сетевой загрузкой ОС на узлы и соотвественно сетвушками с бутромами (коорые впрочем легко "клонировать" имея программатор и ПЗУ) надо применять узы с локальными дисками. На которых будет лежать как сама ОС, так и SWAP ОС которая работает на узле. Что актуально при нашей хронической нехватки памяти.

0leg написал:

[q]

А для свопа ведь и не обязательно раздел на диске использовать, можно NFS-сервер поднять и хранить своп-файлы там.

[/q]

Нагрузка на и так не на самую быструю сеть обмена подскочит весьма сильно.

DOS Logic написал:

[q]

хм, ну а что ето кластер делать может?

[/q]

Ничего, разве что у вас есть 10 раздельных задач, которые надо запустить одновременно на десяти раздельных компьютерах или вы заняты написанием собственного софта, не опираясь на средства ОС.

Рашаривать аппаратуру по сети ни одна известная мне:
- полезная программа не может,
- ОС не может в принципе;
т.к. несмотря на заверения, что сеть интегрирована в ОС, сеть там просто регулярный драйвер, который зачем-то монолитом встроен в это самое ядро .

DOS Logic написал:

[q]

хм, ну а что ето кластер делать может?...

[/q]

- очень много чего, но эффективно - только не очень большой круг задач (см. ниже)

DOS Logic написал:

[q]

...А можна для начала в кластер подключить два компа?

[/q]

- для построения кластера достаточно использовать больше одного узла (компьютера)...


madmaks написал:

[q]

Ничего, разве что у вас есть 10 раздельных задач, которые надо запустить одновременно на десяти раздельных компьютерах или вы заняты написанием собственного софта, не опираясь на средства ОС.

[/q]

- ну почему же?? Есть ещё замечательный такой класс вычислительных задач, которые комфортно "лягут" на этот кластер:
- центральный компьютер рассылает узлам "задания", возможно с указанием, какой именно процедурой его обработать,
- узел обрабатывает "задание" и отсылает в центр результат,
- центр собирает результаты - в зависимости от задачи дожидаясь, либо не дожидаясь, когда все узлы обработают предыдущую порцию...
- ...и раздаёт новое задание...
- ...а сам в это время "собирает" результаты распределённого вычисления в кучу...

Поскольку скорость связей между узлами относительно невысока, такой кластер будет эффективен, когда собственно вычисления требуют больше времени, чем передача "заданий" и результатов...

Кстати, перекодирование ДВД - при некотором допущении - как раз из таких задач. Вопрос программного обеспечения, но об этом ниже...


madmaks написал:

[q]

Рашаривать аппаратуру по сети ни одна известная мне:
- полезная программа не может,
- ОС не может в принципе;
т.к. несмотря на заверения, что сеть интегрирована в ОС, сеть там просто регулярный драйвер, который зачем-то монолитом встроен в это самое ядро .

[/q]

- я вот не догоняю: а зачем(?!) при построении кластера "расшаривать аппаратуру"?

Для организации распределённых вычислений есть, во-первых, тщательно забытый ныне язык OCCAM - думаю, для "нашего" кластера оно в самый раз...
Для локального свопления (а много ли нужно будет свопиться-то? - у нас ведь не винды...) имеет смысл ставить больше оперативы и делать виртуальный диск...
В качестве операционки - надо присмотреться либо к *nix`ам, либо к QNX (к слову про QNX - madmaks, если ещё не знаком с этой штукой, советую почитать - там много интересного, в т.ч. с работой в сети...)

aT написал:

[q]

я вот не догоняю: а зачем(?!) при построении кластера "расшаривать аппаратуру"?

[/q]

Когда попытаетесь написать программу, узнаете Подсказка - прикладная программа видит компоненты системы через ОС, а для распределенных вычислений эта ОС должна скрыть их географическое расположение. Требуется учесть эту ситуацию при разработке интерфейса ОС, также требуется немного внимания от прикладной программы, но только тогда будет возможно, что программа запущенная на одном компьютере будет исполнять свои процессы, например перекодировки ДВД, на других.

Другой вариант, что прикладная программа будет заниматься всем этим сама, мы в серьез не рассматриваем.


aT написал:

[q]

хм, ну а что ето кластер делать может?...

[/q]

На нем можно писать учебные программы, например.


aT написал:

[q]

Для организации распределённых вычислений есть, во-первых, тщательно забытый ныне язык OCCAM

[/q]

У вас есть учебник по нему? Я что-то не встречал. Кстати, вы все не шлете и не шлете мне мануал там какой-то, хотя сами рвались.

0leg написал:

[q]

В первом посте речь шла о десятке первопней (P1-133)

[/q]

И что? Я говорю о варианте сети из четырех компов, для десяти придется или больше сетевых карт поставить, если есть свободные слоты, или еще и свап-серверов больше.


0leg написал:

[q]

Ну какая гигабитная сеть на первопнях?!

[/q]

Гигабитная сеть на первопнях это это сеть с пиковой пропускной способность один гигабит в секунду, что равносильно ста двадцати пяти мегабайтам в секунду. Если это все разделить на 4 компа, которые будут пытаться одновременно влезть в сеть, то получим наихудший пиковый трансфер для каждого компа равный тридцати одному с половиной мегабайтам в секунду.

Сетевую карту нужно будет для шины PCI. Шина PCI на первопнях это шина PCI с пиковой пропускной способностью 132 мегабайта в секунду.

По питанию 220 вольт. Питание 220 вольт на первопнях это питание 220 вольт переменного тока 50 герц. Обычный компьютер-первопень при полной загрузке потребляет не более 200 ватт (с монитором), сеть из четырех компов плюс файловый своп-сервер-первопень не будут расходовать более одного киловатта.

Если компьютер-первопень используется, то он всегда при хорошей загрузке из-за своей слабосильности.

Да, а компы эти надо не очень далеко располагать друг от друга, а то общая сеть гигабитная ваша выродится в 100 мегабитную, что для 4-х компов будет маловато.

[q]

Там и 100 Мбит могут быть проблемой.

[/q]

Не слышал о таких проблемах.

madmaks написал:

[q]

...Когда попытаетесь написать программу, узнаете... Подсказка - прикладная программа видит компоненты системы через ОС, а для распределенных вычислений эта ОС должна скрыть их географическое расположение. Требуется учесть эту ситуацию при разработке интерфейса ОС, также требуется немного внимания от прикладной программы, но только тогда будет возможно, что программа запущенная на одном компьютере будет исполнять свои процессы, например перекодировки ДВД, на других.

[/q]

- либо Вы не читали мой предыдущий пост, либо прицепились к наиболее простым из непонятных слов...

Еще раз:
---------------------
- на вычислительных узлах (ВУ) стоит какая-то ОС (а может и не стоит, может, все делается вычислительной прогой), которая ждёт от центрального узла (ЦУ) пакет с "заданием"
- получив задание ВУ его обрабатывает (сам! локальными - для него - процедурами) и отправляет в ЦУ пакет с "результатом"
- после чего ВУ курит в ожидании следующего "задания"...
---------------------
- на ЦУ стоит некая ОС (не важно, какая!)
- под её - ОС - управлением работает прикладная программа (ПП)
- ПП получает от пользователя "задачу", разбивает её на пакеты "заданий" и отправляет эти пакеты на ВУ.
- при получении пакета "результата" от ВУ ПП - при необходимости, если вычисления ещё не закончены - отправляет на ВУ следующий пакет с "заданием"
- из полученных от ВУ "результатов" ПП постепенно формирует "решение задачи"
- когда "решение" готово, ПП выдаёт его пользователю
---------------------

Ну и ответьте мне, пожалуйста: в каком месте предложенного мной варианта требуется "расшаривание оборудования"?


madmaks написал:

[q]

...Другой вариант, что прикладная программа будет заниматься всем этим сама, мы в серьез не рассматриваем...

[/q]

- интересно, чем настолько неприличным будет заниматься прикладная программа, что на это даже и посмотреть нельзя? Чуть выше я написал, как работает кластерная система, о которой я говорю - что в ней - в Вашей трактовке - Прикладная Программа? И в каком месте ей может потребоваться "расшарить оборудование"??


madmaks написал:

[q]

aT написал:

[q]

хм, ну а что ето кластер делать может?...

[/q]

[/q]

- я не задавал этот вопрос, я на него отвечал - две больших разницы...

ПОЧТИ ОФФ:

madmaks написал:

[q]

aT написал:

[q]

Для организации распределённых вычислений есть, во-первых, тщательно забытый ныне язык OCCAM

[/q]

У вас есть учебник по нему? Я что-то не встречал.

[/q]

- учебника нету, но из дома могу написать их [основательно заброшенный за непопулярностью] сайт - я оттуда в своё время скачивал и язык и мануалы... Впрочем, можете и самостоятельно в инете поискать...

СОВСЕМ ОФФ:

madmaks написал:

[q]

Кстати, вы все не шлете и не шлете мне мануал там какой-то, хотя сами рвались.

[/q]

- "мануал там какой-то" - это на самом деле Flambeaux Tech Help!, про который Вы в другой теме спрашивали. Я его Вам отсылал три раза на почту из профиля: два раза с Яндекс-почты, один раз с не-Яндекс - если не дошло, значит у Вас с ящиком трудности какие-то, т.к. Teodor`у дошло с первого раза - можете его попросить, чтоб он в местный "Файловый архив" положил... Я со всякими "Яндекс-файлами" разбираться не хочу...

madmaks написал:

[q]

0leg написал:

[q]

А, то есть вот как... Предлагаешь написать операционную систему?

[/q]

Нет, говорю что не очень прлезно - кластер.

[/q]

- почему же не полезно? Очень даже полезно!

Я уже упоминал довольно абстрактную "вычислительную задачу" и притянул к ней "за уши" кодирование ДВД. Ещё можно предложить набрать в Яндексе что-нибудь типа "параллельные вычисления" и насладиться количеством ссылок...

До кучи, когда ехал с работы, вспомнил ещё одно направление для применения подобного кластера: имитационное моделирование вообще и многофакторный анализ в частности. Вместо того, чтобы на одном компьютере перебирать все заданные сочетания влияющих факторов, раскидываем эти сочетания на ВУ (сокращения такие же, как были приняты в моём посте выше) - пусть они их моделируют. Один ВУ выделяем для построения сводной таблицы (назовём его ПУ - промежуточный узел). Когда ВУ заканчивают моделирование, они отправляют результаты на ПУ и сообщение на ЦУ, что закончили. ЦУ - при необходимости - отправляет им следующую порцию исходных данных (например новые сочетания факторов или изменённые входные данные), а сам начинает ждать сводную таблицу от ПУ. Оператор в это время подготавливает на ЦУ новое задание для отправки на ВУ...

При условии, что все узлы - П1, можно ставить на узлах W`9x и использовать GPSS World - тогда всё это "распараллеливание" можно будет (с небольшим извращением реализовать средствами GPSS - наверное, надо в данном случае называть её ПП. Связи между узлами реализуются встроенными в ОС сетевыми возможностями...

Если узлы (как это мелькало в теме) будут на 386 - разумно использовать в качестве ОС DOS, в качестве ПП GPSS PC, а сеть реализовывать, например, через NW lite. "Распараллеливание" можно реализовать, например, через банальные .bat-файлы (это если просто, быстро и с извращением

Никакое "расшаривание оборудования" в данном случае не требуется - если, конечно, не придираться к тому, что для упрощения реализации надо будет "расшарить" в сеть на каждом ВУ и ПУ две директории на диске, а на ЦУ я ещё не решил сколько... Тоже, наверное, две...

Да-а... Жаль, не было у меня такого кластера, когда я диплом писал - вот я бы развернулся! Чем тупо ждать результатов, я бы лучше "распараллеливанием" занялся. И тему чуть-чуть другую взял - представляю рожи ГАКа: "Смотрите, смотрите - безумец! Построил кластер и на нём моделирует работу отказоустойчивой вычислительной системы..." Хм-м, кстати про отказоустойчивость: примитивную отказоустойчивость в смысле гарантированного выполнения расчётов при отказе нескольких ВУ можно реализовать даже средствами GPSS World. Извратиться, конечно, прийдётся посильнее, чем для просто распараллеливания, но вполне реально... Вот в случае с DOS + NW lite + GPSS PC извращаться надо будет уже утончённее - не знаю, удастся ли обойтись .bat-файлами...

Э-эх, размечтался я А может, правда затеяться с распараллеленым моделированием на кластере?

ОФФ:
madmaks - посмотри ПМ.

Пока компы не отдали, но обещание подтвердили. Так что идя пока еще жива. Хотя и не на переднем плане по актуальности.

UFO - в принципе, какие-то варианты зеркалирования серверов под Виндами существуют. Только надо много читать. В винде чуть ли не встроенная система зеркалирования есть... Короче, Яндекс, Микрософт.ком и т.п....

Значит, из присутствующих людей никто на практике этим не занимался?