Внимание! Это временный неофициальный архив старой версии форума Полигон Призраков, созданный сочувствующим форуму участником. Этот сайт просуществует лишь до тех пор, пока администрация Полигона не сдержит своё обещание и не откроет официальный архив по адресу old.sannata.org.

Полигон-2

Форум о старых компьютерах

Объявление форума

Если пользуетесь личными сообщениями и получили по электронной почте оповещение о новом письме, не отвечайте, пожалуйста, почтой. Зайдите на форум и ответьте отправителю через ЛС.

Полигон-2 »   Технический флейм »   "Антикварный кластер".
RSS

"Антикварный кластер".

Мысль попытаться собрать кластер на куче лежачих десктопов Р1.

<<Назад  Вперед>> Страницы: 1 2 3 * 4 5
Печать
 
aT
Advanced Member


Откуда: Химки, МО
Всего сообщений: 640
Рейтинг пользователя: 0


Ссылка


Дата регистрации на форуме:
10 июля 2007
DOS Logic написал:
[q]
хм, ну а что ето кластер делать может?...
[/q]
- очень много чего, но эффективно - только не очень большой круг задач (см. ниже)

DOS Logic написал:
[q]
...А можна для начала в кластер подключить два компа?
[/q]
- для построения кластера достаточно использовать больше одного узла (компьютера)...


madmaks написал:
[q]
Ничего, разве что у вас есть 10 раздельных задач, которые надо запустить одновременно на десяти раздельных компьютерах или вы заняты написанием собственного софта, не опираясь на средства ОС.
[/q]
- ну почему же?? Есть ещё замечательный такой класс вычислительных задач, которые комфортно "лягут" на этот кластер:
- центральный компьютер рассылает узлам "задания", возможно с указанием, какой именно процедурой его обработать,
- узел обрабатывает "задание" и отсылает в центр результат,
- центр собирает результаты - в зависимости от задачи дожидаясь, либо не дожидаясь, когда все узлы обработают предыдущую порцию...
- ...и раздаёт новое задание...
- ...а сам в это время "собирает" результаты распределённого вычисления в кучу...


Поскольку скорость связей между узлами относительно невысока, такой кластер будет эффективен, когда собственно вычисления требуют больше времени, чем передача "заданий" и результатов...

Кстати, перекодирование ДВД - при некотором допущении - как раз из таких задач. Вопрос программного обеспечения, но об этом ниже...


madmaks написал:
[q]
Рашаривать аппаратуру по сети ни одна известная мне:
- полезная программа не может,
- ОС не может в принципе;
т.к. несмотря на заверения, что сеть интегрирована в ОС, сеть там просто регулярный драйвер, который зачем-то монолитом встроен в это самое ядро .
[/q]
- я вот не догоняю: а зачем(?!) при построении кластера "расшаривать аппаратуру"?

Для организации распределённых вычислений есть, во-первых, тщательно забытый ныне язык OCCAM - думаю, для "нашего" кластера оно в самый раз...
Для локального свопления (а много ли нужно будет свопиться-то? - у нас ведь не винды...) имеет смысл ставить больше оперативы и делать виртуальный диск...
В качестве операционки - надо присмотреться либо к *nix`ам, либо к QNX (к слову про QNX - madmaks, если ещё не знаком с этой штукой, советую почитать - там много интересного, в т.ч. с работой в сети...)
0leg
Advanced Member


Откуда: Город-герой Тула
Всего сообщений: 1991
Рейтинг пользователя: 0


Ссылка


Дата регистрации на форуме:
6 окт. 2007
madmax,
> Для свопа четырех компов можно гигабитную сеть поставить, но лучше соединения точка-точка
> (тогда можно сеть 100мегабитную), т.е. файловый сервер для своп-памяти при четырех кластерах
Вот мне интересно, с какого места ты начал читать эту тему? С середины, наверное? В первом посте речь шла о десятке первопней (P1-133). Ну какая гигабитная сеть на первопнях?! Там и 100 Мбит могут быть проблемой. А своп на NFS-серваке я предлагал применительно к 386-м компам, там этими 100 Мбитами и не пахнет!

> там просто регулярный драйвер, который зачем-то монолитом встроен в это самое ядро
Ты, случайно, не студент Э.Таненбаума? ;-)
madmaks
Full Member


Откуда: Россия, Ярославская обл., г. Углич
Всего сообщений: 204
Рейтинг пользователя: 0


Ссылка


Дата регистрации на форуме:
23 сен. 2008
aT написал:
[q]
я вот не догоняю: а зачем(?!) при построении кластера "расшаривать аппаратуру"?
[/q]
Когда попытаетесь написать программу, узнаете :) Подсказка - прикладная программа видит компоненты системы через ОС, а для распределенных вычислений эта ОС должна скрыть их географическое расположение. Требуется учесть эту ситуацию при разработке интерфейса ОС, также требуется немного внимания от прикладной программы, но только тогда будет возможно, что программа запущенная на одном компьютере будет исполнять свои процессы, например перекодировки ДВД, на других.

Другой вариант, что прикладная программа будет заниматься всем этим сама, мы в серьез не рассматриваем.


aT написал:
[q]
хм, ну а что ето кластер делать может?...
[/q]
На нем можно писать учебные программы, например.


aT написал:
[q]
Для организации распределённых вычислений есть, во-первых, тщательно забытый ныне язык OCCAM
[/q]
У вас есть учебник по нему? Я что-то не встречал. Кстати, вы все не шлете и не шлете мне мануал там какой-то, хотя сами рвались.
0leg
Advanced Member


Откуда: Город-герой Тула
Всего сообщений: 1991
Рейтинг пользователя: 0


Ссылка


Дата регистрации на форуме:
6 окт. 2007
madmaks,
> Другой вариант, что прикладная программа будет заниматься всем этим сама,
> мы в серьез не рассматриваем.
А, то есть вот как... Предлагаешь написать операционную систему?
madmaks
Full Member


Откуда: Россия, Ярославская обл., г. Углич
Всего сообщений: 204
Рейтинг пользователя: 0


Ссылка


Дата регистрации на форуме:
23 сен. 2008
0leg написал:
[q]
В первом посте речь шла о десятке первопней (P1-133)
[/q]
И что? Я говорю о варианте сети из четырех компов, для десяти придется или больше сетевых карт поставить, если есть свободные слоты, или еще и свап-серверов больше.


0leg написал:
[q]
Ну какая гигабитная сеть на первопнях?!
[/q]
Гигабитная сеть на первопнях это это сеть с пиковой пропускной способность один гигабит в секунду, что равносильно ста двадцати пяти мегабайтам в секунду. Если это все разделить на 4 компа, которые будут пытаться одновременно влезть в сеть, то получим наихудший пиковый трансфер для каждого компа равный тридцати одному с половиной мегабайтам в секунду.

Сетевую карту нужно будет для шины PCI. Шина PCI на первопнях это шина PCI с пиковой пропускной способностью 132 мегабайта в секунду.

По питанию 220 вольт. Питание 220 вольт на первопнях это питание 220 вольт переменного тока 50 герц. Обычный компьютер-первопень при полной загрузке потребляет не более 200 ватт (с монитором), сеть из четырех компов плюс файловый своп-сервер-первопень не будут расходовать более одного киловатта.

Если компьютер-первопень используется, то он всегда при хорошей загрузке из-за своей слабосильности.

Да, а компы эти надо не очень далеко располагать друг от друга, а то общая сеть гигабитная ваша выродится в 100 мегабитную, что для 4-х компов будет маловато.
[q]
Там и 100 Мбит могут быть проблемой.
[/q]
Не слышал о таких проблемах.
madmaks
Full Member


Откуда: Россия, Ярославская обл., г. Углич
Всего сообщений: 204
Рейтинг пользователя: 0


Ссылка


Дата регистрации на форуме:
23 сен. 2008
0leg написал:
[q]
А, то есть вот как... Предлагаешь написать операционную систему?
[/q]
Нет, говорю что не очень прлезно - кластер.
aT
Advanced Member


Откуда: Химки, МО
Всего сообщений: 640
Рейтинг пользователя: 0


Ссылка


Дата регистрации на форуме:
10 июля 2007
madmaks написал:
[q]
...Когда попытаетесь написать программу, узнаете... Подсказка - прикладная программа видит компоненты системы через ОС, а для распределенных вычислений эта ОС должна скрыть их географическое расположение. Требуется учесть эту ситуацию при разработке интерфейса ОС, также требуется немного внимания от прикладной программы, но только тогда будет возможно, что программа запущенная на одном компьютере будет исполнять свои процессы, например перекодировки ДВД, на других.
[/q]
- либо Вы не читали мой предыдущий пост, либо прицепились к наиболее простым из непонятных слов...

Еще раз:
---------------------
- на вычислительных узлах (ВУ) стоит какая-то ОС (а может и не стоит, может, все делается вычислительной прогой), которая ждёт от центрального узла (ЦУ) пакет с "заданием"
- получив задание ВУ его обрабатывает (сам! локальными - для него - процедурами) и отправляет в ЦУ пакет с "результатом"
- после чего ВУ курит в ожидании следующего "задания"...
---------------------
- на ЦУ стоит некая ОС (не важно, какая!)
- под её - ОС - управлением работает прикладная программа (ПП)
- ПП получает от пользователя "задачу", разбивает её на пакеты "заданий" и отправляет эти пакеты на ВУ.
- при получении пакета "результата" от ВУ ПП - при необходимости, если вычисления ещё не закончены - отправляет на ВУ следующий пакет с "заданием"
- из полученных от ВУ "результатов" ПП постепенно формирует "решение задачи"
- когда "решение" готово, ПП выдаёт его пользователю
---------------------

Ну и ответьте мне, пожалуйста: в каком месте предложенного мной варианта требуется "расшаривание оборудования"?


madmaks написал:
[q]
...Другой вариант, что прикладная программа будет заниматься всем этим сама, мы в серьез не рассматриваем...
[/q]
- интересно, чем настолько неприличным будет заниматься прикладная программа, что на это даже и посмотреть нельзя? ;) Чуть выше я написал, как работает кластерная система, о которой я говорю - что в ней - в Вашей трактовке - Прикладная Программа? И в каком месте ей может потребоваться "расшарить оборудование"??


madmaks написал:
[q]
aT написал:
[q]
хм, ну а что ето кластер делать может?...
[/q]
[/q]
- я не задавал этот вопрос, я на него отвечал - две больших разницы... ;)

ПОЧТИ ОФФ:

madmaks написал:
[q]
aT написал:
[q]
Для организации распределённых вычислений есть, во-первых, тщательно забытый ныне язык OCCAM
[/q]
У вас есть учебник по нему? Я что-то не встречал.
[/q]
- учебника нету, но из дома могу написать их [основательно заброшенный за непопулярностью] сайт - я оттуда в своё время скачивал и язык и мануалы... Впрочем, можете и самостоятельно в инете поискать...

СОВСЕМ ОФФ:

madmaks написал:
[q]
Кстати, вы все не шлете и не шлете мне мануал там какой-то, хотя сами рвались.
[/q]
- "мануал там какой-то" - это на самом деле Flambeaux Tech Help!, про который Вы в другой теме спрашивали. Я его Вам отсылал три раза на почту из профиля: два раза с Яндекс-почты, один раз с не-Яндекс - если не дошло, значит у Вас с ящиком трудности какие-то, т.к. Teodor`у дошло с первого раза - можете его попросить, чтоб он в местный "Файловый архив" положил... Я со всякими "Яндекс-файлами" разбираться не хочу...
0leg
Advanced Member


Откуда: Город-герой Тула
Всего сообщений: 1991
Рейтинг пользователя: 0


Ссылка


Дата регистрации на форуме:
6 окт. 2007
madmaks,
> Я говорю о варианте сети из четырех компов, для десяти придется или больше сетевых карт поставить
Количество непринципиально.

> получим наихудший пиковый трансфер для каждого компа равный тридцати одному
> с половиной мегабайтам в секунду.
Это — в теории. А на практике получается, что у компа будут и другие дела, кроме как свопиться через сеть. Кроме того, своп-сервер должен этот трафик ещё и обрабатывать. Первопень с гигабитом справится? Думаю, нет... И ещё, я молчу про стоимость гигабитных карточек...

> По питанию 220 вольт. Питание 220 вольт на первопнях это
А это, собсно, к чему?

> Да, а компы эти надо не очень далеко располагать друг от друга, а то общая сеть
> гигабитная ваша выродится в 100 мегабитную, что для 4-х компов будет маловато.
А первый пост темы ты всё-таки не читал... А ведь там сказано и про конструктивное исполнение кластера:
>> Появилась мысль сложить их стопкой,
и про сеть:
>> соединить сеткой 10/100 через хаб
Так что "сеть гигабитная" всё-таки ваша...

>> Там и 100 Мбит могут быть проблемой.
> Не слышал о таких проблемах.
Попробуй из P1-133 выжать 100 Мбит, и чтобы при этом ещё что-либо полезное делалось.
aT
Advanced Member


Откуда: Химки, МО
Всего сообщений: 640
Рейтинг пользователя: 0


Ссылка


Дата регистрации на форуме:
10 июля 2007
madmaks написал:
[q]
0leg написал:
[q]
А, то есть вот как... Предлагаешь написать операционную систему?
[/q]
Нет, говорю что не очень прлезно - кластер.
[/q]
- почему же не полезно? Очень даже полезно!

Я уже упоминал довольно абстрактную "вычислительную задачу" и притянул к ней "за уши" кодирование ДВД. Ещё можно предложить набрать в Яндексе что-нибудь типа "параллельные вычисления" и насладиться количеством ссылок...

До кучи, когда ехал с работы, вспомнил ещё одно направление для применения подобного кластера: имитационное моделирование вообще и многофакторный анализ в частности. Вместо того, чтобы на одном компьютере перебирать все заданные сочетания влияющих факторов, раскидываем эти сочетания на ВУ (сокращения такие же, как были приняты в моём посте выше) - пусть они их моделируют. Один ВУ выделяем для построения сводной таблицы (назовём его ПУ - промежуточный узел). Когда ВУ заканчивают моделирование, они отправляют результаты на ПУ и сообщение на ЦУ, что закончили. ЦУ - при необходимости - отправляет им следующую порцию исходных данных (например новые сочетания факторов или изменённые входные данные), а сам начинает ждать сводную таблицу от ПУ. Оператор в это время подготавливает на ЦУ новое задание для отправки на ВУ...

При условии, что все узлы - П1, можно ставить на узлах W`9x и использовать GPSS World - тогда всё это "распараллеливание" можно будет (с небольшим извращением:) реализовать средствами GPSS - наверное, надо в данном случае называть её ПП. Связи между узлами реализуются встроенными в ОС сетевыми возможностями...

Если узлы (как это мелькало в теме) будут на 386 - разумно использовать в качестве ОС DOS, в качестве ПП GPSS PC, а сеть реализовывать, например, через NW lite. "Распараллеливание" можно реализовать, например, через банальные .bat-файлы (это если просто, быстро и с извращением:)

Никакое "расшаривание оборудования" в данном случае не требуется - если, конечно, не придираться к тому, что для упрощения реализации надо будет "расшарить" в сеть на каждом ВУ и ПУ две директории на диске, а на ЦУ я ещё не решил сколько... Тоже, наверное, две...

Да-а... Жаль, не было у меня такого кластера, когда я диплом писал - вот я бы развернулся! Чем тупо ждать результатов, я бы лучше "распараллеливанием" занялся. И тему чуть-чуть другую взял - представляю рожи ГАКа: "Смотрите, смотрите - безумец! Построил кластер и на нём моделирует работу отказоустойчивой вычислительной системы..." Хм-м, кстати про отказоустойчивость: примитивную отказоустойчивость в смысле гарантированного выполнения расчётов при отказе нескольких ВУ можно реализовать даже средствами GPSS World. Извратиться, конечно, прийдётся посильнее, чем для просто распараллеливания, но вполне реально... Вот в случае с DOS + NW lite + GPSS PC извращаться надо будет уже утончённее - не знаю, удастся ли обойтись .bat-файлами...

Э-эх, размечтался я ;) А может, правда затеяться с распараллеленым моделированием на кластере?

ОФФ:
madmaks - посмотри ПМ.
alexey21
Junior Member


Откуда: Moscow
Всего сообщений: 111
Рейтинг пользователя: 0


Ссылка


Дата регистрации на форуме:
30 мар. 2008
falanger написал:
[q]
Мне обещали отдать десяток Р1-133 комплектных относительно в "лежачих" корпусах. Появилась мысль сложить их стопкой, соединить сеткой 10/100 через хаб на многопортовый, выделить одну машину на файл-сервер, еще одну на терминал ввода/вывода, а остальные на "вычислительные узлы".
Туда соответственно залить пингвинов на локальные паругиговые винты, если будут, или лить его по сетке и "попробовать со всей этой фигней взлететь"...
Если получится в плюсах 1) "антикварный" кластер 2) опыт администрирования и отладки кластера.
Вот такая вот загогулина...
[/q]
ИМХО, надо для начала опредилиться с задачей, которую оно будет решать. Те разные задачи решаются по разным схемам.
Да и возиться с компиляцие на медленных машинах - не очень - ограничений много... Взял бы 3-4 более-менее приличных машин и на них тренировался бы....

Пример использования: водрузить Gentoo или что другое, поднять под ним distcc на всех машинах и получится рапределенная компиляция приложений (те запускаем компиляцию пакета на одной машине, а задания раздаются всем машинам с distcc). И будет круто. Кстати, если кто знает, где взять toolchains для OS Yellow Dog Linux на процессоре ppc с помощью которого можно компилять приложения для x86?

ЗЫ а еще давно в тырнете пробегала картинка - чел взял вроде как маму п-200ммх (или что-то похожее), залил пеной наглухо, вывел только провода и заставил работать. Это я к тому, что можно даже без корпусов - слепить в один ком..... :biggrin:
<<Назад  Вперед>> Страницы: 1 2 3 * 4 5
Печать
Полигон-2 »   Технический флейм »   "Антикварный кластер".
RSS

1 посетитель просмотрел эту тему за последние 15 минут
В том числе: 1 гость, 0 скрытых пользователей

Последние RSS
[Москва] LIQUID-Акция. Сливаются разъемы CF
МС7004 и 7004А на AT и XT
Пайка термотрубок
Проммать s478 PEAK 715VL2-HT ( Full-Size SBC)
Подскажите по 386 материке по джамперам.

Самые активные 5 тем RSS