Hinnavaatlus
:: Foorum
:: Uudised
:: Ärifoorumid
:: HV F1 ennustusvõistlus
:: Pangalink
:: Telekavad
:: HV toote otsing
|
|
autor |
|
vaegkuulja
Aeg maha 30
liitunud: 08.11.2007
|
04.10.2009 15:51:54
Cluster |
|
|
Hi, ärge näkku lööge aga ma pole just Linuxi kasutaja ja ennast pole asi väga huvitanud ka. Kuid on üks asi, mis Unix/Linuxi puhul on ka minu jaoks autoriteet.
See on masinate jõudluse liitmine clustri abil. Kahjuks Windowsi clustrid pole tõesti jõudluse liitmise peale üles ehitatud, vaid redundantsuse peale. Ühesõnaga mul on hunnik vanu mahakantud (tasuta saadud) masinaid, mida oleks võimalik keldriboxi kõik maast-laeni üles panna, kui saaks Linuxi clustrisse panna. Ise olen ma nii dumba, et ei hakka parem isegi uurima asja, nagunii panen lõpuks mööda. Mõistagi maksab selle konfimine ja sellega pean ma arvestama, ainult ma ei tea kui palju ja kas on kedagi kes sellist asja oskaks. Lõppeesmärk oleks siis saada kokku kõikide CPU'de jõudlus ja selle abil jooksutada virtuaalmasinat kus jookseks näiteks mingi Windows os või ka ESX oleks hea (kui üldse võimaldab).
|
|
Kommentaarid: 4 loe/lisa |
Kasutajad arvavad: |
   |
:: |
2 :: |
0 :: |
1 |
|
tagasi üles |
|
 |
wk
HV vaatleja
liitunud: 22.05.2007
|
|
Kommentaarid: 8 loe/lisa |
Kasutajad arvavad: |
   |
:: |
0 :: |
0 :: |
7 |
|
tagasi üles |
|
 |
gnoom
HV veteran
liitunud: 12.12.2003
|
|
Kommentaarid: 67 loe/lisa |
Kasutajad arvavad: |
   |
:: |
0 :: |
0 :: |
64 |
|
tagasi üles |
|
 |
Andrus Luht
itimees.ee

liitunud: 11.06.2002
|
|
Kommentaarid: 377 loe/lisa |
Kasutajad arvavad: |
   |
:: |
5 :: |
1 :: |
318 |
|
tagasi üles |
|
 |
Drake
Kreisi kasutaja
liitunud: 05.11.2001
|
05.10.2009 10:58:12
|
|
|
Rääkimata asjaolust, et kogu see kompott sööb ilmselt rohkem voolu kui arvutuslikku tulemust toodab, siis hypervisorit jooksutada mingi kasumiga on küll vähetõenäoline, isegi kui tegu oleks vmware-serveriga, mis võiks joosta otse selle liinuksi klastri peal.
Kui HPC on mõeldud selleks, et kogu supp on kokku liidetud üheks suureks arvutusmasinaks, et närida läbi x kogusest andmetest, siis virtualiseerimine on ikka peamiselt ühe masina võimsuse jagamine mitmeks.
Sina tahad aga mõlemat korraga, mis on ideeliselt õilis, kuid tööriistade kasutamise seisukohalt jabur.
Tee niisama klaster ja jooksuta soovitavaid teenuseid, või pane kõikidele rontidele hypervisor ja kui litsentse jätkub, siis tõmba kokku klastriks hypervisori tasandil.
Midagi aga annaks teha XEN-iga ehk ?
http://www.asplund.nu/xencluster/xen-cluster-howto.html
d.
_________________ On the other hand, I've turned rivers into blood... kings into cripples... cities into salt. So I don't think that I have to explain myself to you. -Gabriel- |
|
Kommentaarid: 87 loe/lisa |
Kasutajad arvavad: |
   |
:: |
0 :: |
2 :: |
82 |
|
tagasi üles |
|
 |
Andrus Luht
itimees.ee

liitunud: 11.06.2002
|
|
Kommentaarid: 377 loe/lisa |
Kasutajad arvavad: |
   |
:: |
5 :: |
1 :: |
318 |
|
tagasi üles |
|
 |
vaegkuulja
Aeg maha 30
liitunud: 08.11.2007
|
05.10.2009 14:55:58
|
|
|
BReaK da iCE kirjutas: |
Sa võid ehitada omale vanadest masinates HPC (High Performance Cluster) aga ühtegi hüperviisorit sa seal peal jooksutada ei saa. Asi selles, et HPC'd on loodud suurmahuliseks jagatud andmearvutuseks samas kui hüperviisorid tahavad väga-väga-väga intiimselt suhelda su protsessori(te)ga. Seda kohe kindlasti ei anna aga teha HPC baasil. |
Aga wk antud lingis selle BCCD kohta lugesin, et seal jookseb hüperviisorina VirtualBox, mis võib jooksutada ka Windowsi.
http://bccd.net/
Hüperviisor tahab muidugi emuleerida cpu käske, kuid mis takistab tal seda teha ja siis neid nodede peal jooksutada? HP ja IBM blade serverid on ju mõeldud clustriks kokku liitma, mille peal kokku siis hüperviisor jooksma hakkab.
p.s. mingeid konkreetseid matemaatilisi arvutusi mul polegi ja pole vaja ka serviceid, eesmärk on ikkagi saada kokku virtuaalmasin mille CPU näitaks näiteks 20 GHz. Poest ju ei saa osta 20 GHz proset ja ka multiprosega masinad ei anna kokku nii palju välja.
|
|
Kommentaarid: 4 loe/lisa |
Kasutajad arvavad: |
   |
:: |
2 :: |
0 :: |
1 |
|
tagasi üles |
|
 |
Andrus Luht
itimees.ee

liitunud: 11.06.2002
|
|
Kommentaarid: 377 loe/lisa |
Kasutajad arvavad: |
   |
:: |
5 :: |
1 :: |
318 |
|
tagasi üles |
|
 |
Drake
Kreisi kasutaja
liitunud: 05.11.2001
|
05.10.2009 15:21:08
|
|
|
Mitte ei loe seda välja et selle BCCD-d peal jookseks virtualbox, mis võimaldaks klastris jooksutada win-i - pigem see et nad soovitavad jooksutada bccd-d virtualboxis.
Blade süsteemid on ikka midagi muud kui võrguga kokku tõmmatud hpc-d ja siia neid segada oleks suht kohatu.
Ehk siis hypervisor saab normaalselt olla ikkagi ühe hosti peal, mitte jagatult üle võrgu. Küll aga saaksid sa kõik need relvad ühtse liinuksi bootimagega üles lasta ja HPC klastrisse tõmmata ja sinna peale mõne teenuse istutada. Või siis W2kX hpc klastrit proovida.
Üks funky lahendus on ka rocks clusters - http://www.rocksclusters.org/wordpress/
Ise pole sellist käima lasknud, kuna siiani on vajadus olnud NLB ja HA klastrite järgi.
d.
_________________ On the other hand, I've turned rivers into blood... kings into cripples... cities into salt. So I don't think that I have to explain myself to you. -Gabriel- |
|
Kommentaarid: 87 loe/lisa |
Kasutajad arvavad: |
   |
:: |
0 :: |
2 :: |
82 |
|
tagasi üles |
|
 |
vaegkuulja
Aeg maha 30
liitunud: 08.11.2007
|
05.10.2009 15:33:15
|
|
|
Drake kirjutas: |
Küll aga saaksid sa kõik need relvad ühtse liinuksi bootimagega üles lasta
|
No aga väga hea ju, milles probleem et ei saa hüperviisorit kasutada? Clustri peal jookseb kokku üks Linux, Linuxi peal jookseb mingi Linuxile installitav hüperviisor ja hüperviisori peal windows. Ma ei saanud aru millist laadi takistus ikkagi on?
.
|
|
Kommentaarid: 4 loe/lisa |
Kasutajad arvavad: |
   |
:: |
2 :: |
0 :: |
1 |
|
tagasi üles |
|
 |
Andrus Luht
itimees.ee

liitunud: 11.06.2002
|
|
Kommentaarid: 377 loe/lisa |
Kasutajad arvavad: |
   |
:: |
5 :: |
1 :: |
318 |
|
tagasi üles |
|
 |
vaegkuulja
Aeg maha 30
liitunud: 08.11.2007
|
05.10.2009 16:00:14
|
|
|
BReaK da iCE kirjutas: |
vaegkuulja, takistus on ilmselt sinul arusaamises, mis on cluster, mis on hüperviisor ja kuidas need kaks kokku ei käi HPC korral. |
Ma saan aru, et cluster pole opsüsteem vaid serviste pakkuja, kuid kas siis hüperviisori tööd ei anna serviste tasandile ümber konvertida?
.
|
|
Kommentaarid: 4 loe/lisa |
Kasutajad arvavad: |
   |
:: |
2 :: |
0 :: |
1 |
|
tagasi üles |
|
 |
Andrus Luht
itimees.ee

liitunud: 11.06.2002
|
|
Kommentaarid: 377 loe/lisa |
Kasutajad arvavad: |
   |
:: |
5 :: |
1 :: |
318 |
|
tagasi üles |
|
 |
no9
Kreisi kasutaja

liitunud: 07.03.2003
|
06.10.2009 21:14:10
Re: Cluster |
|
|
vaegkuulja kirjutas: |
Kuid on üks asi, mis Unix/Linuxi puhul on ka minu jaoks autoriteet.
See on masinate jõudluse liitmine clustri abil. Kahjuks Windowsi clustrid pole tõesti jõudluse liitmise peale üles ehitatud, vaid redundantsuse peale. |
Ei taha sind kurvastada, aga Linux ja cluster ei käi kohe mitte kokku. Opsüsteemi tasemel. Rakenduse tasemel võib igasugu trikke teha madalalatentsusega interconnectidega (myrinet, quadrics, infiniband jne jne). Ka DOSi otsas.
Unixitest mõistis klasterdust Tru64(aka OSF/1 jne). Infoks, et klasterdus kui selline oli sisse ehitatud ehk kõige õnnestunumalt VMSi üleüldse. Ka dragonflybsd on huvitav projekt, millel tasuks silma peal hoida.
Skaleeruvusest laiemalt rääkides, on stock linux üleüldse õnnetu. Kes tahab, uurib järgi, milliseid Unixeid/muid opsüse suurema raua peale pannakse.
Vabandan nelipühilaste ees, keda see jutt võis riivata. Kuid ehk annab selline mõttekäik lugemismaterjali teema algatajale ja tutvustab teda probleemidega, mida ei ole suudetud efektiivselt lahendada juba aastakümneid (algoritmide/töökoormuste lõputu paralleelseks tegemine). Ehk teinekord suudetakse lähtuda puhttehnilisest seisukohast ning ei hakata eeldama (et Windows on olemuselt kehvem kui Linux) usulistel kaalutlustel.
|
|
Kommentaarid: 30 loe/lisa |
Kasutajad arvavad: |
   |
:: |
0 :: |
0 :: |
27 |
|
tagasi üles |
|
 |
vaegkuulja
Aeg maha 30
liitunud: 08.11.2007
|
09.10.2009 16:59:40
Re: Cluster |
|
|
no9 kirjutas: |
vaegkuulja kirjutas: |
Kuid on üks asi, mis Unix/Linuxi puhul on ka minu jaoks autoriteet.
See on masinate jõudluse liitmine clustri abil. Kahjuks Windowsi clustrid pole tõesti jõudluse liitmise peale üles ehitatud, vaid redundantsuse peale. |
Ei taha sind kurvastada, aga Linux ja cluster ei käi kohe mitte kokku. Opsüsteemi tasemel. Rakenduse tasemel võib igasugu trikke teha madalalatentsusega interconnectidega (myrinet, quadrics, infiniband jne jne). Ka DOSi otsas.
Unixitest mõistis klasterdust Tru64(aka OSF/1 jne). Infoks, et klasterdus kui selline oli sisse ehitatud ehk kõige õnnestunumalt VMSi üleüldse. Ka dragonflybsd on huvitav projekt, millel tasuks silma peal hoida.
Skaleeruvusest laiemalt rääkides, on stock linux üleüldse õnnetu. Kes tahab, uurib järgi, milliseid Unixeid/muid opsüse suurema raua peale pannakse.
Vabandan nelipühilaste ees, keda see jutt võis riivata. Kuid ehk annab selline mõttekäik lugemismaterjali teema algatajale ja tutvustab teda probleemidega, mida ei ole suudetud efektiivselt lahendada juba aastakümneid (algoritmide/töökoormuste lõputu paralleelseks tegemine). Ehk teinekord suudetakse lähtuda puhttehnilisest seisukohast ning ei hakata eeldama (et Windows on olemuselt kehvem kui Linux) usulistel kaalutlustel. |
Selge see, et LAN ühendus on aastal 2009 veel nõrgem kui mälu ja cpu taktsagedus, mis muudab hyperviisori clusterdamise tänase seisuga võimatuks.
Muud takistust ei näe, kuna muu on juba tarkvara rida. Aga milleks emuleerida kõiki prose käske ja mälukasutust üle võrgu. Selle asemel juba täiesti piidaks kui emuleeritakse clustri tarbeks standardsemaid opsüsteemi protsesse. Näiteks DirectX, ActiveX, NET Framework, graafika renderdamine graafikakaardi eest, audio-video koodekid jne jne. Takistuseks näen ainult tarkvara kirjutamise laiskust. Mõistagi tuleks sel juhul kirjutada ka täiesti põhimõtteliselt uus hyperviisor.
Aga nagunii progejatel tegevusepuudus.
|
|
Kommentaarid: 4 loe/lisa |
Kasutajad arvavad: |
   |
:: |
2 :: |
0 :: |
1 |
|
tagasi üles |
|
 |
no9
Kreisi kasutaja

liitunud: 07.03.2003
|
11.10.2009 00:20:48
|
|
|
Reaaltaustaga(teades asjasse puutuvaid füüsikalisi piire) on natuke raske aru saada, mida sa saavutada tahad või milleks. Kas Mercury Systems (http://www.mc.com/) teeb midagi taolist, mida sa taga ajad? Noh, umbkaudselt, jättes kõrvale klasterdamise taseme.
Siiski loe veel kord, mis ma enne kirjutasin. Ehk on mul homme rohkem aega seletada, aga uuri wikipediat: http://en.wikipedia.org/wiki/Parallel_computing . Arvutid on arenenud nii, nagu nad seda teinud on, põhjusega. Või proovi veidi assembleris programmeerida (näiteks RISCi masina peal kuskil) - saad prose hingeeluga väheke paremini tuttavaks ja näed, miks mõned probleemid triviaalselt ei lahendu. Füüsika tundmine tuleb ka abiks. Väike ülesanne - kui kaugele levib valgus 2GHz prose takti jooksul? Ja kui kaugele elektriimpulss päris maailmas?
|
|
Kommentaarid: 30 loe/lisa |
Kasutajad arvavad: |
   |
:: |
0 :: |
0 :: |
27 |
|
tagasi üles |
|
 |
Spezz
HV veteran
liitunud: 21.08.2005
|
13.10.2009 20:12:52
|
|
|
no9 kirjutas: |
Väike ülesanne - kui kaugele levib valgus 2GHz prose takti jooksul? Ja kui kaugele elektriimpulss päris maailmas? |
Ma puht huvi pärast tahaks vastust ka teada
|
|
Kommentaarid: 70 loe/lisa |
Kasutajad arvavad: |
   |
:: |
1 :: |
0 :: |
66 |
|
tagasi üles |
|
 |
Andrus Luht
itimees.ee

liitunud: 11.06.2002
|
|
Kommentaarid: 377 loe/lisa |
Kasutajad arvavad: |
   |
:: |
5 :: |
1 :: |
318 |
|
tagasi üles |
|
 |
Ho Ho
HV Guru

liitunud: 16.02.2002
|
19.10.2009 17:27:44
Re: Cluster |
|
|
vaegkuulja kirjutas: |
Selle asemel juba täiesti piidaks kui emuleeritakse clustri tarbeks standardsemaid opsüsteemi protsesse. Näiteks DirectX, ActiveX, NET Framework, graafika renderdamine graafikakaardi eest, audio-video koodekid jne jne. Takistuseks näen ainult tarkvara kirjutamise laiskust. |
Winet oled pruukinud? Too isegi mitte ei emuleeri vaid transleerib lihtsalt funktsioonide väljakutsed ümber *nixi OS'i teekidele ning täidab lüngad oma koodiga. Kui videokaard-prose vahel liigub sekundis mõni giga andmeid siis mis nipiga plaanid sellist läbilaset saavutada kaudseltki saranse latsentsusega mitme kasti vahel?
_________________ Teach a man to reason and he'll think for a lifetime
Common sense - so rare that it's a damn superpower
Vaadates paljude inimeste sõnavõtte siin ja mujal jääb üle ainult klassikuid tsiteerida - "I weep for humanity" |
|
Kommentaarid: 106 loe/lisa |
Kasutajad arvavad: |
   |
:: |
0 :: |
1 :: |
86 |
|
tagasi üles |
|
 |
Andrus Luht
itimees.ee

liitunud: 11.06.2002
|
|
Kommentaarid: 377 loe/lisa |
Kasutajad arvavad: |
   |
:: |
5 :: |
1 :: |
318 |
|
tagasi üles |
|
 |
Ho Ho
HV Guru

liitunud: 16.02.2002
|
19.10.2009 17:54:10
|
|
|
Loomulikult on see võimalik. Näiteks AMD'l on selleks eraldi HT ühendus millega sai omavahel masinaid kokku pookida. Kiirus-efektiivsus on küll tunduvalt parem, kui üle LAN'i kuid kaugeltki mitte nii hea, kui native 8-way masinal.
_________________ Teach a man to reason and he'll think for a lifetime
Common sense - so rare that it's a damn superpower
Vaadates paljude inimeste sõnavõtte siin ja mujal jääb üle ainult klassikuid tsiteerida - "I weep for humanity" |
|
Kommentaarid: 106 loe/lisa |
Kasutajad arvavad: |
   |
:: |
0 :: |
1 :: |
86 |
|
tagasi üles |
|
 |
|