[Aestgard]

Müüa töötav ja kohapeal testitav 1U GPU-server mis on kohandatud lokaalseks AI interferensiks ja LLM'ide katsetamiseks (Ollama jooksutamiseks, koodimismudelite jm. jaoks)

Praegu on peale laetud qwen3-coder:30b-a3b-q8_0 mis töötab selle raua peal rahulikult, genereerib 42-43 tokenit sekundis ja lisaks mudelile mahub mällu 64-128K konteksti (1-3 kasutajat) ühe kasutajaga surudes isegi kuni 256K. Enamik mõistlikuid kvante kuni 30-35b mudelitest (Llama 3.x, Qwen, Gemma, Mistral, DeepSeek jne.) mahuvad peale koos normaalse kontekstiga.

Masin asub Tallinnas. Soovi korral saab kohapeal enne ostu käima panna ja üle vaadata. Müük "nii-nagu-on", peale käimamineku garantii mingit täiendavat garantiid ega edasist tuge ei paku.

Riistvara
Bull SAS R421-E4 GPU server/ SuperMicro X9 platvorm
2 × Intel Xeon E5-2680 v3
40 GB DDR4 ECC RAM
3 × NVIDIA Tesla P100 PCIe 16 GB
256 GB SSD (SanDisk X400)
1600W PSU

GPU pool
Kõik 3 GPU-d on nähtavad ja töökorras
ECC sees, vealoendurid nullis
PCIe Gen3 x16 kõigil kaartidel
Kokku 48 GB HBM2 VRAM-i

Tarkvara
(Suhteliselt) värske install - annan kaasa koos kõigi salasõnadega, ostja saab soovi korral nii nagu on edasi kasutada.
Ubuntu 25.10
NVIDIA driver 580.126.09
Docker + Docker Compose paigaldatud
NVIDIA Container Toolkit seadistatud
Ollama töötab Docker Compose all
Laetud kohalik mudel: qwen3-coder:30b-a3b-q8_0

Töö
nvidia-smi töötab
Kõik 3 P100 kaarti töötavad stabiilselt
Ollama API vastab
Mudel ja kontekst jookseb üle kõigi 3 GPU (pipeline parallelism töötab)
Tühikäigul võtab seinast ~164W
Täiskoormusel (sünteetiline) <800W
Töökoormuseld (30b mudeliga ja 256K kontekstiga "gaas põhjas" arvutades) <500W

Mõõdud
1U rack server
Laius 19" (44.5 cm)
Sügavus 80 cm
Kaal 17.1 kg

Oluline
Tegu on serverrauaga, mitte lauaarvutiga - masin on koormuse all lärmakas nagu 1U server ikka.
Sobib inimesele, kes teab, mida ostab.

Asukoht: Tallinn
AH: 900.-
OK: 1200.-

Eelistatud on käest-kätte tehing Tallinnas, et ostja saaks masina enne raha üleandmist üle vaadata ja käima panna. Tallinna piires võin kohale tuua. Mujale saatmine ainult kulleriga (kobakas tükk) või CargoBus'iga, ostja kulul, täis ettemaksuga (ostusumma+transpordi maksumus) ning ostja vastutusel.