Tegin elu esimese GPU uuenduse LLMide pärast. Läksin 16GB 7800XT pealt 24GB 7900XTX peale.
Phi4 mudel mis mahtus mõlema GPU VRAMi ära läks 42->62 tpsi (tokens per second) peale.
Gemma3:27B mudel mis enne swappis RAMis läks üle kolme korra kiiremaks: 9->35 tps
Voolutarve tehase OC seadetel on muidugi haige. Lühike vastus gemma3'lt näitas 480W peak ja pikem 497W peaki (339W sustained). Soe õhk hakkas samal ajal jalakarvu aktiivselt liigutama ja coil whine oli ka platsis. Imestan, et mu liikuvate osadeta 550W ratinguga PSU pille kotte ei pakkinud.
Power limit -15% võttis coil whine'i ära ja voolutarve tuli ka vastavalt alla. Lõpuks lasin veel takti 25% alla, VRAMi on +5% ja sain 234W (sustained, mitte max) kuluga 17% jõudluse kadu LLMe jooksutades. Võimalik et annab midagi paremat veel välja pigistada aga praegu olen igatahes väga rahul
E: 7900 XTX mälu ribalaius 960.0 GB/s ja 7800 XT 624 GB/s, vahe on 1,5x ja täpselt sama palju läks phi4 ka kiiremaks. _________________ LLM gang be like: Bro do you even RAG
Katseta, palju pinget saad alla tuua. Mu Nitro+ tiksub 1040mv peal ja klokkub seetõttu ka kõrgemale (kohati lausa >3000mhz, kui GPUz logi jälgida). Coil whine ongi ilmselt seepärast, et lahja toide ei suuda suure koormuse all stabiilset pinget hoida. _________________ Liitu Binance'ga Liitu Honey'ga
Katseta, palju pinget saad alla tuua. Mu Nitro+ tiksub 1040mv peal ja klokkub seetõttu ka kõrgemale (kohati lausa >3000mhz, kui GPUz logi jälgida). Coil whine ongi ilmselt seepärast, et lahja toide ei suuda suure koormuse all stabiilset pinget hoida.
Mul on hetkel takt capitud üldse 2.2 GHz peale LLMide vaatest on kõik mälu ribalaiuse taga kinni, seega lasengi praegu VRAMi OC 2700+fast timings (1,037TB/s). Kuna mul 100Hz molu, siis see 2,2GHz GPU pole veel hakanud kuidagi piirama ka.
Kahju et power limitit ainult -10% panna annab, muidu saaks huvitavamaid seadeid katsetada.
E: Hmm, 1150->1100mV võttis gamingus 12W maha ja 8W LLMiga maha praeguste seadetega. Nice. _________________ LLM gang be like: Bro do you even RAG
tundub, et see llm'dega mängimine on põhimõtteliselt täpselt sama protseduur nagu aastaid tagasi oli gpu mining mäletan end tegemas samu asju, gpu pinget all, takti natuke alla, power limitiga vist sai ka jahmerdatud jne. miski 5 või 6 kaarti masinas paralleelselt jooksmas ja pidi saama a'la ühe 800w toiteka taga kõik see värk hakkama _________________ "There will be an entire generation of deaf audio enthusiasts who were brought up on CD players and Best Buy receivers, electronic music and so on. These people won't know good sound if it bites them in the ass, so in the end the industry wins."
Oleks juba aeg selleks ammu. Valikuvõimalus olla, kes tahab rohkem "clean" kasti, siis just see GPU power juhe enamasti on jalus. _________________ Sõim ja räuskamine läheb SIIA
kõik, kellele 12vhpwr asi ei meeldi, peaks olema selle asjaga päris ettevaatlikud. praktiliselt kõik tänaseni nähtud lahendused kasutavad 12vhpwr asja psu-st emaplaadile. ritta lisandub vähemalt üks connector (gc-hpwr). removable connectori puhul kaks. kodune arvutamisülesanne - kui suur peaks olema rada emaplaadil, et ideaaljuhul 25a või kehval juhul 50a sealt läbi ajada. ma ei ole emaplaadi vooludisaini poolega nii hästi kursis aga selline vooluhulk peaks ka varjestuse küsimusi tõstatama?
edit:
sorry, 1000+w, ehk räägime üle 80 amprist. _________________ - londiste
...aga mina ei saa kunagi suureks!
Oleks juba aeg selleks ammu. Valikuvõimalus olla, kes tahab rohkem "clean" kasti, siis just see GPU power juhe enamasti on jalus.
Ise lootsin ka oma 9800X3D istutada BTF platele ja kablad jätta kasti teisele küljele aga Asus suutis niikaua muneda plate väljastamisega pluss ainult valge, et ei viitsind oodata - sain praeguse plate ülisoodsalt.
Mis puutub sellesse grafakaardi ühendusse siis Asuse puhul on see häda, et kui Asuse enda BTF kaardil see olemas siis kaardil tavapistikut pole. See aga loob olukorra kus kaarti hiljem pea võimatu müüa. Ehk siis see lahendus kus olemas on mõlemad on päris äge. Seda kasutades võiks eeldada, et kaabli väänamist on vähem kuna kasti teisel küljel pole ju välimus niikuinii nii oluline + kui midagi peaks pekki minema siis pigem plate mis on oluliselt odavam kui mingi 3k maksev kaart.
Aga jahh, kogu BTF laadne asi võiks jõuda niipalju massidesse, et kui tuleb uus CPU/GPU ja socket siis oleks ka adekvaatsed jupid suht kohe saadaval mitte generatsiooni nö. eluaea lõpus.
Oleks juba aeg selleks ammu. Valikuvõimalus olla, kes tahab rohkem "clean" kasti, siis just see GPU power juhe enamasti on jalus.
Ise lootsin ka oma 9800X3D istutada BTF platele ja kablad jätta kasti teisele küljele aga Asus suutis niikaua muneda plate väljastamisega pluss ainult valge, et ei viitsind oodata - sain praeguse plate ülisoodsalt.
Mis puutub sellesse grafakaardi ühendusse siis Asuse puhul on see häda, et kui Asuse enda BTF kaardil see olemas siis kaardil tavapistikut pole. See aga loob olukorra kus kaarti hiljem pea võimatu müüa. Ehk siis see lahendus kus olemas on mõlemad on päris äge. Seda kasutades võiks eeldada, et kaabli väänamist on vähem kuna kasti teisel küljel pole ju välimus niikuinii nii oluline + kui midagi peaks pekki minema siis pigem plate mis on oluliselt odavam kui mingi 3k maksev kaart.
Aga jahh, kogu BTF laadne asi võiks jõuda niipalju massidesse, et kui tuleb uus CPU/GPU ja socket siis oleks ka adekvaatsed jupid suht kohe saadaval mitte generatsiooni nö. eluaea lõpus.
Ühes computexi videos oli kaart, kus eespool oli ka ühendus ja sai kriitikat, et seal võiks mingi "cover" olla, et seda peita. _________________ Steam: Renq Origin: Renq86 Uplay: Renq86
Ühes computexi videos oli kaart, kus eespool oli ka ühendus ja sai kriitikat, et seal võiks mingi "cover" olla, et seda peita.
No ideeliselt saaks olla nö. plastikust slaider mida saab lükata kas ette või siis eest ära (mingil äkki AMD kaardil oli RGB sedasi tehtud) aga pesa nägemine oleks ikkagi väike probleem võrreldes sellega kui seal ripub kaabel küljes.
Millalgi aasta teises pooles tuleb siis FSR 4 uuem versioon mis kirjelduse järgi saab veel parema upscalingu (DLSS4 võrdne/parem?) ja ML põhise framegeni. Tegelikult nende pragune framegen on üllatavalt hea, kuigi see pole ML põhine.
Ühtlasi vaste Nvidia Ray Reconstructionile.
1080p gaming ässad vast veel saavad 8GB kaartidega hakkama. Iseasi, kas nad seda 9060XT jõudlust soovivad. Aga nõus, et 8GB võiks juba minevikuks jääda.
No mina jällegi olen endiselt seda meelt, et e-sport koondub suures mahus 1080p ümber ning FPS on asi mida viimasel ajal ühe enam hinnatakse olenemata sellest, et mingid tüübid mind räusates siin debiilikuks sõimavad. Selleks ei pea olema 560hz monitor, et viiesajast FPSist kasu oleks. Kui mängitakse hea 240hz monitoriga ning suudetakse tekitada olukord kus 0,1% low on üle refres rate, siis on see fantastiline mänguelamus siiski ning saab olla kindel, et seal ei jää mitte midagi piirama.
Tõsi ta on, et selliseid mängijad moodusatavad väikese osa seltskonnast kuid ma ei saaks öelda, et see on puudulik nõudlus. Hea jõudlusega 8gb kaart on täiesti normaalne asi turul kui hind on vastav, minu arust on selline väga ärev ja odav 8gb kaart puudu hetkel turult täpselt. _________________ Emotsionaalne suruja
https://hwbot.org/users/tannu013/
No mina jällegi olen endiselt seda meelt, et e-sport koondub suures mahus 1080p ümber ning FPS on asi mida viimasel ajal ühe enam hinnatakse olenemata sellest, et mingid tüübid mind räusates siin debiilikuks sõimavad. Selleks ei pea olema 560hz monitor, et viiesajast FPSist kasu oleks. Kui mängitakse hea 240hz monitoriga ning suudetakse tekitada olukord kus 0,1% low on üle refres rate, siis on see fantastiline mänguelamus siiski ning saab olla kindel, et seal ei jää mitte midagi piirama.
Tõsi ta on, et selliseid mängijad moodusatavad väikese osa seltskonnast kuid ma ei saaks öelda, et see on puudulik nõudlus. Hea jõudlusega 8gb kaart on täiesti normaalne asi turul kui hind on vastav, minu arust on selline väga ärev ja odav 8gb kaart puudu hetkel turult täpselt.
Paraku 8GB ei ole odav. Kui see oleks 200, max 250, siis võibolla veel, aga ei ole ju. MSRP+juurdehindlus tähendab seda, et 8GB kaardid on letihindades 5060 puhul 330+ ja 5060 Ti puhul koguni 420+ mis juba täiesti absurdne.
Ma ei taha seda teemat muuta järjekordseks 8GB sõjatandriks. Kõik siin teavad minu arvamust selles osas.
ot:
Küll aga olen seda meelt, et resode suurenemist me enam lähitulevikus ei näe. 4K on jätkuvalt raske jooksutada ilma upscalingu ja framegenita. Veel kõrgemad resod on täielik nišš.
Paistab,et ka tootjad on sellest aru saanud ja panustavad pigem kõrgema värskendussageduse peale. Isegi kontorimonitorid on 60Hz pealt liikunud 90-120Hz peale. Nutitelefonid samuti.
Odavama otsa mängumonitorid (~200€ kandis) on 200Hz vabalt. Kõrgemas otsas käib mäng 500Hz kandis ja muidugi nišš TN on sellest veidi kõrgemal 600Hz kandis.
Ma arvan et selles osas on veel palju arenguruumi ilmselt kuni 1000Hz-ni. Resosi enam eriti kõrgemaks ei saa, sest monitore ei saa lõputult suuremaks muuta ja mingil hetkel on pildi teravus piisav enamus inimestele.
Arusaamatuks jääb scalerite ja seeläbi portidega koonerdamine. Olgu, sellest ma saan aru, et DP 2.1 scalerid on veel kallid ja 200€ monitorile neid ei pane, aga 700+ monitoril võiks neid juba kaaluda ja 1000+ monitoril peaks need olema iseenesest mõistetavad. Point ei ole selles kas seda vaja on. Point on selles, et mida kõrgem monitori omahind on, seda väiksem on seal scaleri hind BOM kulus.
Samahästi võib ju vaielda, et USB 2.0 on odavam kui USB 3.0 või 4. See ei tähenda, et me peaks igale poole toppima ainult 2.0.
Paistab, et lõpuks ometi kaart, mida 6600XT asemele osta.
Muidugi ainult juhul, kui saab 350€ eest. _________________ Müüa OnePlus 13 telefon
Müüa igasugu asju
sa ei või postitada uusi teemasid siia foorumisse sa ei või vastata selle foorumi teemadele sa ei või muuta oma postitusi selles foorumis sa ei või kustutada oma postitusi selles foorumis sa ei või vastata küsitlustele selles foorumis sa ei saa lisada manuseid selles foorumis sa võid manuseid alla laadida selles foorumis
Hinnavaatlus ei vastuta foorumis tehtud postituste eest.
:: KKK
:: otsing 
:: statistika
:: kasutajate nimekiri
:: kasutajate grupid
:: registreeri
teata moderaatorile
LLMide vaatest on kõik mälu ribalaiuse taga kinni, seega lasengi praegu VRAMi OC 2700+fast timings (1,037TB/s). Kuna mul 100Hz molu, siis see 2,2GHz GPU pole veel hakanud kuidagi piirama ka.
