Hozzászólások
Elsődleges fülek
GPU-t akkor pasztázz, ha van hozzá vastagságban stimmelő pad a ramokra, vrm-re, mert ha leszeded a hűtést, valószínűleg szakadni fognak a rajta lévők, vagy már ki is vannak teljesen száradva. Ha nem magas a GPU hőfok (paszta még jó rajta), illetve a vrm\vram temp sem magasabb (hotspot is lehet, kártyafüggő), mint a gpu + max 15 fok, akkor ne babráld.
SZERK.:
OK tovább olvastam, valóban, aprón olcsóbb, de még akkor is brutális ára van.
Más, én meg lenyeltem a keserű pirulát, és beújítottam 32GB DDR5-öt, AM5 alaplapot (MSI), meg egy 9800x3d-t. Ezzel el leszek úgy... 6 -7 évig bőven.
32GB DDR4-et tegyél fel hardverapróra, és pozitív lesz a tranzakció mérleg :D
Nagyon nem vagyok én se szagértő, csak ami rám ragad. Nem lehet tudni mi áll a leállítás hátterében VALÓJÁBAN, mert ugye itt a befektetők elé muszáj nagyokat mondani, tehát simán lehet, hogy semmi nem igaz abból amit mi publikusan olvashatunk.
Ami nekem gyanús, az az, hogy irdatlan költségei vannak a modell futtatásának, akik használták a rövid időszakon belül, mind azt írták, hogy elképesztő gyorsan felemészti az előfizut, és iszonyat számlák johetnek ki.
Vagyis mielőtt elterjedt volna, le kellett lőni, nehogy szétterjedjen, hogy lehet, hogy fejlett a cucc, de egyszerűen olyan költségei vannak, hogy senki nem fogja használni a gyakorlatban: a befektetők rögtön negatívan álltak volna a helyzethez, hiszen nincsen userbase aki fizetne annyit amennyibe a fenntarthatósága kerülne.
Persze lehet simán, higy nem így van, én is csak találhatok.
A gond az, hogy pl. a claude Opus 4.6 is 1TB+ -os modell, de programozáshoz még így is sok kört kell futni vele, mire olyan a végeredmény, amire azt mondja az ember, hogy ez már jobb.
A lokális LLM-ekkel kb. esélytelen barmilyen értelmes munkát végezni, mert ilyen 32 billió paraméterekről beszélünk csak. Ami 1.2- 1.5 TB felett van, na azzal már lehet kezdeni produktív dolgokat viszonylag megbízhatóan, csak ugye ott meg az van amit írtam előzőleg.
Lenne még a Kimi 2.7 ami programozáshoz állítólag megközelíti az opus 4.6-ot (és csak azt...), de annak is olyan memória igénye van, hogy hagyjuk is.
Levontam a konzekvenciát, és rájöttem, tíz milliók kellenek, hogy építs lokálisan olyat, amivel lehet gond nélkül dolgozni, programozni, a többi csak bohóckodás és időpazarlás. Na ez a gond: ez a hw igény miatt soha nem lehet profitábilis, még az LLM szolgáltatóknak sem, miközben annyi energiát fogyasztanak a szerverparkok, hogy az fenntarthatatlan (like cryptoláz * 10 vagy * 100)! És akkor itt is bejön a hasonlóság a kriptoláz végével, amikor már nem érte meg HW-ba fektetni, hogy bányássz, mert nem térült meg az ára soha. Ja, ASIC-okat is lehetett elofizus módon bérelni (újabb hasonlóság), de hát valójában az sem érte meg.
Csak kalkulálj: még ha régi HW-t is veszel, többet, a befektetett pénz és az utána használat közbeni fogyasztás kifizetése megéri-e tudsz-e belőle profitot varázsolni? Válasz: nem :D
Persze itt most szigorúan komplex feladatról beszélünk (coding), mert például kissebb modellek amúgy másra befoghatók ugyesen: automatizálások, tts vagy stt meg ilyenek.
Közben a DeepSeek kiadta a V4-et, open source, bárki futtathatja offline, akinek van csekély 400GB+ RAM-va vagy VRAM-ja :D
Erről eszembe jutott, hogy ez pont az, mint a crypto láznál volt: akinek van brutális mennyiségű pénze, az tudja használni az AI modelleket (crypto: több ASIC-ot tudott venni, még több pénzt tudott "nyomtatni" ), közben felfújva a HW árakat.
Mivel nem lehet igazából on-prem AI-t csak úgy használni értelmes dolgokra, emiatt sose lesz ennek jövője, hacsak nem gombokért lehet majd kapni RAM-ot vagy nagy mennyiségű VRAM-mal szerelt ASIC...bocsánat, celhardvert...
Virtuális gép? Sima proton+Wine-nal nem menne?
Mivel a nagytőkések és befektetők tartják életben az egészet (élén a US Gov. és Palantir, US military), nincs mögötte valódi felhasználói befizetési igény ami miatt profitábilissá tudna válni. A kérdés nem az, hogy összeomlik-e, hanem, hogy mikor.
Az Nvidia az egész AI marhaságnak a kulcsa. Egyelőre úgy tűnik, hogy megvolt a top, de lehet csak a piaci korrekció miatt indult mostanában lefelé a tőzsdén, meglátjuk:
rwurl=https://imgur.com/xgFAsOi
Ezen kívül az egyik muksó a Lexar memóriagyártótól azt nyilatkozta, hogy a memória árak ismét duplázódni fognak év végéig. Na most ilyet előre nem mond senki akinek érdeke, hogy drágábban vegyék a cuccaikat az emberek, vagyis valószínűleg tényleg kb. a csúcson vagyunk, és innentől be fog zuhanni év végéig az egész.
Szépen összeszedi, hogy az MS miért lehet befosva az open source és Linux fogalmaktól ... habár kissé redundáns, lehetne úgy 5 perccel rövidebb a videó.
rwurl=https://youtube.com/watch?v=S6Iq6HubIAw
Szerk.: valamiért nem megy a Média beágyazás...
Legalább azbesztes volt?
Kicsit haladtam a VoxelGI rendszerrel Unity alá. Van még mindig rengeteg dolog hátra, de ez már egész jól kezd kinézni.
Egyik kép nélküle, másik kép vele, harmadik kép a VoxelGI-ra reagála volumetric foggal.
rwurl=https://imgur.com/hkJ9cBP
rwurl=https://imgur.com/KuammEB
rwurl=https://imgur.com/Eb7hTM5
Az elmúlt pár napból, ami nekem inkább érdekes és várós:
- Új Stellar Blade
- Új Senua
Te se játszottál a Jagged Alliance 3 -mal, végig fekákat kell mészárolni benne. Persze ettől teljesen függetlenül is kurva jó játék
Hú, mekkora ordas nagy világgazdasági bebukas lesz itt, ha már ilyeneket nyomnak. Tehát nincs valós felvevője az AI szarjaiknak, emiatt csinálnak majd ők felvevoreteget! Leforditva: csinaltunk egy megoldást egy problémára, ami nem létezik, de ne aggódj azt is elkészítjük!
Dohányboltos néninek hány diplomája van? 🤣
Akkor az amire tippelsz. GLHF ARM-on normálisan futtatni bármilyen jatekot (amíg a Valve nem végez a fordítókörnyezettel), a többi szamomra irreleváns.
Amúgy szvsz a Win 12 bejelentése lesz, egy ideje már csiripelik, hogy a Win 12 egy teljesen AI központú cucc lesz, nem is igazán a Win 11 leváltására lesz, hanem mint egy mellék OS, és ez pont egybevág azzal, hogy az ngreedia is kitette ugyanazt, mint a microslop.
Amúgy Nvidia oldalról a Vera cucc lesz, tuti. Mondjuk ki a faszt érdekel 🤣
De az is igaz, hogy lassan nem lesz HW amin használni lehet (nemhogy lokálisan, de felhő-host módon sem), annyira elszálltak az árak, szóval ismét csak a körbeszopás megy B2B.
25.0528,121.5990 is a coordinate to Taipei Music Center where NVIDIA Computex Keynote is going to happen this weekend: https://www.nvidia.com/en-tw/gtc/taipei/keynote/?regcode=no-ncid&ncid=no...
Kitalálom. Ai, AI,... ai... a..i.. AI.
A linkben ID van, vagyis minden levélben más ID szerepel a kiküldött linkben. Tehát azzal, hogy bárki megnyitotta ezt amit betettél ide, gyakorlatilag ment a visszajelzés a küldő részére, hogy, ok, ez az email cím tulajdonos megnyitotta a linket, létezik.
Készülj, hogy innentől sokkal több hasonlót fog kapni.
Becsengettek jehováék. Szerintem megterítettem őket fél óra alatt 🤣
Nekem is MVM a szolgáltatóm, és egy rohadt bagázs. Viszont az ügyfélszolgálat jó, szerintem hívd fel őket majd.
Mikor volt megnyitva utoljára? A gazoraban van egy biztonsági szelep, ami, ha nyomáscsökkenés van lekapcsol. Vissza kell kapcsolni, ha nem sziszeg a tűzhely.
Én még mindig a Bazzite-ot mondom. Használtam Mintet, amint bármi extrát kellett csinálni, már a terminálban voltam, nem volt kellemes. Bazzite-ot meg nagyon, nagyon nehéz elkúrni, szerintem legbarátságosabb linux distro jelenleg.
Már csak hivatalosan kellene megoldaniuk, hogy Vulkanon működjön az FSR4.1... Maszekolós megoldás van már rá jó ideje, szóval nem lenne nagy dolog...
HomeAssistant-ben látom, mi volt tavaly ilyenkor a pontos hőmérséklet és pára, amiből latszik, hogy hideg volt és eső. Most szarabb a helyzet jóval. Talán 2 vagy 3 éve volt az, hogy a kertben gyakorlatilag minden kiégett, szerintem idén is kb. ez lesz.
Ez ilyen insult to injury a RAM árak miatt.
És miért fordult ekkorát az MS az xbox ügyben is? Be vannak fostolva, hogy a SteamMachine elviszi a piacot. Ha elég nagy lenne a közel-távol jövőben a Linux adaptáció (amit a GabeCube elő is segitene ugye), a Valve simán mondhatja, hogy Ok, Windowsra nincs többet Steam, de legalábbis onnantól szarnának a windowsra, és Linux-first felfogása lenne a Valve-nak... Nos, az érzékenyen érintené az MS-t :D
Milyen véletlen, hogy ez a tag épp most csinált a jelenségről egy videót:
rwurl=https://www.youtube.com/watch?v=f-S76WEl25k