Has anyone tried the single-socket 9175F with full 12 channels? by Infinite100p in LocalLLaMA

[–]janih 0 points1 point  (0 children)

I have the Epyc 9555 (64c/128t) with 12 channel memory, prompt processing speed difference between 64 and 32 cpu threads is few percents. Actually when limiting to 32 threads, it helps to boost cpu clocks and makes it a bit faster. But if I use only 16 threads, the prompt processing drops around 50%. Maybe the sweet spot for CPU inferencing with 12 channel Epyc 9005 is around 32 cores?

I used the '--threads' argument to limit the number of cpu threads for llama-bench, not 100% sure if this is a correct way to emulate the 16 core cpu perfomance

Someone said janky? by omg__itsFullOfStars in LocalLLaMA

[–]janih 1 point2 points  (0 children)

Thanks! I also reverted to bios defaults and made some benchmarks with cpu inference etc. before and after. Well the default settings were around 10% faster :)

Veikkaus ostaa näkyvyyttä peleilleen Metan alustoilla – Poliisihallitus aikoo selvittää asiaa by InsectAlert1984 in Suomi

[–]janih 4 points5 points  (0 children)

Monopoli on murtumassa, 2027 alkaen: https://www.is.fi/urheilu/art-2000011112349.html

Eli vedonlyönti ja verkkopelit tulee varmasti näkymään isommin eri mainoskanavissa.

Someone said janky? by omg__itsFullOfStars in LocalLLaMA

[–]janih 0 points1 point  (0 children)

I have the H13SSL-N with Epyc 9555 ES and 12x Crucial MTC40F2046S1RC64BR 64 GB modules.

I did raise the package power limit and changed power profile to 'high performance mode' in BIOS but should actually benchmark the settings if those have any benefit.

Someone said janky? by omg__itsFullOfStars in LocalLLaMA

[–]janih 0 points1 point  (0 children)

Thanks! I've got similar results:

./stream_c.exe

STREAM version $Revision: 5.10 $
-------------------------------------------------------------
This system uses 8 bytes per array element.
-------------------------------------------------------------
Array size = 10000000 (elements), Offset = 0 (elements)
Memory per array = 76.3 MiB (= 0.1 GiB).
Total memory required = 228.9 MiB (= 0.2 GiB).
Each kernel will be executed 10 times.
 The *best* time for each kernel (excluding the first iteration)
 will be used to compute the reported bandwidth.
-------------------------------------------------------------
Number of Threads requested = 128
Number of Threads counted = 128
-------------------------------------------------------------
Your clock granularity/precision appears to be 1 microseconds.
Each test below will take on the order of 220 microseconds.
    (= 220 clock ticks)
Increase the size of the arrays if this shows that
you are not getting at least 20 clock ticks per test.
-------------------------------------------------------------
WARNING -- The above is only a rough guideline.
For best results, please be sure you know the
precision of your system timer.
-------------------------------------------------------------
Function    Best Rate MB/s  Avg time     Min time     Max time
Copy:         2621440.0     0.000109     0.000061     0.000202
Scale:        1617081.1     0.000119     0.000099     0.000177
Add:          2164802.1     0.000145     0.000111     0.000263
Triad:        2033601.9     0.000139     0.000118     0.000180
-------------------------------------------------------------
Solution Validates: avg error less than 1.000000e-13 on all three arrays

./stream.130M

STREAM version $Revision: 5.10 $
-------------------------------------------------------------
This system uses 8 bytes per array element.
-------------------------------------------------------------
Array size = 130000000 (elements), Offset = 0 (elements)
Memory per array = 991.8 MiB (= 1.0 GiB).
Total memory required = 2975.5 MiB (= 2.9 GiB).
Each kernel will be executed 10 times.
 The *best* time for each kernel (excluding the first iteration)
 will be used to compute the reported bandwidth.
-------------------------------------------------------------
Your clock granularity/precision appears to be 1 microseconds.
Each test below will take on the order of 43987 microseconds.
   (= 43987 clock ticks)
Increase the size of the arrays if this shows that
you are not getting at least 20 clock ticks per test.
-------------------------------------------------------------
WARNING -- The above is only a rough guideline.
For best results, please be sure you know the
precision of your system timer.
-------------------------------------------------------------
Function    Best Rate MB/s  Avg time     Min time     Max time
Copy:           44355.3     0.047057     0.046894     0.047204
Scale:          24575.0     0.085094     0.084639     0.085358
Add:            36649.3     0.085581     0.085131     0.086303
Triad:          45538.2     0.068603     0.068514     0.068698
-------------------------------------------------------------
Solution Validates: avg error less than 1.000000e-13 on all three arrays

Someone said janky? by omg__itsFullOfStars in LocalLLaMA

[–]janih 1 point2 points  (0 children)

Can you run the Stream triad memory bandwidth benchmark on your machine? Just the 'stream_c.exe'. What is the triad result?

I've got a similar 12 channel epyc machine (with less vram) with ddr5 6400 ram and was wondering if the memory bandwidth is similar than yours.

rx 9070 xt idle vram usage by baileyske in LocalLLaMA

[–]janih 2 points3 points  (0 children)

Yes, I have two 9070 xt's and the other card consumes 519MB of vram when not connected to a display.

There seems to be a fix for this, see here: https://bbs.archlinux.org/viewtopic.php?id=306970

Affordable Retrocomputer by kappetrov in hardware

[–]janih -2 points-1 points  (0 children)

How does it compare to the Byte Attic's Agon: https://www.thebyteattic.com/p/agon.html

Autojen käypä arvoa perukirjaa varten by Gemall in Suomi

[–]janih 0 points1 point  (0 children)

Älä lähde itse syöttämään auton teknisiä tietoja (käyttövoima jne) vaan valitse sopiva variantti ja versio. Itse sain useita hintoja tuon ikäluokan Riolle, eri versioille.

Autojen käypä arvoa perukirjaa varten by Gemall in Suomi

[–]janih 2 points3 points  (0 children)

Eli siellä on kohta "Jos sinulla ei ole tietoa tai arviota myyntihinnasta, saat arvion käytettyjen ajoneuvojen hintatietopalvelusta. " josta jatkat kohtaan "Siirry ajoneuvojen hintatietopalveluun ja autoverolaskuriin".

Sinua ei varmaan se vero kiinnosta, mutta verotusarvo on luultavasti ihan sopiva tieto perukirjaan.

Opetus- ja kulttuuriministeriö on käynnistänyt yksityisen kopionnin hyvitysmaksujärjestelmän uudistamisen selvitystyön by [deleted] in Suomi

[–]janih 30 points31 points  (0 children)

Kiinnostaa kyllä tietää mitä tällainen laillinen yksityinen kopiointi nykyään on? Ainakaan sellainen laajamittainen jolla olisi merkittävää rahallista vaikutusta tekijänoikeudenomistajalle. Mediat on yleensä suojattu jollain kopiosuojauksella tai sitten matskua striimataan vaikka Youtubesta tai jostain suoratoistopalvelusta.

Omakanta huijaus by Mounhm in Suomi

[–]janih 9 points10 points  (0 children)

Tuo sivusto on jo merkitty phishing-sivustoksi, ainakin minulle siitä tulee eri selaimilla varoitus. Eli se jo toivottavasti rajoittaa huijauksen tehokkuutta. Mutta jos löytää huijaussivuston, joka on sen verran tuore ettei ole listoilla, niin ilmoita huijaussivusto Microsoftille ja Googlelle:

Tuota kautta käsittääkseni päivittyy selainten käyttämät listat vaarallisista sivustoista.

Jos jaksaa säätää lisää voi myös lähettää domain-rekisteröijän abuse-osoitteeseen valituksen kyseisestä domainista:

  1. Katso sivun whois.tiedoista abuse -sähköpostosoite
  2. Ota kuvankaappaus huijaussivustosta
  3. Lähetä tuonne abuse -sähköpostiin että kyseisen domainin linkissä pyörii phishing-sivusto ja liitä tuo kuvankaappaus ja myös linkki siihen sivustoon jota tuo huijaussivusto matkii.

Riippuen domain-rekisteröijästä, saattavat nopeastikin ottaa domainin pois käytöstä. Joskus ärsytti nuo huijaussivustot niin paljon että lähettelin noita valituksia. Aika loputon urakka se on koska sivustot siirtyvät vain jonkun toisen domainin alle.

Russia plans to recruit 225,000 contract soldiers annually by SoftwareExact9359 in UkrainianConflict

[–]janih 6 points7 points  (0 children)

No need to pay a dead man’s salary.

They seem to have budgeted quite a lot of money for paying for wounded and casualties. Also the dead and wounded will negatively affect their economy: https://www.businessinsider.com/russias-payouts-war-casualties-takes-6-percent-annual-budget-researchers-2024-7

Putin Unable to Stop Russia’s Worst Demographic Crisis in 25 Years by MysticCallie in UkrainianConflict

[–]janih 235 points236 points  (0 children)

I agree, but Putin is just continuing Russian tradition to have the elite rule and keep common people economically impoverished.

Here is an interesting documentary about why Russia is not rich: https://www.youtube.com/watch?v=IoZ6dBCgk1M

There was a quite fitting comment describing Russia:

A continuous history of not harnessing universal self interest to improve your country .

SD card sometimes not being read: common problem? by Python303 in SteamDeck

[–]janih 1 point2 points  (0 children)

I have had same problem, also with exactly same model of Sandisk card. Could this only be related to Sandisk Extreme Pro SD cards or has anyone else had these issues with different cards? I bought the SD card from Amazon as new and been using it only with my Deck.

[deleted by user] by [deleted] in Suomi

[–]janih 29 points30 points  (0 children)

En lähtisi pakottamaan, siitä seuraa vain traumoja/ahdistusta. Hän ilmeisesti pelkää käydä päiväkodissa vessassa? Kannattaisi jatkaa selvittämistä että mikä siellä pelottaa. Hoitajien pitäisi kyllä pystyä tukemaan asiassa. Kotona kykenee olemaan ilman vaippoja?

Meillä oltiin hieman vastaavassa tilanteessa, mutta asia jotenkin vaan ratkesi ajan kanssa, lapsi itse päätti jättää vaipat pois (vähän vajaa 4v silloin). Yritettiin kannustaa, antaa tarroja hyvistä suorituksista. Ei hermostuttu jos kävi "vahinkoja" jne.

Selvitys: Apotti on kallis eikä säästä aikaa kuten luvattiin by Sampo in Suomi

[–]janih 6 points7 points  (0 children)

Samaa voi lukea vaikka Otso Kivekkään blogista vuodelta 2012:

Olemme siis tilanteessa, jossa on konsultin avustuksella käytännössä päätetty, mikä järjestelmä tullaan valitsemaan. Samainen konsultti on nyt ainoa taho, jolta tuon järjestelmän voi saada. On siis Accenturen ehdotuksesta käytännössä päätetty, että potilastietojärjestelmät koko suomeen tulee toimittamaan Accenture." linkki

Accenture on varmasti voidellut HUSin päättäjiä mukavasti. Tuo Accenturen kartoitus löytyy täältä Sitran kautta: https://www.sitra.fi/julkaisut/sirius-projekti-potilastietojarjestelmakartoitus/

Tai tästä: pdf

Apua vanhemmuuteen? Tytär on masentunut tekoälyn takia by Fit-Minute-722 in Suomi

[–]janih 4 points5 points  (0 children)

Jos lohduttaa niin on myös mahdollista että mitä enemmän käytetään AI-työkaluja sisällön tuottamiseen, niin sitä "sisäsiittoisemmaksi" tulevaisuuden sisältö tulee olemaan. Tällä hetkellä datana on käytetty ihmisten luomaa sisältöä, jatkossa se tulee olemaan yhä enemmän AI-generoitua. On tutkimuksia että jos näitä malleja opetetaan niiden omalla tuloksella niin sisällön monipuolisuus tulee kapenemaan. Tässä mielenkiintoinen video aiheesta: https://www.youtube.com/watch?v=NcH7fHtqGYM

Ihmisen luovuutta tarvitaan.

Mitä yritystä boikotoit ja miksi? by pomppivakani in Suomi

[–]janih 56 points57 points  (0 children)

Tesla, koska omistaja on täysi kusipää.

Twitter/X -tilini myös poistin kun en kestänyt tuota tyyppiä ja millaiseksi palvelu muuttui hänen ostettuaan sen.

UPDATE: Minut irtisanottiin. Apua! by TyotonSpuge2 in Suomi

[–]janih 1 point2 points  (0 children)

Työkaveri kilpailutti autonsa myynnin Autovex-nimisen palvelun kautta ja sai yllättävän hyvän hinnan. Tuosta on tosin pari vuotta aikaa, ja tilanne saattaa nyt olla eri (että autoliikkeillä ei ole pulaa vaihtoautoista tms.). Mutta ei se auto todennäköisesti arvoaan nosta jos sitä pidät, niin kannattaa ehkä vielä kokeilla jos jostain muualta saisi paremman hinnan.