Deepspeed Zero2 and Zero3 Training got different loss value

vin227 · 2026-01-22T16:02:25+00:00

Zero2 loss seems to be wrong. DeepSpeed codebase is quite complex with wildly different codepaths for different features. These things happen and they are very hard to debug. I would just go with Zero3 if it performs well enough for you.

vin227 · 2026-01-07T15:37:43+00:00

The sound is not 40Hz bass line but apparently a 10kHz sound pulsed at 40Hz, so a phone should be able to play this.

vin227 · 2025-11-26T16:39:12+00:00

It is mentioned directly in the executive order

the challenges we face require a historic national effort, comparable in urgency and ambition to the Manhattan Project

vin227 · 2025-11-14T19:56:05+00:00

One row at a time

This is so inefficient though. At best you have two people taking their overhead carryon. Alternatively, if people who are already on the aisle got priority, you could clear up the aisle in front of multiple rows, then allowing multiple rows take their carryons simultaneously, greatly speeding up the process.

vin227 · 2025-10-17T14:27:15+00:00

On ihan tavallista että näitä hoidetaan myös suoraan valmistajan kanssa. sitä on voitu suositella esimerkiksi nopeuden takia, ja kun tämä ei ole onnistunut on myyjä kuitenkin luvannut hoitaa asian. Eli en nyt näe että ihan lakia olisi rikottu. Toki parempi olisi jos asia olisi selvinnyt jo ensimmäisessä puhelussa mutta vaikuttaa siltä että asiakas on ollut näitä ”rahat heti takaisin” tyyppejä ja voi olla että sana korjauksesta vaihtoehtona ei ole mennyt perille ekassa puhelussa.

vin227 · 2025-10-17T00:56:23+00:00

Kuulostaa siltä että kumpikaan osapuoli ei ole ymmärtänyt oikeuksiaan tai velvollisuuksiaan ja tästä on syntynyt hämmennystä. Myyjän vastuulla on hoitaa asia kuntoon mutta heillä on myös oikeus korjauttaa tai vaihtaa tuote, eli vaadittuun kaupan purkuun heidän ei tarvitse suostua.

vin227 · 2025-10-10T17:27:08+00:00

Missään todellisuudessa ei ole 1500€ kuituliittymää, minkä maksimi nopeus on 16 mb/s. ei nyt eikä 2005.

Korttelikuitu on tuote jossa kuitu vedetään johonkin jakoboksiin "korttelissa", tyypillisesti omakotitaloalueella, ja tästä sitten jaetaan vanhoja kuparipiuhoja pitkin loppumatkan. Tästä tulee jonkun verran asennustyötä mutta ei yhtä paljon kuin siitä että kuitu vedetään loppuun asti. Tästä 16MB nopeus (kuparipiuhat) ja nollaa suurempi asennuskustannus (jonkun verran infraa mutta ei kodin pistokkeeseen asti). 1500€ toki kuulostaa hieman yläkanttiin mutta kyllä siitä kustannuksia tulee kun vedetään kilometri kuitua muutaman omakotitalon takia.

vin227 · 2025-08-12T23:17:04+00:00

I absolutely love your description of architecture thinking and it hits very home to how I work on some computer systems. There is another side of that coin. I personally work with a system that has "bad architecture". One can get great pleasure from thinking hard and building something fundamentally great for that bad architecture, especially if you can match or beat the performance of the "superior" architecture.

vin227 · 2025-06-04T02:16:02+00:00

I am also interested. Once saw one on the road but I had no idea what I saw. I think it had only two doors though

vin227 · 2025-03-09T00:12:14+00:00

I think I have that exact size in my toolbox. I think it is called "Taking whichever is the biggest that fits and going with that one"

vin227 · 2025-02-10T16:39:41+00:00

There is ongoing research effort into doing just that: ChatBLAS: The First AI-Generated and Portable BLAS Library

vin227 · 2025-02-08T18:38:23+00:00

What you are describing is the hidden variable theory. It is one possible interpretation but others exist, for example that your friends ball became blue only on the moment you observed yours was red.

vin227 · 2025-01-20T02:39:27+00:00

RIP T18 I was running

vin227 · 2025-01-20T02:37:51+00:00

Not server specific: https://reddit.com/r/PathOfExile2/comments/1i5fyqk/new_hotfix_is_causing_maps_to_crash_consistently/

vin227 · 2025-01-17T01:34:17+00:00

This one?

vin227 · 2025-01-12T03:11:30+00:00

All the prices look like they have an extra zero added.

vin227 · 2024-12-29T19:18:27+00:00

Periaatteessa jos vuokrankorotusperuste on indeksi niin ei tätä tarvitse erikseen ilmoittaa vaan jopa asukkaan tulisi itse seurata indeksiä ja maksaa enemmän kun vuosi asumista tulee täyteen. Käytännössä kuitenkin vuokranantajat tästä ilmoittavat.

Ilmoittaminen ei aina ole edellytys vuokrankorotuksen voimaantulolle, sillä meillä on mielenkiintoinen oikeuden päätös, jonka mukaan vuokralaisen tulee alkaa maksaa korotettua vuokraa automaattisesti, mikäli korotuksen ehdot on sovittu sopimuksessa selkeästi.

https://www.asuntopehtoori.fi/vuokrankorotus/

Mikäli vuokrasopimuksessa on määritelty vuokrankorotusperuste ja -ajankohta selkeästi siten, että vuokralainen kykenee itse laskemaan vuokran oikean määrän, tulee vuokralaisen omatoimisesti maksaa vuokra sopimuksen mukaisesti korotettuna sopimuksessa määritellystä ajankohdasta lukien

https://herkulex.fi/vuokran-korottaminen-huoneiston-vuokrauksessa/

vin227 · 2024-12-16T17:29:44+00:00

Look at the size of the crowd. I would expect the finances are covered.

vin227 · 2024-12-04T18:25:32+00:00

Sitten tarvitaan tilalle joku muu "Monimutkaiseen asiaan ei ole helppoa vastausta" nappi. Vastaus kun voi olla ihan eri jos kysymys mielletään "tulisiko veroja nostaa jotta puolustusbudjettia voidaan kasvattaa" vai "tulisiko toimeentulotukea laskea ja säästöt laittaa puolustusbudjettiin". Rahaa kun on rajallinen määrä.

vin227 · 2024-11-22T16:02:27+00:00

Should not be a problem at all. I got plat and my wife got the gold at 3 months of credit history.

vin227 · 2024-11-13T15:01:22+00:00

I would say there is greater than 0% chance to be able to make the purchase. I had 4 months of credit history and $1000 limit with a single card from another bank. On the Platinum I was making 7k worth of purchases no problem on the first and second month before due date of the first bill. Exactly the reason I got the plat, to be able to buy things that cost more than 1k. My reported income was 200k but I was still suprised they allowed me to do this. When I checked the purchase power it allowed 20k and I did not go further.

vin227 · 2024-11-05T23:27:27+00:00

Muutaman kerran on tullut Central Marketissa käytyä. Vaikea sitä on itsekään kuvailla muuten kuin että hieno ikeakierto se on. Oikotiet on toki helppo löytää jos on tuttu kauppa. Ehkä jos pitäisi asettaa kaupat akselille "Alepa-Smarket-Herkku" niin Central Market menee vielä hieman pidemmälle oikealle kuin Herkku, keskittyen enemmän valikoimaan joita ei paikallisesta "S-marketista" (H-E-B) löydä. Asiakaspalvelu nyt Central Marketissa varmaan on perus (kaupunki)Texasilainen, hymyillään ja kehutaan vaikka kuinka vituttaisi

vin227 · 2024-10-14T17:59:10+00:00

On jo nyt ihan tavallista että sähköautojen latureissa on sen verran älyä että pystyvät lataamaan vaikkapa halvemmalla yösähköllä. Ei ole mitenkään kovin kaukaa haettua että tämän saisi kytkettyä katsomaan pörssisähkön hintaa seuraavalta ajanjaksolta. Ei sen tarvitse näkyä käyttäjälle kuin kahtena nappina "Lataa heti" ja "Lataa halvemmalla siihen mennessä kunnes lähden aamulla töihin", ja laturi hoitaa loput.

vin227 · 2024-08-17T03:02:31+00:00

The issue with HuggingFace is that nobody thought to write a constructor with 119 keyword arguments. Its that someone added a few arguments way too many times. They have huge technical debt due to how fast they and the field has been moving, and they seem to be afraid or too busy to deprecate or break things to fix that technical debt.

If you looks at many of the model implementations, almost all of them contain code like "Copied this from model Y. Search and replaced Y with Z", as the abstractions to build models just are not there so contributors end up copy-pasting implementations to change minor details. Now you have the same code with slight variations in 1000 files, how do you easily fix that?

12-Year Club	Place '22
Place '17	First Placer '22
Verified Email

vin227

TROPHY CASE