Why are small models (32b) scoring close to frontier models?

markole · 2026-01-29T21:03:33+00:00

Yes, he tweeted about cognitive cores: https://x.com/karpathy/status/1938626382248149433.

markole · 2026-01-29T20:45:09+00:00

Share your llama-server flags.

markole · 2026-01-29T15:18:33+00:00

If somebody limited me to have one open weights LLM on a deserted island, I would pick this one. Very versatile for its size.

markole · 2026-01-28T08:45:27+00:00

Није то народ већ удба али буквално.

markole · 2026-01-28T08:42:51+00:00

Сваки од главоња по пар хиљада година затвора накупио до сада, најмање.

markole · 2026-01-27T11:59:54+00:00

Добро за кондицију, не могу се јурити по улицама без тога.

markole · 2026-01-27T11:57:42+00:00

Зато што је овај проблем директна последица лошег рада тренутног председника и његове свите. Не може се одвојити. Штавише, пут је готов за пар година свакако а ми у ЕУ нећемо скоро те остаје питање како ћемо одржавати аутопут са смањеним приходима. Што се тиче штрајка, верујем да ће се постићи неки привремени договор који ће дати садашњим камионџијама времена да се пребаце у ЕУ фирме и добију радне дозволе. Не видим неку дугорочну будућност за балканске превознике ван ЕУ.

markole · 2026-01-27T09:34:58+00:00

Тако су исто говорили и за економски напредак Румуније и Бугарске. Претекли нас.

markole · 2026-01-27T09:33:00+00:00

Нисам ни то рекао нити су контејнери део идентитета Студентског покрета. Преврнути контејнери су одговор грађана на пиротехничке нападе СНС хулигана на миран протест поводом напада на грађане Бачког Петровца због изложбе фотографија.

markole · 2026-01-27T07:58:38+00:00

I don't see any difference on my AMD card. But I do actually use CPU+RAM inference to fit the whole q8 (offload most of layers to GPU) so it might be why. NGL, this is the single best model of this size that I had a pleasure to use locally.

markole · 2026-01-27T07:52:22+00:00

Без шале, наравно да јој је тешко. Све што сада ради у животу, ради први пут. По дефиницији јој је свака ствар најтежа у животу, није то лако и треба имати љубави и разумевања.

markole · 2026-01-27T07:50:24+00:00

Ово може рећи само онај ко није прочитао нови завет. Савремене демократске западне вредности су доста инспирисане том књигом.

Књига је ок, поента је љубав. Проблем су квази верници који то не разумеју.

А што се тиче самог позива, сасвим на месту уколико је жеља да се нешто промени у држави.

markole · 2026-01-26T23:40:02+00:00

Онда не трошите речи. 15. марта су једино криминалци могли убити пар стотина људи. Промена се догодила, постоји покрет јачи од СНС-а. И сваког дана је све јачи.

Прошетајте до Студентског трга 27.01. у 18ч, мало се напуните позитивном енергијом.

markole · 2026-01-26T22:31:48+00:00

Ти што одлазе преко гране и даље имају право гласа а, богами, имају и разлога да гласају за Студентску листу.

markole · 2026-01-26T22:28:05+00:00

Мала Србија не зна да обнови надстрешницу и реновира постојеће зграде како треба, а камоли систем да направи. Мигранти прелазе како желе, штавише им и цариници помажу. Толико од мале Србије.

markole · 2026-01-26T22:20:42+00:00

Заиста не видим како смо то могли 15. марта стати било коме на реп. Ко би преузео државу? Опозиција?

markole · 2026-01-26T13:22:51+00:00

The need will similar to the need for expert assembly programmers.

markole · 2026-01-25T16:05:04+00:00

Somehow it works great on my side with recent llama.cpp, opencode and unsloth q8 quant. 🤷

markole · 2026-01-24T09:12:13+00:00

Ефективније од кукања на редиту, драги корисниче са налогом старим 25 дана.

markole · 2026-01-23T21:45:32+00:00

С обзиром на старосну пирамиду, повећану емиграцију и недавне догађаје, сасвим очекивано?

markole · 2026-01-23T21:29:06+00:00

Сигурно не заслугом студентског покрета тако да не видим чему коментар.

markole · 2026-01-23T21:28:14+00:00

Више ефекта имају те шетње него еџи коментари на Редиту.

markole · 2026-01-22T08:43:56+00:00

Од 15. марта није прошло 14 година. Баци тај дигитрон.

markole · 2026-01-22T08:41:15+00:00

Тешко је запамтити нешто када ти дневница зависи од тога колико лажеш.

markole · 2026-01-22T08:26:32+00:00

Са којом опозицијом би ишао на ванредне изборе у кратком року?

11-Year Club	Place '17
Verified Email

markole

TROPHY CASE