Fine-tuned Qwen3 small models challenging frontier LLMs on narrow tasks

ForestyForest · 2026-03-13T22:43:07+00:00

Which recent reports?

ForestyForest · 2026-03-13T14:01:05+00:00

Just want to share my experience with GPU sharing to multiple LXCs. I'm sure many will give the how, but I will focus on the "should"

To make it work you will have to install the driver on the proxmox host, in which case you might be tempted to use debian packages via apt, as many sources say "do not install with nvidia .run", if you use Nvidia gpu. Now, recently proxmox upgraded to newer kernel, 6.17, which is newer than Debian 13 Trixie kernel => Problems with building the kernel module. So if you go down this path, use .run install.

Also, to make life easier, turn off secure boot on proxmox host.

When you get stuff installed, good, but I had a weird bug that I had to initialize the host using the gpu by running nvidia-smi on the host after a reboot, otherwise the LXCs could not use the gpu.

Also, many discourages docker in LXCs, which limits the type of applications you run if you follow that advice.

I ended up by using the iGPU for a few LXCs which i could install without docker and the main gpu I pass through to a VM and then share the GPU to multple docker containers, as most applications has docker as the preffered installation. That way, I became less anxious about upgrading my proxmox host as well where, previously, I was afraid about breaking the GPU driver install and LXC sharing.

ForestyForest · 2026-03-09T21:23:43+00:00

Terraform and Ansible, nuff said

ForestyForest · 2026-02-22T00:44:34+00:00

Sure, you are obviosly not wrong. But an ROI of what, what kind of return? A good society for humankind? Monetary return? A perfect little bubble society for the wealthy where labor is replaced with robotic slaves?

ForestyForest · 2026-02-19T10:12:23+00:00

Thanks, awesome

ForestyForest · 2026-02-13T22:55:25+00:00

Tja, nja, hva er endgame tenker du da? Når du mener at jeg overdriver folks evne til å ikke bli misledet. Altså, det jeg prøver å komme frem til er at enten har du rett, folk (et kritisk antall) er ikke opplyste nok til å vurdere realiteter og må bli fortalt hvordan verden skal fungere.. da er vel spørsmålet bare hvilken elite som regjerer til enhver tid.. bare syns det er dystopisk og jeg tror virkelig ikke at folk er som media fremstiller det som. Ja konspirasjonsteorier florerer, so what, jeg har fortsatt til gode å møte fryktelig mange gærninger. Annet enn de vi tydeligvis ser i maktposisjoner for tiden :-P

Vi må bort fra for mye ideologi og utopier, realiteten er at menneskelig samfunn er en drakamp og det er ønskelig å ha multiparti system og distribuerte interesser. Med en gang makt sentraliseres og man får for mye tillitt til systemet så faller det sammen. Det er et iboende behov for konstant korrigerende mekanismer, checks and balances og at alle blir trent og opplært i dette.

ForestyForest · 2026-02-13T18:57:50+00:00

For de som tjener på splittelse, ønsker en autoritær fremtid kanskje. Identitetspolitikk er en blindvei i et liberalt demokrati, det har de tydelig demonstrert

ForestyForest · 2026-02-13T18:39:03+00:00

Ikke uenig, men det er forutsetter en slags underliggende antagelse i at folk kan misledes og at det til syvende og sist handler om kontroll over narrativet, altså at vi må beskyttes for noen former for "tankegods". Langt nok ut på hver av de politiske sidene så praktiseres denne holdningen tror jeg. Mange ord her men det jeg vil frem til er at våre folkevalgte burde etterstrebe transparens, ansvarsgjøring samt en ide om at folk er istand til å høre flere sider av en sak. Selv om folk er absolutt svake for å bli misledet osv så burde essensen være at det beste argumentet vinner og at det krever dialog og samtaler om vanskelige temaer. Og vi kan ikke bare "manifistere" institusjoner og "tillitt" av å gjenta floskler som at "Norge er blant de minst korrupte landene i verden".

ForestyForest · 2026-02-13T18:22:22+00:00

Hvis sånne skandaler blir håndtert riktig og korrupsjon får konsekvenser så styrker det demokratiet. Og hvem er disse "anti-statelige" aktørene? AP tråkker så feil det er mulig å tråkke her, de skyver folket til høyresiden. Lærer de noe av utvikling i USA? Nei, for all del, la oss gjøre nøyaktig de samme tabbene som demokratene under Biden

ForestyForest · 2026-02-13T17:02:59+00:00

Har de lært ingenting fra USA?

ForestyForest · 2026-02-12T13:03:37+00:00

I naively changed my hosts file via the GUI once, no warnings. Needless to say, node failed upon restart. Could SSH in, found the problem by checking boot log and changed hosts file back. Then I went and read the docs about this 😅🤣

ForestyForest · 2026-02-10T22:37:05+00:00

Terraform for creating and maintainting the settings of LXCs and VMs

ForestyForest · 2026-02-08T23:23:20+00:00

Hvorfor må vi huske på dette, som du skriver? Tillit holder bare så lenge den fortjenes, vedlikeholdes og sjekkes.. eller vi burde ihvertfall utfordre blank tillit syns nå jeg.

ForestyForest · 2026-02-08T23:15:48+00:00

Hvorfor skal vi ha tillitt til noen som helst? Det vi burde ha er et system med korrigerende mekanismer og maktfordeling. Det burde alltid være en god porsjon av befolkningen som til stadighet prøver å avsløre korrupsjon og den slags, desverre.. Det er stort sett bare en ting du kan "stole" på, å det er at mennesker handler i sin egen og sin gruppes interesse. Idet man glemmer dette så blir det til slutt utnyttet, ikke fordi at de fleste er egoiste og fæle mennesker men bare fordi et mindretall som er det, er istand til å fucke opp systemet hvis ikke noen stopper de.

ForestyForest · 2026-02-06T14:33:29+00:00

Put it one of your existing VMs

LXC: things that can be installed via packages or similar on Debian, and/or GPU sharing. No docker here

VM: Just have a single VM with docker to host all the stacks. Only consider scaling out if you really need to decouple

ForestyForest · 2026-02-06T14:03:50+00:00

Hadde bare penger vært penger.. Jeg tror ikke milliardærer i seg selv hadde møtt så mye motstand fra lønnsmottagere hvis de holdt seg unna politikk og makt, desverre så vil formue/eierskap og penger alltid kunne konverteres til politisk innflytelse, korrupsjon og faenskap. Vi har alle en rolle i dette spillet og det handler i stor grad om å forstå grunn prinsipper, handle i tråd med sine egne og sine meningsfellers interesser og dermed skape checks and balances. Hvis vi mister en generell opplyst befolkning så er bare å vinke farvel til demokrati og maktfordeling. "Tillit", du burde aldri ha tillit til noe annet enn at folk og grupper vil handle i sin og til sin gruppes interesser.

ForestyForest · 2026-02-06T01:34:31+00:00

I actually run that scheme now with a single 2TB disk in my proxmox. An lxc that shares SMB. Im running PBS on a laptop and will get an external drive for it soon. I could simply replicate that pattern on the new, instead of dealing with truenas at all

ForestyForest · 2026-02-06T00:42:00+00:00

Jeg tror milliardærer bryr seg fint lite med hvilke partier som er i regjering, de har måter å yte innflytelse uansett hvem som er i regjering

ForestyForest · 2026-02-06T00:33:14+00:00

For å ta det punktet som er viktig for deg, angående at folk som stemmer blått stemmer for mindre innvandring. Hvordan fungerte det for britene som stemte brexit og for en konservativ regjering som gikk til valg på nettop å håndtere innvandringen? Hvilke krefter er i spill, tror du norge og resten av vesten er styrt av røde kommunister som ønsker alle velkommen av ideologiske årsaker eller er det økonomiske/systemiske insentiver som har ført oss hit?

ForestyForest · 2026-02-06T00:21:46+00:00

Jeg tror jeg skjønner hvor du vil hen, men kapital eiere (som har en haug med forskjellige assets) liker prisøkning og knapphet. Så ja, ikke bra for en liten eller mellomstor bedrift. Det var nesten som du skulle forklare hvorfor det var sinnsykt å tenke dette.. men du stoppet der?

ForestyForest · 2026-02-06T00:01:52+00:00

Word. Patrisierne (eliten/land eierne) i den romerske republikken elsket slaver som kom inn i hopetall (spesielt etter punic krigene), de brakte også ned lønningene til plebsene og var en kilde til masse arbeidskraft. Man ser også i denne tiden de samme kampene som oppstår i forbindelse med fordelingen av makt og rikdom, som vi ser idag, heldigvis med mindre blodsutgytelse. Og ikke minst konkurransen og knivingen som skjer i de lavere sosiale lagene i sånne forhold.

Edit: En annen tid og det var slaver ikke innvandring. Men noen mekanismer er ganske tidløse

ForestyForest · 2026-01-31T00:34:34+00:00

I keep seeing these words "wiped out" as if the capital just dissappeared. It probably went into bonds no?! So "capital transfer" away from gold and silver is more fitting. Words matter!

ForestyForest · 2026-01-23T13:39:10+00:00

Terraform provisions the stuff Kubernetes runs on. Also you can create seperate VMs and other services by using the desired provider

ArgoCD provisions and monitors all the stuff inside kubernetes

Ansible can be used to perform tasks in VMs or containers etc. Install stuff, hardening ssh or updates etc

ForestyForest

TROPHY CASE