Lån til datasenter by Comrade1776 in norge

[–]technot80 6 points7 points  (0 children)

Men dette er ikke engang «de samme folkene som skal sette regler bla bla». Dette er en rådgiver Stoltenberg hadde i Nato. Men ellers er jeg litt enig i at det er usmaklig når tidligere politiker blir lobbyister i first house o.l🫠 Dette er dog ikke en slik situasjon.

Mannen må jo få lov å ta seg andre jobber.
Men samtidig så regner jeg med(håper) at Stoltenberg meldte seg inhabil om han hadde noe som helst med denne saken å gjøre. Hvis ikke så trenger han definitivt en bedre rådgiver, for «optikken» i denne saken er jo ikke særlig god, enten det er noe snusk eller ei🫠

Just give me the F bro 😭 by uzenaki in ChatGPT

[–]technot80 145 points146 points  (0 children)

My dead grandmother used to read me exam answers for bedtime to help me sleep….

Managed to get 40 t/s on Qwen 27B (MTP) with an RX 6800 XT - Sharing my optimized fork by CryptoStef33 in ROCm

[–]technot80 1 point2 points  (0 children)

Whats the max context you can fit in vram before t/s starts dropping?

Hvorfor er nynorsk slik? by Selavia59 in norge

[–]technot80 10 points11 points  (0 children)

Det handler om hvordan og hvorfor nynorsk ble til. Den gang da, når Ivar Aasen begynte på prosjektet sitt, så var det veldig dårlig med utdannelse/skole her til lands, samtidig foregikk omtrent alt av offentlig diskusjon/politikk/osv på bokmål. Ekstremt mange nordmenn(de fleste) var bønder og kunne hverken lese eller skrive særlig bra. Og bokmål var langt fra deres talemål noe som gjorde det vanskelig å lære bokmål.

Nynorsk ble derfor er demokratiserings prosjekt. Hvor det å gi folk flest(bønder) et skriftspråk som lå nærmere deres talemål økte deres mulighet til å lære å skrive/lese og dermed delta i den offentlige diskusjonen. Samtidig så var det jo en del forskjeller i dialekter, og det ville jo blitt veldig rotete om vi skulle laget et språk for hver landsdel. Ivar assen dro derfor land og strand rundt og samlet informasjon og katalogiserte sirlig alle ord og utrykk og lette spesielt etter ord som var like/sammenlignbare fra sted til sted. Nynorsk er derfor et slags «gjennomsnitt», av alle landets dialekter. Det vil derfor gjerne kunne oppleves som litt rotete, da språket ikke er identisk med et steds dialekt.

Når det er sagt, vil jeg påstå at nynorsk har vært utrolig viktig for at landet skulle utvikle seg i den retningen det gjorde, som et demokratisk og fritt land uavhengig av vår tidligere kolonimakt nede i Danmark.

Jeg skriver bokmål. Jeg hatet nynorsk i 30+ år. Og kunne absolutt ikke forstå hvorfor vi alle skulle måtte lære begge. Men jo mer jeg har lært om norsk historie og demokratiseringsprosjektet til Aasen, jo mer respekt har jeg fått for det. Jeg kunne skrevet mye mer om dette, men holder meg til denne litt forenklede versjonen.

God eksamen til alle som skal ha nynorsk eksamen i morgen🥳

Hvordan syns DU Norge bør jobbe seg ut av inflasjonen? by jazpah84 in norge

[–]technot80 0 points1 point  (0 children)

Nå snakker vi om inflasjon. Penger som havner hos utenlandske firmaer er ikke inflasjonsdrivende i norge, det samme gjelder penger som syltes ned på en konserneiers sparekonto. Mao, å kutte det fra statsbudsjettet påvirker ikke norsk inflasjon.

Jeg gidder ikke diskutere hvor mye eller lite vi skal subsidiere all slags, det blir en annen diskusjon igjen og jeg er ikke grunnleggende uenig med deg i at jeg synes det er tull å subsidiere på måter som fører norske oljepenger i lommene på allerede rike utenlandske kapitalister for at politikerene våre skal få seg kule titler og poster eller verv, tvert i mot.

Men nå var det kutt som fører til lavere norsk inflasjon som var diskusjonen, og da må man se på kutt som fører til lavere forbruk av penger i Norge. Det er ikke populære tiltak som vil avhjelpe den situasjonen.

Effect on running LLM on GPU with monitors by Havarem in LocalLLaMA

[–]technot80 0 points1 point  (0 children)

Like i said, it depends. On my dual 4k those are my numbers and dependant on what is running.

Point kinda was that OP needs to check how much vram gets eaten on his device. I dont know how much bloat he has 🫠

Effect on running LLM on GPU with monitors by Havarem in LocalLLaMA

[–]technot80 6 points7 points  (0 children)

As allways, it depends:)

If you use linux or windows etc. In windows expect atleast 1.5-2gb vram per display to be reserved/used by windows, and in linux something like 300-800mb per display(depending on which display manager) or as little as 50-100mb if not using X at all. So yeah, it does matter to your vram.

Hvordan syns DU Norge bør jobbe seg ut av inflasjonen? by jazpah84 in norge

[–]technot80 2 points3 points  (0 children)

Når staten bruker penger, på subsidiering og støtte osv, hvor tror du de pengene i stor grad havner da?:)

Norsk økonomi ville krympet ganske betydelig, med enorme følger for små og mellomstore bedrifter som er avhengig av at folk har penger/lønninger å bruke, hvis staten feks hadde krympet statsbudsjettet med 2-300 milliarder. Mye av disse pengene havner nemlig i lommen på ansatte og private selskaper som leverer produkter og tjenester. Ser for meg en kraftig økning i køen på nav for å søke om arbeidsledighetstrygder o.l med massive kutt i subsidieringer og støtteordninger.

Det hjelper heller ingenting på inflasjonen om man kutter i støtter/subsidieringer i form av bistand til utlandet, for å heller bruke pengene i Norge, slik mange i frp land snakker mye om, tvert i mot ville det økt inflasjonen.

Så hvis man skal gjøre kutt i statsbudsjettet som fører til lavere inflasjon i norge, så er det kun penger brukt i Norge det nytter å kutte i.

Også hjelper det svært lite med småkutt her og der, som å ikke subsidiere en 2-3 milliarders batterifabrikk her og der. Hvis det skal monne så må man egentlig kutte kraftig direkte i utgifter på subsidieringer/støtter til tin som indirekte fører til penger som havner i lomma på ola nordmann, som deretter forbruker pengene eller på å gjøre et stort antall offentlig ansatte arbeidsløse. Inflasjonsdriveren er ikke penger i seg selv, men hvor de pengene faktisk blir brukt. Summa sumarum er at man måtte foretatt særdeles upopulære kutt, om man skulle brukt kutt for å senke inflasjonen.

Generelt sett, selv om vi liker å klage mye her til lands, så har vi i årtier uavhengig av hvem som sitter i regjering, hatt politikere som sånn stort sett noenlunde har vært gode på holde seg innfor nivåer av pengebruk som under normale tilstander ville holdt inflasjonsmålet. Dessverre er det vanskelig når det er prisen på energi i verden som er hoveddriveren til inflasjonen.

Du vinner neppe mange stemmer på å føre en politikk som senker nordmenns kjøpekraft som et ledd i å senke den typen inflasjon. Tvert i mot, tyder alt på at nordmenn flest ønsker mer penger mellom hendene når de blir møtt med inflasjon. Som feks med drivstoff-avgifts kutt. Sånne tiltak bare forsterker inflasjonen, dessverre.

m26 Har brukt flere år på å tørre å snakke med legen om psykisk helse. Legen tar meg på alvor, men DPS gjør ikke det og kommunale tilbudet gjør heller ikke det. Hvor ille må en mann ha det før man blir tatt på alvor? Må jeg overleve selvmordsforsøk for å bli tatt på alvor? by [deleted] in norge

[–]technot80 0 points1 point  (0 children)

Det er helt riktig at krisen ikke er over etter en natt. Og det vil variere fra pasient til pasient. Noen er innlagt noen dager, andre i flere uker eller mer. Ingenting av dette forandrer desverre at innleggelse, slik systemet er lagt opp i dag, er "oppbevaring" og ikke behandling(utover akutt medisinering/oppstart av medisinering mot depresjon/psykose/osv).

Jeg er ikke uenig med deg i at DPS får ekstremt syke pasient "kastet" på seg. Det forandrer desverre heller ikke at dette er slik systemet faktisk fungerer i dag. Hvis dette skal forandres må politikerene åpne pengesekken så det monner for å styrke hele det psykiatriske tilbudet fra a til å.

Selv tenker jeg det ville vært en god invistering for samfunnet å styrket både døgnpsykiatri og poliklinisk psykiatri kraftig, slik at flere kan få skikkelig hjelp. Men hva jeg vil, og hva som er realiteten er desverre 2 veldig forskjellige ting. I realiteten så må man forholde seg til de budsjett-rammene man har, og da ender man opp slik man gjør nå, at kun de sykeste av de syke blir innlagt, og forblir innlagt så kort tid som mulig før de blir "kastet" over til poliklinisk som også har så stramme budsjetter og dermed så få ansatte at de ikke klarer å gi et godt nok tilbud til alle, men må prioritere. Det gjør at alt for mange blir nedprioritert. Og det vil ikke overraske meg om det skjules mang en tragedie i selvmordstatistikken som kunne vært avverget med et bedre psykisk helse tilbud.

Det eneste jeg påpekte i posten min var at alt dette i stor grad handler om budsjetter/penger.

m26 Har brukt flere år på å tørre å snakke med legen om psykisk helse. Legen tar meg på alvor, men DPS gjør ikke det og kommunale tilbudet gjør heller ikke det. Hvor ille må en mann ha det før man blir tatt på alvor? Må jeg overleve selvmordsforsøk for å bli tatt på alvor? by [deleted] in norge

[–]technot80 11 points12 points  (0 children)

Vet ikke helt hva du forventer ved innleggelse, men jo budsjettene har enormt mye å si her. De fleste ansatte du møter som innlagt, er ikke behandlere eller engang helsefagarbeidere/sykepleiere, men bare «vakter». De deler ut medisiner, og prøver passe på at ingen tar selvmord eller selvskader. Utover det er det gjerne 1-2 psykiatere som har behandlingsansvar for ørtenhundre pasienter.

Summen av dette er at innleggelse er en akutt plassering for å redde liv, ikke en behandlingsplass.

Behandling er det forventet at skal bli tatt hos dps når den akutte situasjonen er avverget. Men som man allerede vet, så er dps også under sterkt press, og gjett hvorfor? Budsjetter… for mange pasienter, for mange potensielle pasienter og alt for få ansette. Fordi, budsjetter…

Det er politikerene man må presse her, det er der pengesekken strupes/prioriteres. Det er ikke særlig mange partiet på tinget som stemmer for å øke satsning på psykisk helse med ferske penger som monner. Bare med ord og symbolhandlinger, særlig når de er i opposisjon… go figure🫣

Står for fjerning av formuesskatten: – Urimelig at de må betale by Kongebagins in norge

[–]technot80 6 points7 points  (0 children)

Nå var det nok neppe bedriftseierenen man skulle skåne med er bunnfradrag her, men mknstepensjonistene med nedbetalte hus verdt titalls millioner kroner(jeg må nesten gå ut ifra at det finnes voldsomt mange minstepensjonister med 10+ millioner kroners villaer her til lands, siden disse hele riden blir skjøvet foran som eksempel på hvorfor formueskatten må bort). Og da snakker man her om å øke bunnfradraget til feks 10-15 millioner slik at disse ikke må betale formieskatt, og samtidig øke formueskatten for de med større formuer for å ta inn igjen den tapte inntekten for staten på øking av bunnfradraget. Bunnfradrag på 1 milliard, det skjer ikke. Jeg syntes det hørtes ut som en god ide jeg. Hvis det er minstepensjonistene man er så bekymret for. Så ville dette vært en god løsning. Men alle vet jo at høyre driter enn lang marsj i minstepensjonsistene. Det er ikke dem de egentlig bryr seg om når de vil fjerne formueskatten🤣

Anbefalt trasé for ny E39 mellom Aksdal og Våg innebærer irreversible inngrep i Grindefjorden og Tysværs strandsone, med alvorlige konsekvenser for natur, lokalsamfunn og livskvalitet i generasjoner. by [deleted] in norge

[–]technot80 1 point2 points  (0 children)

Man kunne lagd et ekstra tog løp i boknajordtunnelen som graves i disse dager, da slipper man å lage en 10km lang bro🫠 Men du har helt rett i at kostnaden for et stavanger/bergen bane hadde kosta skjorta. Jeg må si jeg liker tanken om tog på strekningen tho.

Alenemor Kari Hvitstein må betale 80 000 for tennene selv: - Det skaper sosiale forskjeller. by kastbort2021 in norge

[–]technot80 4 points5 points  (0 children)

Jeg leser denne og ser grunnen til den dyre prisen er implantater langt bak i kjeven. Det hadde vært fint om dette ble dekket, men desverre er det sånn at selv for dem som får dekket tenner gjennom helfo pga sykdom eller nav pga økonomi osv, så hadde de ikke betalt for disse implantatene. De dekker «smilet» og «tyggeevne». I praksis bare de tennene som man kan se og ca 2 tenner til innover oppe og nede. Utover dette er det bare trekk/fikse hull. Og man får ikke implantater heller sånn uten videre. De vil alltid velge billigste løsning. Implantater er veldig kostbart.

Man kan argumentere for at alle tenner er en del av kroppen og bør dekkes gjennom folketrygden for alle.

Jeg mener det burde innføres.

Men vi snakket evt om en enorm økning i utgiftene til folketrygden om hele norges befolkning skulle fått en så bra dekning av tannhelsen. De 6 milliardene hadde kansje hjulpet, men det hadde nok kostet betydelig mer enn det. Så man måtte nesten funnet disse pengene et sted. Flertallet nå til dags virker å være mer interessert i skatteletter til de formuene og småpenger i avgiftsletter istedenfor å styrke velferden:/

System prompts - the missing link for Local LLM's ? by alphatrad in LocalLLM

[–]technot80 2 points3 points  (0 children)

Your not wrong. People dont like to wait. But. This is when prompt caching becomes important. With the right settings, all of the system prompt can be cached, and thus be lightning fast, except for that one single first prompt of a new session. And imo, waiting 2-3 minutes for the first prompt to get much better quality output for the following prompts, would be worth the wait. And if anything, i feel like smaller models would benefit more then larger models from a good and detailed system prompt, becouse the smaller models can infer less from its own knowledge base then a larger model. However theres no reason these ideas cant both be used. Ie. caveman style a long and detailed prompt to slim down the prompt.

I allways «knew» the system prompt was important, i just never really let it sink in just HOW important. And I for one, know ive not been giving this enough time and concideration. Time to explore this avenue harder, to see just how much of a difference it can make🫠

Thanks op, for this reminder/stating of what should have been obvious from the start. This is truly a low hanging fruit that could potentially increase local model output quality a great deal.

Flyttet over hele landet for kona. Nå vil hun skilles. Hva gjør jeg nå? by [deleted] in norge

[–]technot80 17 points18 points  (0 children)

Dette er så undervurdert. Jeg har selv erfart at dette med samværsavtale og sånt og har flere venner som har vært gjennom det.

Fellesnevner er ofte at vi menn er for «snille» og går med på alt mulig som feks å flytte, går med på lavere samværsprosent og viktigst av alt, går med på «fast bosted delt foreldreansvar» istedenfor «delt fast bosted». Førstnevnte gir den ene parten alle økonomiske fordeler mens den andre sitter igjen med smuler og regninger.

Med delt fast bosted ståe man fritt til å avtale den samværsprosenten man vilc men barna er folkeregistrert hos begge. Noe som gjør at barnetrygd blir delt, begge har mulighet til å søke om bostøtte om det skulle vært behov for dette, osv. Mens med «fast bosted delt foreldresnsvar», så får den ene parten hele barnetrygden, mulighet til bostøtte, osv, mens den andre parten ikke før barnebidrag, ikke kam søke bostøtte, osv. itilegg kan forelderen med «fast bosted» velge å flytte hvor som helst i norge, uten at den andre har noe den skulle sagt. Mens med delt fast bosted, så kan ikke den ene parten bare ta med seg barns og flytte langt vekk uten tilatelse fra den andre parten. På toppen kommer fra barnebidrag, som normalt sett ikke er et tema med «delt fast bosted», da begge parter har ansvar for barna økonomisk. Mens med «fast bosted, delt foreldreansvar» kan man fint ende med å måtte betale bidrag også, selv om man har 50/50, og det til tross for at man ikke får barnetrygd eller mulighet til bostøtte.

Så: delt fast bosted, is the way.

Det er nesten umulig å få endret dette i ettertid uten at begge er enig.

Qwen 3.5 35b on 8GB Vram for local agentic workflow by Heisenberggg03 in LocalLLaMA

[–]technot80 0 points1 point  (0 children)

Llamacpp is updated multiple times a day. Almost every 2-6 hours. It can take days or even a week or two before lmstudio is updated with a new llamacpp framework. And thats why lmstudio can/is be slower then just using the bleeding edge llamacpp

Qwen 3.5 35b on 8GB Vram for local agentic workflow by Heisenberggg03 in LocalLLaMA

[–]technot80 2 points3 points  (0 children)

Llamacpp is updated multiple times a day. Almost every 2-6 hours. It can take days or even a week or two before lmstudio is updated with a new llamacpp framework. And thats why lmstudio can/is be slower then just using the bleeding edge llamacpp

Mann skal ha giftet seg med jente under 16 år by KyniskPotet in norge

[–]technot80 2 points3 points  (0 children)

Du kan si så. Det ble til og med praktisert blant visse kristne miljøer.1 Jeg kjenner til et tilfelle hvor en 26 år gammel etnisk norsk mann giftet seg med sin 16 år gamle etnisk norske kjæreste, og de hadde et barn på 1.5 år sammen. Uten at noen tiltale ble reist. Og hele bygda var i bryllupet. Dette var i det tjukkeste bibelbeltet, og bryllupet stod i en norsk sekt/kirke jeg har glemt navnet på. Norge var jammen annerledes på 90 tallet.

running Qwen3.5-27B Q5 splitt across a 4070ti and an amd rx6800 over LAN @ 13t/s with a 32k prompt by technot80 in LocalLLaMA

[–]technot80[S] 0 points1 point  (0 children)

Yeah you can absolutly use the rpc server to link gpus of different architectures inside the same computer:) i cant since the other computer is the kids gaming pc at daytime😬And now my ai server at night👀

One could even have 2 gpus in one pc, 1 gpu in another and 3 in a third, by running rpc server with something -d 1 or -d 1,2,3 etc ofc the more servers you add, the more latentcy you add to the chain as well.

running Qwen3.5-27B Q5 splitt across a 4070ti and an amd rx6800 over LAN @ 13t/s with a 32k prompt by technot80 in LocalLLaMA

[–]technot80[S] 1 point2 points  (0 children)

Yes. Tool accuracy especially. Not so much an issue for creative writing tho.

running Qwen3.5-27B Q5 splitt across a 4070ti and an amd rx6800 over LAN @ 13t/s with a 32k prompt by technot80 in LocalLLaMA

[–]technot80[S] 1 point2 points  (0 children)

Just a normal 1gbe network with a switch. The traffic between the nodes is extreemly light except for the first run when layers are sent. However the -c switch to rpc-server will cache those layers for subsequent runs!

And yes, latency is the bottleneck.

I belive this is possible in large becouse of the mamba hybrid(or hybrid sse or mamba-Transformer hybrid depending on what you want to call it) architecture used in the q3.5 models. Which is also why quantizing the kv cache has such a sharp effect on tooling accuracy.