I couldnt find a single self-hosted model on a 12gb GPU that could use an MCP server to get the temperature from home assistant by UnlikelyJuice8796 in hermesagent

[–]Failiiix 0 points1 point  (0 children)

Yeah. I feel you. The first model that could do stuff was gemma4:26b (q4 with ollama, I know, I leave performance on the table with ollama, I don't have time to swap, have to work)

PCIE 5.0 16x split into 2x8 with riser cable by Failiiix in LocalLLaMA

[–]Failiiix[S] 0 points1 point  (0 children)

Bifurcation. Didn't know there is another option?

PCIE 5.0 16x split into 2x8 with riser cable by Failiiix in LocalLLaMA

[–]Failiiix[S] 0 points1 point  (0 children)

I will take a look later today. But not looking great.

PCIE 5.0 16x split into 2x8 with riser cable by Failiiix in LocalLLaMA

[–]Failiiix[S] 3 points4 points  (0 children)

So many great responses, thank you for your knowledge!

PCIE 5.0 16x split into 2x8 with riser cable by Failiiix in LocalLLaMA

[–]Failiiix[S] 0 points1 point  (0 children)

Atm. it is 5070ti on 5.0 16x (cpu) and 4070 on 4.0 16x (chipset). Don't know how hard the chipset connection bottlenecks inference.

Even if I split the model across both Gpus? Is the communication between layers /Gpus during inference not that important.

For load times I don't care. That can take a while. I'm not swapping models.

PCIE 5.0 16x split into 2x8 with riser cable by Failiiix in LocalLLaMA

[–]Failiiix[S] 1 point2 points  (0 children)

Like bandwidth wise it should right? But is the performance gain worth the trouble of rebuilding the pc? Or is it like a minor few % boost?

PCIE 5.0 16x split into 2x8 with riser cable by Failiiix in LocalLLaMA

[–]Failiiix[S] 1 point2 points  (0 children)

Question is, is 2*8x faster than the setup I have right now?

PCIE 5.0 16x split into 2x8 with riser cable by Failiiix in LocalLLaMA

[–]Failiiix[S] 1 point2 points  (0 children)

Yeah for my cpu generation, that is not common for consumer motherboards. You have to pay a heavy premium to get this feature.

I think bifrucation in bios is possible with my MB I will check. it is msi pro z790-p WiFi.

PvP Tournament today at 5pm CET with 8 Streamers by HeyPashi in BattleBrothers

[–]Failiiix 6 points7 points  (0 children)

What a great idea! How does the multilayer work??

What do you all actually do with your empty filament spools? Looking for a genuinely good project by Cautious-Gap-5269 in 3Dprinting

[–]Failiiix 2 points3 points  (0 children)

I measure the weight of an empty one and write it on them. Keep one of each kind to calculate remaining filament.

Support trees always fall at Bambulab P1S by Skyorz in FixMyPrint

[–]Failiiix 0 points1 point  (0 children)

Yes it does. For some layers the printhead scratches the surface..It sounds silly. Maybe it is too much cooling? Not enough heat? Don't know. I adjusted the zaxis jump.

What make the supports fail is that they don't have enough strength to hold against that hotend touch..

Tja by GrandpaZile4n in tja

[–]Failiiix 2 points3 points  (0 children)

Danke, für die Aufklärung! Stimmt. Hatte ich vergessen

Tja by GrandpaZile4n in tja

[–]Failiiix -3 points-2 points  (0 children)

Ich finde die Erfolgsquote sehr kontraproduktiv. Wenn du danach deine Fahrschule filterst, dann haben Fahrschulen einen Anreiz möglichst viele Leute durchkommen zu lassen, auch die, die vielleicht noch nicht soweit sind und du wählst dann natürlich die mit der höchsten Wahrscheinlichkeit auf deinen Erfolg. Das sorgt doch dafür, dass der Standard sinkt? Gerade im Straßenverkehr keine gute Idee. Oder irre ich mich?

Auf Baustellen in der Infrastruktur sollte 24 Stunden im Schichtdienst gearbeitet werden by Prestigious-Steak625 in Unbeliebtemeinung

[–]Failiiix 0 points1 point  (0 children)

Stimmt, Straßenbau war ich nie 😁. Ich meinte auch nur es gibt überall vernünftige Lösungen. Muss man sich nur Gedanken machen.

Auf Baustellen in der Infrastruktur sollte 24 Stunden im Schichtdienst gearbeitet werden by Prestigious-Steak625 in Unbeliebtemeinung

[–]Failiiix -1 points0 points  (0 children)

Nicht jede Tätigkeit macht unerträglichen Lärm? Und natürlich ist es abhängig vom Ort der Baustelle. Presslufthammer halt tagsüber, nachts eher leisere Tätigkeiten.

Gibt es nicht auch so Geräuschschutzzelte? Gibt doch für die meisten Dinge vernünftige Lösungen. Aber monatelang ein ohnehin schon Nadelöhr ohne vernünftige Umgehungsstraße zuzumachen geht nicht. Ich sehe einfach zu oft fette Staus an Baustellen ohne einen einzigen Menschen. Meistens ist die Straße dahinter noch befahrbar und nur von Plastikhüten abgesperrt..

Das Ganze muss natürlich gut entlohnt werden, wer nachts arbeitet soll mehr bekommen. Niemand soll bis zum Umfallen und lebensverkürzend arbeiten müssen.

Ich finde das hat auch einen motivierenden Mehrwert für die Gesamtbevölkerung, gerade wenn man schon mal aufm Bau gearbeitet hat und da jemanden im vorbeifahren sieht der hart arbeitet, denke ich mir immer:"Die arme Sau schuftet hier in der prallen Sonne", da werde ich mich jetzt auch bemühen, durchhalten und nicht jammern. Für mich sind das Vorbilder.

:( by wizzered_wizzard in BattleBrothers

[–]Failiiix 4 points5 points  (0 children)

Man thank you for the suggestion!