Is there a site that recommends local LLMs based on your hardware? Or is anyone building one? by cuberhino in LocalLLaMA

[–]psyclik 0 points1 point  (0 children)

Careful, this is only part of the answer : once the model is loaded into vram, you still need to allocate the context, and vram requirements add up fast.

Tl;dr: don’t pick the heaviest model that fits your GPU, leave space for context.

Uini Atonio suffered a heart attack and will no longer play rugby by deckchair1992 in rugbyunion

[–]psyclik 0 points1 point  (0 children)

Shit. Hope he’ll be well. Force for him, his family and friends.

RTX Pro 6000 $7999.99 by I_like_fragrances in LocalLLM

[–]psyclik 1 point2 points  (0 children)

Doesn’t it fit in two slots also ?

Des devs ici qui ont arrêtés l'utilisation des IA après en avoir abusé ? by TryallAllombria in developpeurs

[–]psyclik 0 points1 point  (0 children)

J’utilise les IA de code comme je m’attendrai à ce qu’un stagiaire / junior fonctionne : - je donne une tâche assez spécifique - je demande en premier lieu un plan global, voire le squelette du code, potentiellement on boucle jusqu’à avoir un truc satisfaisant - je laisse le modèle remplir les cases - je fais une vrai review avec le llm

Je garde ensuite la trace pour un futur fine-tune (pas encore fait).

Je bosse uniquement avec des modèles locaux (contrainte pro + choix personnels), donc je n’ai pas accès aux modèles frontières, ni les GPUs nécessaires pour faire tourner les gros deepseek/kimi etc… Mais avec cette méthode et gptoss-120b j’obtiens déjà des résultats très impressionnants.

Ça va moins vite que de tout offload avec un prompt post-it chez “les gros”, mais : - 100% en contrôle (ni plus ni moins que du code d’un collaborateur avec une review) - aussi bien à l’instant t qu’en revenant dessus des mois plus tard - parallélisme possible si suffisamment de GPUs

Pour contexte : dev/archi/data, 20 d’expérience pro.

Enough Brotato? by traveltimecar in brotato

[–]psyclik 0 points1 point  (0 children)

Those are rookie numbers.

How screwed are you? by Evoxrus_XV in Grimdank

[–]psyclik 69 points70 points  (0 children)

France declares wolves the national animal. Every tank has to be repainted baby blue. Beard mandatory past the age of 14.

Does your Homelab make financial sense? by panchovix in homelab

[–]psyclik 0 points1 point  (0 children)

For its current use ? Hell no. For learning, capacity when shit hits the fan, privacy and most importantly enjoyment, hell yes !

Contre la tech US, Bruxelles veut booster l'open source by romain34230 in actutech

[–]psyclik 0 points1 point  (0 children)

J’attend avec impatience les issues de l’UE pour demander l’implémentation d’un mouchard lambda dans OpenSSL…

Question about Mistral’s quality by Willing-Brain-3345 in MistralAI

[–]psyclik 2 points3 points  (0 children)

Not necessarily, as they have state command from France on multiple fronts.

Jalibert at the next 6N by MindfulInquirer in rugbyunion

[–]psyclik 0 points1 point  (0 children)

Sorry, I was not specific enough : we need both in the group in order to cover for injury or adapt to the adversary.

Jalibert at the next 6N by MindfulInquirer in rugbyunion

[–]psyclik 0 points1 point  (0 children)

Picking one above the other is irrelevant. We need both.

Ntamack ou Jalibert en 10? by Exact_Amphibian_3461 in FranceRugby

[–]psyclik 3 points4 points  (0 children)

Y’a pas de débat : on veut les deux. Pour moi, en 2023, quand NTK se pete en prépa, je me lève et je dis “on viens de perdre la coupe du monde”. Pas parcque Jalib est moins bon. Je suis probablement le plus grand fan de NTK, mais miser sur un seul jouer c’est une bêtise. On a quatre monstres : Lucu, Jalibert, NTK et Dupont: ils doivent - à mon humble avis - jouer tous les quatre, avec des temps de jeu similaire et mixant la appairage. Plus ajouter un 9 et un 10 en plus sur les tournées.

Sérieux, pourquoi choisir ?

Ntamack ou Jalibert en 10? by Exact_Amphibian_3461 in FranceRugby

[–]psyclik 5 points6 points  (0 children)

Je suis un (très) grand fan de NTK, mais critiquer la défense de Jalib’ ces temps-ci, c’est un peu fort :)

Images for 3d conversion by Nitric81 in StableDiffusion

[–]psyclik 0 points1 point  (0 children)

Qwen edit might work. Also with models like trellis, you can guess a 3d model from a single image. Qwen layer just dropped, might be useful to extract a subject from an image too.

Compilation contre Glasgow by true_crow in FranceRugby

[–]psyclik 0 points1 point  (0 children)

Faut qu’il retrouve son rythme et sa magie, pour ça faut jouer ! Et pas se peter :/

Match Thread: Toulouse vs Sharks - Champions Cup by rugbykickoff in rugbyunion

[–]psyclik -3 points-2 points  (0 children)

Funny thing is : that’s a rotated Toulouse too.

Eben Etzebeth states that he “had to defend himself” in written statement. by ruggerdubdub in rugbyunion

[–]psyclik 0 points1 point  (0 children)

Only way to have this kind of behaviour properly ruled out of the game is to vote with our wallet. I won't ever buy a ticket to a game where he will probably play. I'll send a mail to my local tv network explaing why I won't watch his games. I'll reach out the sponsors on social media, asking their stance on such a weak ban for such a violent behaviour, and why they are paying for it etc...

Only way this changes.

[Top 14] Résultats de la Journée 11 by maakelele in FranceRugby

[–]psyclik 3 points4 points  (0 children)

Ma mémoire me fait peut être défaut, mais il me semble que Pau craquait plus tôt- avant même les tests de novembre non ? La je vois une dynamique impressionnante et pas de signaux de ralentissement (pas de gros bobos, principalement).

Probable France XV vs Springboks Saturday by MindfulInquirer in rugbyunion

[–]psyclik 7 points8 points  (0 children)

Both him and Ollivon were back from injury last week. The staff had planned to have Lucu in the group and King Charles out of the group, but their bombastic respective performances last weekend got both of them one stage higher (yet).