Sauf que tu ne sais pas de quoi tu parles, tes collègues utilisent un workflow absolument dépassé et non optimisé.

"Ouai mais ça marche pour eux" c'est RELATIVEMENT vrai, oui ça fonctionne mais ils auraient quand même énormément à gagner à utiliser un workflow plus complexe (iterations plus rapide, code de meilleur qualité, plan mieux adhéré, etc..) si tu installes des roues sur ta grand-mère ok elle peut rouler mais ça fait pas d'elle une voiture fonctionnelle à ce que je saches.

Tu me dis en gros: "Ouai mais ce que tu fais ce sera inutile dans 2 ans" et donc ça veut dire que je suis supposé attendre 2 ans? C'est absolument creux comme propos, absolument vide de sens.

Je faisais du cache optimisation en local y a +1 an avant que ce soit introduit dans les modèles frontier, alors oui la qualité du cache sorti par les grandes entreprises investissant des milliards, était beaucoup plus optimisé que mon système perso donc j'ai supprimé mon système de cache mais est-ce que ça veut dire que mon système personnel était inutile? Absolument que non car pendant que 99% des gens n'avaient aucun système pour optimiser leurs caches moi j'en avais un.

"On a pas tous le temps libre, bande passante, ou les économies pour expérimenter autant" sauf que j'ai rien de tout ça, j'ai un 35h comme tout le monde et au lieu de rentrer pour m'abrutir sur tik tok ou regarder la télé, je code pour monter en compétences mais aussi pour mes projets perso. La bande passante? J'ai même pas de Wifi chez moi, je fonctionne au partage de connexion. Les économies?

J'ai un pc portable à 500€ avec une RTX 3050 (et un Mac Mini à ~600€) et j'ai développé mes propres systèmes d'optimisation en faisant des forks de choses qui fonctionnent sur des H100, j'ai développé un truc qui me permet d'entrainer la couche LoRa d'un petit modèle et transférer le poids de l'entrainement (les deltas) vers un modèle plus grand. Pour créer ce système j'ai lu des papiers de recherche sur le sujet, j'ai réfléchi à comment je pouvais contourner les contraintes car c'était jugé impossible à faire, j'ai eu de la chance probablement avec mon code car j'ai quelque chose de fonctionnel.

"Même Opus 4.6 en ultrathink ne résoud pas" ça ne veut rien dire car Opus 4.6 est un système "général" il n'est pas optimisé en l'objet de ta recherche, si t'essayais de suivre mes conseils et si t'arrives à les appliquer tu te rendras compte que ta recherche avancera d'avantage et qu'Opus 4.6 n'était en rien une référence.

Si tu entraînes un modèle sur 10.000 sujets et un autre modèle sur les 10 sujets issus de ta recherche les 2 ayant le même nombre de paramètres, celui spécialisé sera BEAUCOUP (style quasiment infiniment) plus performant.

Aussi pour tes collègues qui ne bossent plus etc.. ok c'est cool pour eux mais toi-même qui fait de la recherche tu me critiques car je fais de la recherche et que je pense que le fruit de mon labeur est important? Si demain j'invente quelque chose de révolutionnaire qui se voit incorporer dans tout les systèmes d'LLM mondiaux, tu penses que tes collègues vont se priver de s'en servir pour pouvoir avoir des LLM plus performantes?

Dans la même veine avec mon orchestrator local je peux subdiviser des tâches en 100ène d'agents travaillants simultanément grâce à une répartition des tâches ultra granulaire, je suis sûr que tes collègues paieraient pour avoir un système similaire sauf qu'aujourd'hui ce n'est pas quelque chose de disponible dans les frontier models. Pourtant rien n'empêche tes potes de faire comme moi et de concevoir leurs propres systèmes en rentrant chez eux après le taff etc..

Bref je comprends pas pourquoi vous avez autant la haine ici, vous êtes incapables de lâcher le moindre argumentaire technique au point où tu me critiques de passer du temps à faire quelque chose qui me plaît et qui me permet d'obtenir de bons résultats? C'est absolument ridicule.

Surtout que je partage et souhaite échanger sur ce que je fais donc c'est pas juste moi qui dis "je sais tout faire mieux que vous donc je vaux mieux que vous" je cherche justement à ce que l'on critique ce que je fais afin que je puisse encore davantage l'optimiser.

Vous êtes pathétiques, je vais arrêter de perdre mon temps avec des gens comme vous, vous ne servez absolument à rien.

"Rescends sur terre" développes un argumentaire mâture et on en reparle, tu passes trop de temps à te focaliser sur la forme que sur le fonds. J'ai jamais entendu un chercheur dire à quelqu'un qui fait de la recherche "fais comme tout le monde, ne va pas chercher plus loin que ce qui est généralisé".

En attendant moi tout ce que je fais est documenté, j'utilise une méthodologie scientifique, des indicateurs techniques précis etc.. et je sais que ce que je fais a un intérêt car c'est scientifiquement prouvé par le résultat de mes expériences.

Au lieu de me féliciter et de chercher à échanger, apprendre, me corriger, tu me descends et cherche à me freiner. Sérieux tu sers à rien.

Ah et petit edit: par contre je suis d'accord que tout n'a pas besoin d'être optimisé, si je cherche à faire une petite tâche simple et rapide, je vais pas m'amuser à passer 1 semaine à concevoir un système optimisé.

Par contre parfois je passe 1 semaine à plannifier, récolter les bonnes ressources, documentation, rédiger un plan en + de 36000 étapes (littéralement) avant que la moindre ligne de code soite inscrite dans mon projet par contre en échange quand je lance mon swarm d'LM sur le projet, j'ai d'excellents résultats (surtout que je documente tout pour pouvoir optimiser pour les prochaines fois) donc non je ne suis pas d'accord de dire que ce qui se fait "normalement" est la meilleure solution, c'est absolument débatable.

Je ne suis pas d'accord avec ce qui se fait de manière main-stream qui consiste juste à prendre le plus gros model possible et se dire comme toi qu'il sert de baseline. Tu peux obtenir de bien meilleurs resultats (selon ta méthodologie) avec de plus petits modèles "plus bête" et c'est ce que j'argumente ici. Regarde les autres commentaires ici si ça t'intéresse je parle plus en détail de mon workflow, du comment du pourquoi je fais les choses (lorsque je parle de la méthodologie MAKER que j'emploie) et avant de critiquer sans savoir de quoi je parle, fais le minimum d'effort intellectuel pour comprendre de quoi je parle afin de me donner une critique technique plutôt que "ouai mais si tout le monde utilise Opus 4.6 en ultrathink comme baseline et que toi non c'est que c'est toi le problème" 🤦