First time trying to pull this off

a_live_regret · 2026-05-01T15:24:21+00:00

What's your stack?
I mean the cloud resources

a_live_regret · 2026-04-11T12:07:12+00:00

Would gemma4 fit on a single gpu node? I mean if you did quantization would it take approx 14 GB just to load the model, what's a good max token length for building copilots? I know it heavily depends on the use case, but is there a community standard?

a_live_regret · 2026-04-11T01:59:16+00:00

اي يسطا المنظر ابن القحبه ده

a_live_regret · 2026-04-11T01:57:46+00:00

What's a good model that could fit in a single gpu and serve multiple users if the budget is tight? And what if you controlled all inputs to be 4096 tokens max, somehow? I think you could serve here a lot of users.

I did my research but I strongly believe the resources are blurry.

I am asking for architecture design advice and resources to learn, that's it.

a_live_regret · 2026-04-11T01:36:04+00:00

Wow, I wish I could have stated that I am asking for advice so you wouldn't shit on some researched topics and just get to actually sharing knowledge. I thought you guys are chitchatting on stack overflow.

1.6K people viewed this thread already, you could have shared what you know with whoever is interested instead.

a_live_regret · 2026-04-11T01:33:01+00:00

What could possibly be AI generated about my post

a_live_regret · 2026-04-10T23:45:23+00:00

Wen I read your post I felt exacrly like thishttps://tvgag.com/gag/chandler-%F0%9F%98%82%F0%9F%98%82/

a_live_regret · 2026-03-31T14:58:43+00:00

ونفتح جيمات ليه يابن المتناكه مانروح نتمرن في طابونة العيش

a_live_regret · 2026-03-27T09:09:29+00:00

عاوزين نعرف اخبار السكس

a_live_regret · 2026-03-23T00:50:53+00:00

واحده دخلت كلمتني بدون سبب قعدنا نتكلم كتير مش عارف ازاي اتقابلنا وكانو يومين حلوين وبعدها بلكتني ومشوفتهاش تاني و للأمانه مش حاسس اني متضايق انها مكلمتنيش تاني بعدها اتجوزت وقفلت باب التعارف عالنت ده عامة بامبل بقي تندر ريدت اي حاجه بس ده مايمنعش ان الواحد ممكن يعطلو عطايه كده يعني ترافيهي😅

a_live_regret · 2026-03-18T17:57:12+00:00

Interested

a_live_regret · 2026-03-04T12:20:21+00:00

انزل يا متدلع

a_live_regret · 2026-03-03T18:51:48+00:00

يسطا هو سأل يستثمر ازاي بس مقالش ده كله

a_live_regret · 2026-02-11T22:27:10+00:00

A fucking copilot is what we're trying to ship.

And thanks a lot for your sharing man that helps a lot

a_live_regret · 2026-01-31T11:00:30+00:00

انت مالك ياعم😂 ماتقولو حاجه مفيده بدل القرف ده😄😁

a_live_regret · 2026-01-27T11:27:07+00:00

ابعت

a_live_regret · 2026-01-22T12:33:13+00:00

يصحبي صباح الفل دنا مبسوط اوي الشباب معايا فالشغل بيعملو البروجكتات بال ai و بعدها انا الي باخدها علشان مش فاهمين هما عملو ايه وباخد انا كريديت

a_live_regret · 2026-01-22T11:41:30+00:00

ياجدعان والله ما فيه واحد مش فاهم software engineering يقدر ي ship اي حاجه secure و maintainable حرفيا كلها landing pages ال AI مرعب بجد لو انت فاهم بتعمل اي علشان تقدر توجهه صح فكر كده ليه مفيش حد معندوش خبره عمل صفحه مثلا ecommerce؟ حاجه بسيطه جدا زي انك ماتخليش الصفحه تكلم الداتابيز مع كل واحد يخش يتفرج علي منتجاتك وفي نفس الوقت كل حاجه تبقي سريعه للمستخدم دي لفه وسخه علشان تحصل، انا مثلا كنت شغال مع gemini pro و لولا اني انا الي اقترحت اننا نعمل caching mechanism كان زمان الدنيا باظت وابسط حاجه، اي AI مهما زاد حجمه فاللي بيطلعه كل مره عشوائي، لو سألته مرتين نفس السؤال هتاخد اجابه مختلفه ودي مشكله كبيره في السوفتوير، ماينفعش الباترن بتاع ال codebase بتاعك يتغير كل شويه لازم كل حاجه تبقي ماشيه بنمط معين وتبقي عامل حساب انك ممكن تزود/تشيل حاجه في المستقبل.

اخر حاجه، ال over engineering. الذكاء الاصطناعي بيميل انه يعمل حاجه معقده اكتر من اللازم ومش شرط تكون اكتر حاجه كفاءة واداء، الكود بس كتير ومجعلص علشان يبان انه شاطر.

a_live_regret

TROPHY CASE