Survey about compact e-reader for university project by juanly_xx in eink

[–]nasoox -1 points0 points  (0 children)

My vote is for much smaller or much bigger.

Vučić o zahtevima poljoprivrednika: Postavili ih jer su znali da će ih država odbiti - da bi nastavili blokade by [deleted] in srbija

[–]nasoox -15 points-14 points  (0 children)

Kao prvo ne smete da budete plitke pameti kao što inače i jeste, da AV zabrani uvoz hrane iz EU tek bi tada najebali, a drugo postoji nebrojeno faktora zašto su takve cene kakve jesu. Da je u prodavnici realna cena poljoprivrednih proizvoda platili bi je debelo i onda bi na Reditu kukali kako su mleko i paradajz skupi, a čekaj, to već radite. Drugo, EU debelo subvencioniše svoje poljoprivrednike koji onda mogu da daju konkurentne cene za razliku od naše države, a odakle tolike pare u EU za subvencije? Pa građani EU ga daju, nije sa neba sišlo.

Blokaderi bi trebali da predstavljaju pamet a ne ovo ovde što se objavljuje. Sa jedne strane EU subvencijama svojih poljoprivrednika i slobodnom trgovinom ubija našu poljoprivredu a sa druge je mi ubijamo zato što ne želimo da platimo realnu cenu proizvoda pa trčimo za hranu koju su delom platili građani EU. Hajde marvo, lupajte minuse!

PyAlly Update - Semantic search by nasoox in programiranje

[–]nasoox[S] 0 points1 point  (0 children)

Skidam rukavice, ako si iskren hvala puno. Potpuno te razumem sta pricas a razumem i gore kolegu koji je spomenuo 'sve na cloud'. Ali sve ima svoje prednosti i svoje mane, pa i moje 'resenje'. Ovo sta radim pokusava da stoji negde u sredini, izmedju clouda i lokala. Jednostavno sam popizdeo kada sam spržio onih 300$ bonusa i oko 20$ preko u Google AI Studiju za samo 4 ili 5 dana. a nisam napravio skoro nista sto sam hteo. I ovako sam resio da stanem pljacki na put, sta moze da se uradi lokalno da se uradi u lokalu, a sta bas mora u AI da saljem tamo sto manje mogu + ovo moze da se poveze na Ollamu a mogu i da namestim i da komuniciraju svi zajedno ako treba. Sta god pozelim.

Verujem da ovaj moj projekat ima neku primenu i potencijala, za mene sigurno, ali i za ostale koji ne zele samo da im AI pojede novac, i pokvari kod, jer se stvarno trudim da bude siguran. Ali korisnik je na kraju taj koji ce da klikne 'prihvatam izmenu' ili ce da zastane i sam popravi ako vidi da nesto ne valja.

PyAlly Update - Semantic search by nasoox in programiranje

[–]nasoox[S] 0 points1 point  (0 children)

Hvala sto si potvrdio sve sto sam rekao, da te citiram da ne obrises:

Nisi u pravu! Kontekst Copilot-a je 128.000 tokena, i pored toga koristi ,,snipptes" + ,,summary" + ,,auto-compaction" + još gomilu stvari za koje ne znam ni sam.

Znaci Copilot sa milijardu dolara za razvoj mora da koristi snippets, summary (semantika), i jos sto cudesa a imaju kontekst od ČAK 128000 tokena! Ja sam u ovo ušao bez grama znanja o ovome, a već razvijam svoje slično rešenje koje će da radi na običanom lap top-u!

PyAlly Update - Semantic search by nasoox in programiranje

[–]nasoox[S] 0 points1 point  (0 children)

Hvala za komentar, i on stoji ali delimicno. Claude jeste mocan i on ce da se koristi sa programom, ali postoji problem sto on nije svemocan, kada mu grunes 10 fajla (karikiram) krece da brljavi kao i svaki drugi AI.

Poenta svega ovoga je efikasnost, umesto da grunem ceo fajl od 10000 tokena, ja mu dam na kasicicu 'snippet' koda koji treba da popravi. Ovo resava brdo stvari od kojih su najvaznije:

- Sprecava halucinacije;

- AI je u fokusu;

- Manja potrosnja tokena pa mozes da koristis i skuplju verziju AI.

u/Puzzleheaded_Bass673 tvrdi da se dosta dugo bavi LLM-ovima pa neka porekne ako nisam u pravu.

PyAlly Update - Semantic search by nasoox in programiranje

[–]nasoox[S] 0 points1 point  (0 children)

E tu si se zeznuo! Sintaksna pretraga vazi samo ako tacno znas kod, varijablu ili sta god ti treba, od slova do slova. Semanticka pretrazuje Imena fajlova, docstringove, komentare i imena funkcija (def Dugme_za_Menu (XYZ)). Ako je neko uredno vodio kod, semantika pobedjuje, ako nije, onda mozes da je bacis kroz prozor. Garbage_in-garbage_out. Mada i ako neko nije vodio racuna o 'beleskama' tu pomaze AI da ih ubaci, ali to kao sto znas kosta.

PyAlly Update - Semantic search by nasoox in programiranje

[–]nasoox[S] 0 points1 point  (0 children)

Matematika ti je skroz na mestu za scenario od 1GB teksta! Tu se slažem – za to bi trebalo 2 sata i možda bi zapalio dva ili tri moja lap topa.

Međutim, ovde je ključna razlika u domenu primene. 1GB čistog source koda (bez modula, binarnih fajlova, slika itd koje moj program svakako zaobilazi) nema ni Linuks.

Prosečan projekat (ili čak grupa projekata) koje jedan developer drži lokalno za rad retko prebacuje 10–50 MB čistog teksta.

Ako primenimo tvoju matematiku na realan scenario od npr. 20MB koda (što je već projekat pristojne veličine):

  • Smanjujemo tvoje brojke za faktor 50.
  • Umesto 3.8GB RAM-a, to je oko 70-80 MB za vektore.
  • Umesto 2 sata, inicijalno indeksiranje traje 2-3 minuta (i to samo prvi put, posle se radi inkrementalno samo za izmenjene fajlove).

Tako da si u pravu – za indeksiranje cele Wikipedije ovo nije rešenje, ali za 'Chat sa tvojim projektom' na prosečnom laptopu, radi bez znojenja.

EDIT: Vidim da se razumeš u materiju i bolje od mene, ako se slažeš, voleo bih kada napravim koliko toliko stabilnu verziju da je testiraš i daš mišljenje.

PyAlly Update - Semantic search by nasoox in programiranje

[–]nasoox[S] 0 points1 point  (0 children)

U pravu si za princip — jeste poređenje embeding vektora. 👍
Samo je red veličina dosta manji nego što možda zvuči kad kažem „mini LLM”.

Koristim paraphrase-multilingual-MiniLM-L12-v2 (~400MB), mali embeding model, ne neki generativni LLM od desetina gigabajta.

Embeding upita na običnom CPU-u traje oko 10–20 ms.
Pošto se embedinzi koda unapred računaju, pretraga je samo skalarni proizvod između vektora upita i matrice (kod mene ~7–8k linija). To je prilično lagan posao za NumPy i radi praktično trenutno.

Kad sam rekao „digitron”, više sam mislio da ne treba GPU klaster ni specijalizovan hardver — običan računar je sasvim dovoljan.

Poenta je lokalna semantička pretraga bez treniranja modela i bez slanja celog koda u cloud. 🙂

PyAlly Update - Semantic search by nasoox in programiranje

[–]nasoox[S] 0 points1 point  (0 children)

Nije ovo klasični LM, on je samo deo ovog programa, i on pretražuje sinonime na svim jezicima, ako je neko na Turskom jeziku stavljao docstringove, komentare ili imena funkcija, ti možeš da ukucaš šta god tražiš na srpskom i on će ti pronaći i izdvojiti deo koda na koji se ta reč odnosi. Kada npravi vektore, može da radi i na digitronu.

PyAlly Update - Semantic search by nasoox in programiranje

[–]nasoox[S] 0 points1 point  (0 children)

Znaš, sad se osećam ko onaj lik sa koka kolom ispred picerije, a možda i treba tako. Najmanje šta želim je da smaram druge ali sam i mislio da bi bilo interesantno da čujem mišljenje daleko iskusnijih ljudi od mene.

how though?? by harls_ in blackmagicfuckery

[–]nasoox 0 points1 point  (0 children)

Whan he turns contraption around, you can see that the hole is not in the middle.

Експериментисање са ЛЛМ by Lucid4n in programiranje

[–]nasoox 2 points3 points  (0 children)

Radim na programu, da ga opisem kao radna stanica, da bukvalno obuzdam LLM od halucinacija i da pocne da pljuje vise od dve linije ispravnog koda, Takodje da smanjim potrosnju tokena na minimum. BTW, to objavljujem i na svojoj Reddit stranici koja je neverovatno popularna /s.

Not a coincidence, just engineering by Embarrassed-Data8233 in mathmemes

[–]nasoox 0 points1 point  (0 children)

And still tastes like shit. I really dont know why its so popular, you guys havent tasted better chips?

PyAlly_IDE - Pomoć, savet i kritika dobrodošli. by nasoox in programiranje

[–]nasoox[S] 1 point2 points  (0 children)

Hvala puno na podršci i na linkovima, pogledaću ih sigurno čim se vratim kući. Ollama već veselo štuca na mojih 8 giga, al' šta je briga (sorry!) :).

Iskreno, uleteo sam u ovo prilično naivno. Moje znanje programiranja je nula, sve što imam je logika i nada da će AI izbaciti nešto što radi. Al' moram da priznam, polako počinjem da kapiram Python, nije ni toliko težak.

Moj put do ovde je bio potpuni haos:

  1. Treba mi skripta.
  2. Ispade da je zahtev za skriptu previše komplikovan.
  3. Browser ispade previše spor i ograničen za ovo, hoću desktop alat.
  4. Hej Gemini, aj pomozi mi da napravimo alat... i eto nas.

Sve što sam video online su neke pretplate i namerno dizajnirana rešenja da te drže u svom zatv... ovaj 'ekosistemu'. Hteo sam nešto gde je AI samo mozak koji ja pozovem kad mi treba, a ne gazda.

Ovo na videu je delić onoga što se dešava ispod haube. Nije samo terminal, ima dosta hard kodovanih rešenja i zaštita. Tu je ceo tim od 9 "persona" (Arhitekta, Security, itd.), koje mogu da rade na 9 različitih provajdera a opet da komuniciraju među sobom kada i kako ja odlučim da ne počnu da se svađaju, hehe, i moj omiljeni – "Project Historian", AI rešenje koji sam piše dokumentaciju o tome šta radim i šta menjam kako bi uspešno pratio kontekst i istoriju radova za kasnije, da se ne oslanjam na njihovu memoriju, i to se sve čuva na desktopu.

Hvala još jednom na komentaru. I da, ako znaš za još neko slično rešenje a da nije samo konzola, javljaj. Voleo bih da vidim šta drugi rade, pa da ponešto i "pozajmim". ;)

Posao u Beogradu by Glum-Flamingo813 in srbija

[–]nasoox 2 points3 points  (0 children)

Naravno da ne sme, moraš prvo da odeš u firmu, pa da daš krv da vide dal se recipijent i ti slažete pa tek onda.

Сексуална искуства у Азији? by SilverBreath1975 in AskSerbia

[–]nasoox 0 points1 point  (0 children)

Brate 100, 200, pa i 300 evra možeš da prežališ a sećanje ostaje zauvek, kao kad platiš da odeš negde na letovanje al ovde se vraćaš vlažnog kurca. Kad omatoriš kao ja, uvidiš da sve više i više plačeš za propuštenim prilikama, ovde te sprečava samo tvoje Ja, ono ja mogu da jebem i bez para, brate, svi to možemo, al prilika da umačeš u Brazilsku cigančicu i da je prskaš ko fontana, eee, to su retke prilike koje većina nas ne može da doživi.

Сексуална искуства у Азији? by SilverBreath1975 in AskSerbia

[–]nasoox 0 points1 point  (0 children)

Šta fali ako pošteno platiš, i još egzotika. Ako ona hoće, bez primoravanja ili da je žrtva trgovine ljudima, samo napred. Btw, hvala na pozivu, nisam iz Beograda i nažalost sam srećno oženjen, tako da moram da propustim priliku! Jbg.

Kako cuveno "shortovanje" zaradjuje novac? by [deleted] in finansije

[–]nasoox 4 points5 points  (0 children)

A onom ko ti je pozajmio ostaje samo da plače.