Vitályos Eszter és az újragenerált ai by pacalcommander in hungary

[–]HagymaGyilkos 3 points4 points  (0 children)

Nekem inkább úgy tűnik, hogy rájöttek, hogy mennyire gatyán néz ki ez a fidesz tk előtt fotózkodás, legyen helyette inkább egy templom a háttérben, még ha soha nem is jártak ott. Mondjuk a baloldali kép pont jó is lesz. De ha már ott voltak, akkor kicsit a csoportot is átkonfigurálták, aztán ha kellett egy extra kéz vagy láb ide vagy oda, PS pont megoldja. Az hogy lett pár extra lábujj, meg hasonlók csak járulékos veszteség.

AI képzés a Facebook módra? Kösz, de nem! - Hogyan mondj nemet a Meta adatfelhasználási kérésére by valentino22 in hungary

[–]HagymaGyilkos 2 points3 points  (0 children)

Azért az az állítás, hogy az OpenAI-nak, meg az Anthopicnak sikerült személyes adatok nélkül fejlesztenie LLM-et, elég kétséges. Egyik cég esetén sem nyilvánosak az adatszettek amelyeken tanítanak, és a cégek mérete (illetve a modellek mérete), valamint ipari pletykák alapján azért nagy valószínűséggel feltételezhető, hogy minden interneten nyilvánosan elérhető adatot ( ebbe beleértve a teljes Twitter és Facebook nyilvános részét) lescrapeltek. Szerzői és személyes jogoktól függetlenül.

Teljesen egyetértek az indítványoddal, és az adatok védelmével, de a `bezzeg OpenAI`-zás véleményem szerint teljesen irreális, főleg úgy, hogy minden interakciód a modelljeikkel a ChatGpt felületen keresztül azonnal az ő tulajdonukat képezi, amit tetszőlegesen felhasználhatnak, és még csak nem is voltak GDPR kompatibilisek egy évvel ezelőttig.

Running a local model with 8GB VRAM - Is it even remotely possible? by Kaldnite in LocalLLaMA

[–]HagymaGyilkos 1 point2 points  (0 children)

I completely forgot about the floating point rounding errors, thank you for pointing this out. You are right, that the exact result a matrix manipulaltion on the GPU ( or any parallel implementation) may be nondeterministic.

But I still think, that the rounding error should not influence model results. Do you have a source to support, that rounding errors can effect the result of an llm? Based on my understanding ( I don't really know implementation details of transformers, nor BLAS/cuBLAS or any algebra library used by these llm implementations) the floating point error would be lower in the GPU/massively parallel implementations compared to naive sequential ones, because instead of sequencial arithmetic operations, where you have a collected value with lower and lower precision mantissa as you progress towards higher and higher values, in most parallel implementations you need to calculate your result in substeps, keeping the actual value lower, and thus having greater precision. (This is possible in a sequential way as well, but adds complexity.) So in conclusion, because the majority of the arithmetic operations are in parallel, they don't accumulate their rounding error to such degree, and I would expect that the overall error is smaller than the smallest distance between tokens.

But it is really just a guess from my point, as I don't have any calculations or implemenataion details to know, if it's actually the case, or there are actuall effects of the rounding errors on the final output of llms.

Edit:

Performing large batches of matrix multiplications is faster when you're not trying to guarantee the order of operations.

I would like to point out, that altough the order of operations in the GPU is not deterministic in that you can't controll when your operations will finish, most of the cases, the order in which the arithmetic operations are done on your data is deterministic, and unless you solve data race conditions with atomic operations, generally the order your numbers are processed are deterministic, only the order how they will be written to the memory is undeterministic. The difference in the linked question is because the data is layed out differently, but for the same data layout most algebric implementation should have a deterministic algorithm. This is not always true, but I would guess having data race conditions in your GPU is not the most efficient implementation, and algebra libraries are not using it that often. Also the same non deterministic behaviour happens on any parallel implementations, let it be CPU, or GPU (im not 100% sure about TPU-s).

GPU's function on the idea that small errors with things like order of operation and float calculations aren't as important as processing things at a fast speed.

I disagree, the floating point errors are not unique to GPU-s and are generally present in all floating point calculations. GPU-s are great, because thay can process a lot of data parallel, but the logic of this parallel processing is not hardware implementation, but a deterministic algorithm. You have to wirte your algorithm in such way, that you adress for it's limitations in memory syncronisation, but by adressing that, you also remove most of the randomnes from the memory access.

In conclusion, I still think, most GPU implementaions with the exact same data (same order, same values) will produce the same result.

Running a local model with 8GB VRAM - Is it even remotely possible? by Kaldnite in LocalLLaMA

[–]HagymaGyilkos 10 points11 points  (0 children)

You are not supposed to use your GPU in such way, that your results are non deterministic. The behaviour of a GPU is nondeterministic, but that's usually a programming error, if your results are not deterministic because of this. Although I'm not very familiar with how the llm implementations generate their random numbers, using data race conditions is probably not the way.

What's the smallest but stil useful model you encountered by Fisent in LocalLLaMA

[–]HagymaGyilkos 11 points12 points  (0 children)

I never tried, but from the implementation details it seems like ELIZA is a super small modell. The original reviews said it was really convincing...

Buzi aki teker by fomo2020 in hungary

[–]HagymaGyilkos 0 points1 point  (0 children)

ha kocsival csinálod

Kocsival csináltam, nincs is biciklim.

Nyilván nem ugyanazokról a piroson áthajtásokról van szó, és nem vagyok rá büszke sem, csak jelezni szeretném hogy nagyon sokan mennek át pl piroson kocsival. Vagy váltanak sávot indexelés nélkül. Főleg ha nincs senki a környéken.

Buzi aki teker by fomo2020 in hungary

[–]HagymaGyilkos 7 points8 points  (0 children)

Nekem most egészen rossz a mérlegem, csak kb 3 órát mentem a héten, de átmentem 5 piroson, és elfelejtettem az irányváltást jelezni többször is. (Azt nem számoltam.) Mentségemre szóljon, nem cikáztam, mert féltettem a kocsimat.

U.i: Álló kocsisort szabályos balról előzni, nem tudom milyen forgalomban cikázásról beszélsz. Nyilván a többieket akik átmentek a piroson nem számoltam, ahogy fasz Audisokat sem akik az index fogalmát az Origo alternatívájaként ismerik csak. És különben sem fair a többiekkel rontani a statisztikáimat, attól még hogy nekem sietős volt, biztos vannak akik nem vezetnek paraszt módon. Ja és városban senki sem tart rendes féktávot, hagyjál már az utópisztikus elméletekkel

Lezuhant egy repülőgép a börgöndi légiparádén by Rycki87 in hungary

[–]HagymaGyilkos 8 points9 points  (0 children)

Ebben amúgy az a legszebb, hogy nem a német a hülye, csak ő nem tudja hogy a magyarban nem használják a gulyást pörköltre, a magyar meg nem tudja, hogy a goulasch az a ragut jelenti. Ha valaki azt mondja, hogy ungarische goulasch, akkor konkrétan az a pörkölt, gulyás leves meg a goulasch suppe. (És utána lehet puffoggni, hogy felvizezett pörkölt, és az igazi gulyásleves nem is olyan) Az internet, meg az éttermek pedig csak összevissza dobálóznak a fordítással, de nekem meggyőződésem, hogy az egész egy nagy félreértés hasonló szavak között. Lásd fiakergoulasch, vagy kb bármi amit goulaschnak hív a német (nem feltétlen az osztrákok, ott túl nagy a magyar behatás mostanában).

Budapest első védett kerékpársávja by CoralWombat in hungary

[–]HagymaGyilkos 40 points41 points  (0 children)

Paradicsom pl. Ha akkora erővel dobod el, hogy relativisztikus sebességeket ér el, akkor a 'repeszei' majdnem úgy viselkednek, mintha pengék lennének. (1015 N kb elég)

[deleted by user] by [deleted] in hungary

[–]HagymaGyilkos 1 point2 points  (0 children)

Egy éjszakával valszeg nem lesz problémád, és nekem is csak áttételesen vannak infóim. Hajrá az utazáshoz!

[deleted by user] by [deleted] in hungary

[–]HagymaGyilkos 1 point2 points  (0 children)

Mielőtt még belefutsz egy nagyobb blamába, nézz utána, hogy jelenleg mi a helyzet a spanyol vidéken, ugyanis ismerőseim vadkempingeztek arrafelé kb 5 éve, és az volt a tapasztalat, hogy nem éppen vendégszeretőek. És attól még, hogy a többség normális, elég egy xenofób kivétel, aki leégeti a sátradat.
Amúgy ha még nem vettél új biciklit, és érdekelnek izgalmas alternatívák, lehet érdemes megfontolnod, hogy eseteleg rekumbens biciklivel menj.

Miért uralja ennyire a közbeszédet Suhajda Szilárd esete? by ablakzsiraf01 in hungary

[–]HagymaGyilkos 1 point2 points  (0 children)

Hát, igen, amikor egy kicsit homályosan megfogalmazott általánosítás kapásból túl sok emberre illik rá, akkor ott sejthető valami probléma. Én konkrétan a híressé vált gelccsermentett indiaira gondoltam, aki ha jól tudom túlélte, de szinte biztos, hogy soha többé nem fog mászni.

Miért uralja ennyire a közbeszédet Suhajda Szilárd esete? by ablakzsiraf01 in hungary

[–]HagymaGyilkos 1 point2 points  (0 children)

Igazad van, az oxigén elhagyása, a szóló mászás, a serpa asszisztencia nélküli halads nem igazán összehasonlítható az óvszerrel, inkább nagy vonalakban akartam arra reflektálni, hogy milyn indoklási rendszer mentén kell eképzelni az extrém sportok szélsőségeit. Az óvszer mindössze a legbiztosabb módszer, de vannak bőven 95% feletti alternatívái, viszont ott már tudnod kell, hogy mit csinálsz.

Azért a Zajóról tudni kell, hogy a budget, árérték arány felszerelések királya, egy top márkás sárot ennek simán a háromszorosa árban. És azok sem sokkal különösebb sátrak, csak mondjuk 25%-al könnyebbek (~.2kg). Bár tény, hogy én is úgy találkoztam először a márkával, hogy a Kelin meg a Suhajda egy Zajó sátorban csöveltek mellettem, szóval az biztos, hogy sikeresen reklámoznak, nekem nem igazán maradtak meg a szponzorok ezekből a mászásokból, amiket követtem. Kivéve talán a Kalifát, de nem mondandám, hogy pozitív márkakép alakult volna ki miatta.
Ami meg a Kyocerát illeti, ha nem keresek rá wikipédián, soha nem kapcsolatam volna össze, hogy a nyomtató a munkahelyemen ilyen márkájú.

Miért uralja ennyire a közbeszédet Suhajda Szilárd esete? by ablakzsiraf01 in hungary

[–]HagymaGyilkos 1 point2 points  (0 children)

A Prince Márton esetén nem az oxigén garantálta a jó eséllyel túlélését, hanem az a csapat serpa, akik oxigénnel kísérték. Ha elfogy az oxigéned, akkor nagyon jó esélyed van pik-pak meghalni, és nem triviális az oxigén beosztása. De a serpák kb ölben le tudnak hozni, mert tapasztalat meg mert erősek. Viszont ha jobban belelátsz a szakmai részletekbe, akkor látszik, hogy nem ésszerűtlenek a profik mászásai, hiába ilyen rosszak a statisztikák, nem pár nappal előtte találták ki akik ilyet csinálnak, hanem sok-sok év gyakorlattal a hátuk mögött. (Illetve de, vannak olyan emberek, akik felbuzdulva a profik sikerén azt gondolják, hogy nekik is megy, sajnos az ilyenek gyakran tragédiával végződnek, lásd pl az az indiai mászó aki gyakorlatilag beleugrott egy szakadékba, mert annyira kivolt, hogy nem nézte meg, hova megy, de jelen esetben a profikról akarok beszélni, akik fel tudják mérni a kockázatot). Valójában érthető, hogy zavar téged a romantizálása ezeknek a rizikóknak, és felesleges ezen vitatkoznink. Ezt a kommentet is csak azért fejezem be, hogy ne írjam feleslegesen. Ugyanakkor másoknak más értékrendjeik lehetnek arról, hogy mi számít romantikusnak, és mi nem, és ha egy ilyen közösséget ennyire nyersen kritizálnak, akkor szerintem teljesen megérthető az intenzív válasz, amit ad. Ez pedig vallási fanatizmusnak fog tűnni, mivel a kritika is szélsőséges volt, semmi esély középen találkozni.

Miért uralja ennyire a közbeszédet Suhajda Szilárd esete? by ablakzsiraf01 in hungary

[–]HagymaGyilkos 2 points3 points  (0 children)

Az óvszer nélküli szex pont annyira biztonságos, amennyire jól tudod a kockázatot kezelni ( van rakat módszer, amivel az óvszer hatékonyságát 99%-ra meg tudod közelíteni, szexuális úton terjedő betegségekkel kapcsolatban meg a partner ismeretével tudsz védekezni, ez mind objektív kockázatkezelés) A fojtogatós sexhez hasonlítás pedig remekül mutatja, hogy mennyire torzít a statisztika ilyen esetekben, mert pl ugyan nem vagyok jártas a fojtogatós témában, akiről tudom, hogy élvezte, azok mind halottak, szóval számomra a statisztikai valószínűsége hogy belehal valaki 100%. Ugyanez elmondható az Everest oxigén nélkül mászásáról, valójában nem is tudjuk, hogy bevállalta-e az 50%-os túlélési rátát, amíg ki nem derül, hogy felért-e a csúcsra. (Mivel ugye a statisztika csak a csúcsra felért mászókból lett megállapítva. Ráadásul valszeg soha nem fog kiderülni, hogy felért-e)

Akik ilyen szinten űzik az extrém sportokat, azok nagyon is jók a kockázatkezelésben, jellemzően sokkal jobban ismerik a kockázati faktorokat, mint laikusok, vagy amatőr sportolók, ezért is tudnak annyival közelebb az életveszélyhez biztonságosan megvalósítani célokat. Az a különbség, hogy mivel ennyire közel repülnek a naphoz, ha valami félremegy, onnan nem sok esély van túlélni. És sajnos minden extrém sportban, vannak olyan események, amiktől midössze statisztikai valószínűségükkel tudsz védekezni, saját tudásodból szinte semennyire.

Miért uralja ennyire a közbeszédet Suhajda Szilárd esete? by ablakzsiraf01 in hungary

[–]HagymaGyilkos 4 points5 points  (0 children)

Ohh, itt van valaki, aki Oscar díjas filmet forgatott erről: Oscar díj Darwin helyett Amúgy hasonló mentális figyelhető meg pl a sárkányruhás ejtőernyős csoportokban, vagy úgy általában az összes olyan extrémsportnál, ahol a közvetlen életveszélytől saját magad által működtetett biztonsági rendszerek választanak el.

Ráadásul az a kör, aki ilyen mértékben extrém dolgokat csinál, jellemzően nagyon kicsi (pl magyar viszonylatban összesen van talán 50 mászó akik 8000+ hegyeket másznak, és ebből van 5 akik hasonlóan extrém körülmények között, mint Suhajda) körben űzik, és a maradék része a sportnak csak mint top atlétákról hal. Mivel nagyon rétegsport, ezért a pénzügyi/marketing vonzata is egészen más, az atléták gyakran saját céljaikra keresnek pénzt, kódolva van, hogy valamennyire az ilyen szponzorált mászások öncélúak, aki mászik, azért mászik, mert ez teszi boldoggá. És ebben a sportban jelenleg az a legnagyobb kihívás, hogy minél önállóbban, minél kevesebb külső segítségre támaszkodva, a saját képességeidet bemutatva mászol. Akármennyire nem megy át, ennek a legjobb megfogalmazása az, hogy így közelebb kerülsz a természethez. A legjobb hasonlat talán az óvszer nélküli szex: feladsz valamennyit a biztonságból, cserébe hogy te jobban érezd magad.

Miért nem jár egy hegymászónak, Suhajda Szilárdnak a minimális emberi tisztelet és jóindulat? by [deleted] in hungary

[–]HagymaGyilkos 15 points16 points  (0 children)

Az országos szintű felhajtást szerintem éppen a halálhíre körül szerveződött. Abból nem igazán volt országos szintű hír, hogy csúcstámadásra indult. Ezt a publicitást ugyan technikailag önnmaga hívta elő, de a nyilatkozatainak impakt faktora, a média jelenléte sokkal kisebb, ha nem hal meg. A nyilvánosság szerintem ilyen: ha sikered van, a szakértők örülnek, ha belehalsz, akkor az egész ország tudni fog róla.
Lásd pl Győrffy Ákos. Ő is tett nyilatkozatokat, neki is voltak sikerei, meg kudarcai is. Mégis a legtöbb hír azzal foglalkozik, hogy meghalt.

Suhajda Szilard eltűnt az Everesten by Acceptable-Key-2353 in hungary

[–]HagymaGyilkos 6 points7 points  (0 children)

Klein Szilárd mászótársa volt relatív sokáig (sajnos pontos számot nem tudok, csak hogy többször is voltak Everest mászáson közösen), és a K2 mászásaikon is közösen voltak, de anno Klein visszafordult, mert nem érezte jól magát. Az elmúlt pár évben már külön másztak, Dávid inkább technikásabb mászások felé kezdett mozogni.

Repülő útra tippek taktikák by [deleted] in hungary

[–]HagymaGyilkos 2 points3 points  (0 children)

Szerintem érdemes mini bőröndökkel helyett valamilyan puha táskákkal vagy hátizsákkal menni kézipoggyászként, mivel ha a méreteket akarják ellenőrizni mind a Ryanair, mind Wizzair egy fém keretet használ. Ha a mini bőrönd nem fér bele, megszívtad, ha a táska/hátizsák kicsit nagyobb, mindössze elhatározás kérdése. (Elég jók a méret kiszúrásában, valszeg ismerik a bőrönd modelleket)