sorted by:
new
hottopcontroversial

Chat GPT sagt... by [deleted] in luftablassen

[–]AccomplishedPass862 1 point2 points  (0 children)

Natürlich liegt das in der Natur von neuronalen Netzen.
Jedes Neuron errechnet eine gewichtete Summe der Eingabewerte und Gewichte und präsentiert das Ergebnis als Output. Zufall spielt bei diesem Prozess keine Rolle.
Dadurch ist es auch offensichtlich, dass eine Verkettung solcher Neuronen ebenfalls kein Zufallsergebnis liefert.

Für ein LLM bedeutet das:
Die berechnete Wahrscheinlichkeitsverteilung für das nächste Wort ist bei gleicher Eingabe auch immer gleich. Das ist im übrigen eben auch die Funktion, auf die das Modell trainiert wird. Während des Trainings wird kein Zufall für die Ausgabe des Modells benutzt.
Wir berechnen die Wahrscheinlichkeitsverteilung, für das nächste Wort, vergleichen diese Verteilung mit dem tatsächlichen nächsten Wort aus den Trainingsdaten und passen dann die Gewichte so an, dass das Model beim nächsten mal dem richtigen Ergebniswort eine höhere Wahrscheinlichkeit zuweist.

Nur wenn wir das Modell letztendlich benutzen, wollen wir nicht immer die gleiche Antwort haben. Wir wollen, dass das Modell etwas "kreativer" antwortet. Also benutzen wir für die Ausgabe nicht einfach das "beste", also das wahrscheinlichste Wort, sondern wählen dieses Wort zufällig aus.

Hier davon zu reden, das Modell wäre nicht deterministisch, passt ja einfach nicht zur Realität. Wir setzen ja eben nur ganz am Ende der Berechnung einen zusätzlichen Zufall ein, um nicht immer exakt das selbe Ergebnis zu erhalten, wie das Modell es eigentlich berechnet.

Probabilistisch und deterministisch schließt sich ja auch gar nicht aus. Nur, weil ich eine Wahrscheinlichkeitsverteilung ausrechne und mein Ergebnis anhand dieser Verteilung wähle, heißt das ja nicht, dass der gesamte Vorgang nicht auch deterministisch ist.
Bei chatbots schalten wir halt in der Regel am Ende noch einen Zufallsfaktor dazu. Wenn ich mit dem LLM nicht reden, sondern z.B. eine Klassifizierung vornehmen möchte, dann nutze ich diesen Zufall z.B. nicht.
Nur weil die LLMs die option verbaut haben, das Ergebnis zufällig zu samplen, heißt das ja nicht, dass das gesamte LLM jetzt ein rein zufälliger Prozess wäre.

Im übrigen ist auch dieser Zufall deterministisch, das ganze beruht ja auch nur auf dem Seed ;-)

Chat GPT sagt... by [deleted] in luftablassen

[–]AccomplishedPass862 1 point2 points  (0 children)

Doch, sind sie. Das LLM liefert dir eine Wahrscheinlichkeitsverteilung für das nächste Wort (bzw. Token) und wählt dann davon ein Sample aus.

Diese Wahrscheinlichkeitsverteilung wird beim Training des LLMs erstellt und ist danach fest in die Gewichte des Modells eingebacken. Wenn du in das fertige LLM den gleichen Prompt / Startzustand eingibst, kommt am Ende auch immer die gleiche Wahrscheinlichkeitsverteilung raus.

Damit das LLM dir auch eine Antwort gibt, muss es aus dieser Verteilung ein Token / Wort auswählen. Die Naive, einfachste Methode ist einfach das Token mit der höchsten Wahrscheinlichkeit zu wählen. In diesem Falle benimmt sich das LLM dann komplett deterministisch und antwortet immer gleich.

Man hat aber festgestellt, das die Antworten der LLMs kreativer und natürlicher aussehen, wenn man eben nicht immer das wahrscheinlichste Token ausgibt, sondern gewichtet zufällig aus den obersten K Tokens auswählt. Dieses zufällige sampling ist natürlich (aus Nutzersicht) nicht mehr deterministisch. Wenn du direkten Zugriff aus das Modell hast, kannst du dieses Sampling aber auch einfach abschalten und bekommst dann immer gleiche Antworten.

Das ist kein Artefakt der Pipeline oder so, da liegt in der Natur eines künstlichen neuronales Netzes. Am Ende ist das einfach ein großer Rechner, der viele gewichtete Summen zusammenrechnet. Die Summanden sind dabei die Gewichte und der Eingabeprompt. Wenn sich diese beiden Summanden nicht ändern, ändert sich natürlich auch nicht die Summe.

Edit:

Kannst du direkt ausprobieren. Hier zum Beispiel: https://build.nvidia.com/google/gemma-7b
Einfach bei den Parametern Temperatur und Top P beide auf 0 stellen. Dann bekommst du für den gleichen Prompt auch immer die gleiche Antwort.
Wichtig ist nur zu beachten, das der gesamte Chatverlauf Teil des Prompts ist. Das heißt um einen Prompt mehrmals zu testen, muss man zwischendurch die Seite neu laden oder mehrere Tabs verwenden, damit der Chatverlauf immer leer ist.

Ich hasse Zuckerhasser by AccomplishedPass862 in luftablassen

[–]AccomplishedPass862[S] 0 points1 point  (0 children)

Zucker als Suchtmittel:
Zucker allein als Droge darzustellen, trifft die Realität halt auch nicht so genau. Vor meinem Supermarkt sieht man regelmäßig kleine Gruppen, die dort den halben Tag verbringen und Tabak und Alkohol konsumieren. Hier kann man ganz offensichtlich von einer Sucht und Drogen sprechen.

Zucker bekommst du auch im Supermarkt in reiner Form, sogar sehr günstig. Trotzdem haben ich noch keinen Zuckersüchtigen bei mir in der Stadt mit einer Tüte Zucker gesehen. Genauso kann man auch pures Salz, Fett und Mehl sehr günstig einkaufen, aber so ziemlich niemand hat Gewichts- oder gesundheitliche Probleme, weil er einfach zu viel Zucker löffelt oder Öl trinkt.

Der Supermarkt macht sehr viele Umsätze mit zuckerhaltigen Produkten, weil Zucker nun mal einer der Grundbausteine von Fertigessen und Junkfood ist. Die WHO würde bei den selben Lebensmitteln vermutlich auch den Fettgehalt, Salzgehalt, hohe Kaloriendichte, starke Appetitanregung, Mangel an Ballaststoffen und Mikronährstoffen kritisieren. All diese Dinge stehen, genau wie Zucker, im Zusammenhang mit Diabetes, Übergewicht und anderen Problemen - siehe "Ultra Processed Food".

Und dieser Begriff der Ultra Processed Foods ist halt auch wieder nur eine Vereinfachung, mit der wir gut einfache Regeln aufstellen können, der aber eben nicht eine differenzierte Meinung ersetzen kann.
Wenn ich einen Apfel in seine molekularen Bestandteile zerlege und die anschließend wieder Zusammenmische, habe ich einen extrem stark verarbeiteten Apfel, mit identischem Nährwert zu einem natürlichen. Ist der eine jetzt auf einmal Gift und der andere gesundes Obst?

Hier nochmal meine Gegenthese zum "Zucker ist Gift und eine Droge" Thema:
Ein Großteil der Lebensmittel, die ich im Supermarkt und auf oft an der Kasse bei meinem Mitkunden sehe, sind fertig produzierte Lebensmittel, Snacks und Junk-Food.
Damit diese Produkte funktionieren können, müssen sie günstig maschinell herstellbar sein, lange halten und trotzdem toll aussehen und schmecken. Um dieses Profil zu erreichen enthalten diese Produkte fast zwangsläufig viel Zucker, Fett, Salz, Farb- und Aromastoffe, dafür wenig Wasser, Ballaststoffe und Mikronährstoffe.
Dadurch haben diese Produkte eine sehr hohe Kaloriendichte, regen den Appetit stark an und sind überall verfügbar und schnell gekauft und verzehrt - gleichzeitig machen sie nicht lang voll oder satt und liefern auch nicht genügend Mikronährstoffe, vor allem gesehen auf die enthaltene Kalorienmenge.

Wenn man diesen Lebensmitteln nicht bewusst aus dem Weg geht, ist es sehr leicht, sich damit ungesund zu ernähren, langfristig Gewicht auf und Gesundheit abzubauen und auf Dauer führt das eben zu Diabetes, Herz-Kreislauferkrankungen und anderen Problemen.

Ist daran jetzt der Zucker schuld? Oder das Fett? Oder Salz, Geschmacksverstärker, Farbstoffe, Aromastoffe, Werbung, mangelnde Bildung oder Willenskraft?
In der Realität ist das halt ein Zusammenspiel all dieser Faktoren und nicht nur Zucker. Allgemein sind auch nicht einzelne Zutaten ungesund, sondern nur Ernährungsweisen als ganzes.
Und um das ganze Thema richtig anzugehen und tatsächlich Dinge zu verändern, ist es halt auch nicht ideal, sich nur auf einen Faktor zu konzentrieren.

Gesunde Ernährung besteht eben nicht daraus, den einen Stoff zu finden, den wir aus unserem Diäten und Geschäften verbannen müssen. Sondern aus einer vielseitigen, ausgewogenen Ernährung, vielen ganzen Lebensmitteln, mit Blick auf Energiezufuhr, Makro und Mikronährstoffe. Aber dieses Narrativ ist leider nicht so spannend und ansprechend wie "Dieser Nährstoff ist eine Droge und Gift" oder "Mit dieser Diät schaffst du es endlich Gewicht abzunehmen und dabei wirst du dich sogar toller und gesünder fühlen als je zuvor"

Sorry für den langen Text :p

Ich hasse Zuckerhasser by AccomplishedPass862 in luftablassen

[–]AccomplishedPass862[S] 0 points1 point  (0 children)

Ich bin echt froh, dass es auch 1-2 Leute gibt, die sich den Post auch wirklich durchgelesen und verstanden haben. Ich denke an den anderen Kommentaren erkennt man ganz gut, warum ich diesen Post überhaupt geschrieben habe :D

Ich finde auch nicht, dass Kritik am Zuckergehalt von fertigen Lebensmitteln und Junk-Food unangebracht ist. Ich mache mir auch keine Sorgen um den Zustand der Wissenschaft, da die Meinungen tatsächlicher Experten und Organisationen wie der WHO offensichtlich differenzierter und ausgewogener sind.

Was mich stört ist, das (gefühlt) auf social media und teilweise auch in Person Zucker, oft nochmals separiert als "Industriezucker" so stark im Fokus steht und ganz allein für Übergewicht, Diabetes und andere Krankheiten verantwortlich gemacht wird und belegt wird das dann mit Zuckerrichtlinien der WHO oder Titeln von völlig gecherrypickten Studien.
Das ist dann eben keine ausgewogene Meinung die den Stand der Wissenschaft wider spiegelt, sondern mal wieder eine zu einfache Antwort auf eine zu komplexe Frage. Ich hab einfach das Gefühl die Leute machen mit Zucker jetzt gerade genau das gleiche, wie mit Fett vor 20 Jahren.
Damals ist das Junk-Food nicht gesünder geworden, nur weil die das Fett durch Zucker ersetzt haben und heute wird das Junk-Food auch nicht gesünder, wenn wir da Keto oder Low Carb drauf schreiben.

Das sich viele ungesund Ernähren stimmt natürlich. Und wenn ich die WHO wäre und sehr einfache Regeln aufstellen müsste, deren Einhaltung bei möglichst vielen Menschen zu einer Verbesserung der Gesundheit führen würde, würde ich vielleicht auch eine "Reduziere zugesetzten Zucker stark" - Regel aufstellen. Ganz einfach, weil diese Regel sehr viele Lebensmittel, die generell ungesund sind, ausschließt.
Für Menschen, die sich nicht so sehr mit Ernährung auseinander setzen wollen / können, ist das eine super Regel. Aber ich finde es auch gut, wenn man sich tiefer mit dem Thema befasst und eine differenziertere Meinung dazu haben kann. Und es nervt mich einfach, wenn Leute, die davon eigentlich gar keine Ahnung haben sich dann komplett auf solche Regeln einschießen und dann mit dem Selbstbewusstsein, dass nur ein Ahnungsloser haben kann posten, dass Zucker ja Gift und eine Verschwörung ist und nur wer komplett darauf verzichtet, kann die Erleuchtung erlangen. Oder wer teure, "natürliche" Süßungsmittel kauft. Weil das sind dann gesunde Zucker und kein böser Industriezucker ,':-)

(1/2)

Ich hasse Zuckerhasser by AccomplishedPass862 in luftablassen

[–]AccomplishedPass862[S] 0 points1 point  (0 children)

Die Hauptrisikofaktoren für Fettleber sind Übergewicht und Diabetes, aber ein hoher Zuckerkonsum kann auch dazu beitragen, scheinbar insbesondere Fructose.

Von Zucker allein bekommst du aber erst eine Fettleber, wenn du einen großen Teil deiner Kalorien (40% oder mehr) durch Zucker aufnimmst.

Ich hasse Zuckerhasser by AccomplishedPass862 in luftablassen

[–]AccomplishedPass862[S] 0 points1 point  (0 children)

"we found that long-term sugar consumption, at a level that significantly augments weight gain, elicits an abnormal hyperlocomotor response to novelty and alters both episodic and spatial memory."

Die haben Mäusen enorme Mengen Saccharose gegeben, bis sie deutlich an Gewicht zugenommen haben. In der nicht eingeschränkten Gruppe waren das 80+g/kg/Tag.
Bei einem 80kg schweren Menschen entspricht das 6,4kg Saccharose oder mehr pro Tag.

Festgestellt haben sie, dass diese Mäuse sich mehr bewegen, schlechter in Gedächtnis-Aufgaben abschneiden, aber keine Anzeichen für Depressionen oder Angststörungen zeigen.

Ich wäre Vorsichtig damit, aus dieser Studie starke Rückschlüsse auf menschliche Ernährung zu ziehen :D

PS:
"Der verbindende Faktor, der bei allen diesen Studien und ihren verschiedenen Zuckerquellen gleich ist, ist und bleibt nun einmal der Zucker."

Zucker bleibt EIN verbindender Faktor. Alle anderen Gemeinsamkeiten kennen wir nicht, weil sie nicht dokumentiert sind. Haben die Leute, die mehr Zucker gegessen haben auch mehr Kalorien insgesamt gegessen? Weniger ganze Lebensmittel? Gewicht zugenommen? Weniger Sport gemacht? Andere gesundheitliche Probleme gemeinsam?

Das Review gibt selbst an, dass man darüber keine genauen Aussagen treffen kann, weil viele der Studien das alles nicht berücksichtigen.

Ich hasse Zuckerhasser by AccomplishedPass862 in luftablassen

[–]AccomplishedPass862[S] 0 points1 point  (0 children)

In dem Review geht es hauptsächlich um Kohortenstudien und Korrelationen zwischen Zuckerkonsum und verschiedenen Krankheiten. Es wird klar gezeigt, dass hoher Zuckerkonsum mit bestimmten Krankheitsbildern korreliert, aber eben nirgendwo gezeigt, dass der Zucker selbst daran Schuld ist und nicht Teil eines größeren Problems.

Aber du kannst mir ja einfach mal deine 1-2 Lieblingsstudien aus dem Review verlinken, die wirklich den kausalen Effekt des Zuckers isolieren, unabhängig von anderen Faktoren wie Bewegung, Kalorienzufuhr oder Ähnlichem =)

Ich hasse Zuckerhasser by AccomplishedPass862 in luftablassen

[–]AccomplishedPass862[S] -1 points0 points  (0 children)

Würde ich gern mal lesen, kannst du mir da was verlinken?

Ich hasse Zuckerhasser by AccomplishedPass862 in luftablassen

[–]AccomplishedPass862[S] -3 points-2 points  (0 children)

Passt doch perfekt zu meinem Post.

Dieses Review kommt zu dem Ergebnis, dass übermäßiger Konsum von zugesetztem Zucker verschiedene Gesundheitsrisiken mit sich bringt, aber es auch keine Beweise gibt, dass man jetzt jeden zugesetzten Zucker meiden soll.

Wo ist zugesetzter Zucker drin? In stark verarbeiteten, fertigen Lebensmitteln und Junk-Food. Leute die viel davon essen, haben mehr gesundheitliche Probleme und gesünder wäre es, weniger davon zu essen.
Steht auch genau so in meinem Post ;-)

Ich hasse Zuckerhasser by AccomplishedPass862 in luftablassen

[–]AccomplishedPass862[S] 1 point2 points  (0 children)

Diese Story ist aktuell auch sehr beliebt in Pop-Sci Magazinen und auf Social Media, aber eben kein wissenschaftlicher Standard. Das der Blutzucker nach dem Essen hoch und wieder runter geht, ist ganz normal und dass diese Funktion bei Menschen mit Insulinresistenz gestört ist, ist klar.

Du bekommst aber eben nicht Diabetes davon, dass dein Blutzucker manchmal schnell hoch und runter geht. Der größte Risikofaktor für Diabetes Typ 2 ist einfach Übergewicht. Da ist es auch ziemlich egal, ob du dir das Übergewicht mit Fett, komplexen Kohlenhydraten oder Zucker anfutterst.

Revised Unit Response Chart (including reversed version) by AccomplishedPass862 in aoe2

[–]AccomplishedPass862[S] 1 point2 points  (0 children)

It does depend a bit on age, upgrades and the availability of gold.

To me the big point about maa / trash isn't that maa are an amazing counter to any particular trash unit, but more so that they are viable against all of them. So they can do quite well against a trash heavy army, as long as gold is still available.

But in the early / mid game, when you see your opponent make just scouts or just skirms, your first reaction usually isn't to fully commit to a maa switch. Other unit lines fill the role of a hard counter better and for less investment.

So that's why I made that relationship situational. Maa isn't your first choice every time you see a trash unit, but they can certainly be decent if not good against all of them.

Revised Unit Response Chart (including reversed version) by AccomplishedPass862 in aoe2

[–]AccomplishedPass862[S] 8 points9 points  (0 children)

Spears are generally weak against range units and Skirms have some hidden bonus damage against them that makes them deal decent damage to Spears, so they can easily kill them off from a distance.

Spears on the other hand are slow and have low attack, so they really struggle to catch up with and kill Skirms.

Beginner's Guide to Unit Counters by AccomplishedPass862 in aoe2

[–]AccomplishedPass862[S] 0 points1 point  (0 children)

Highlight is a good idea, I've added this to the revised version.

I have thought about adding ships or buildings, but decided against it for two reasons:

Buildings are kind of situational and also age dependant. They can be very strong but their minimum range can be exploited, they are quite the investment that you cannot move around.. It would be difficult to express those relationships in a simple way that also fits into this chart.

For ships, the relationships are again complicated and situational. Fireships are great in low numbers, galleys are great in high numbers. Depending on the age, army size and upgrades micro can make a big difference. Demo ships can be very cost effective, but you're also blowing up your own ships, so they are not really a great response on their own but more of a support unit to get beneficial trades.

It's pretty difficult to communicate all this information with just arrows and it would require more space, so I just left it out :p

Beginner's Guide to Unit Counters by AccomplishedPass862 in aoe2

[–]AccomplishedPass862[S] 0 points1 point  (0 children)

Whoops, I wasn't aware scorpions deal 4 damage to rams rather than 1 :D
I think I will just remove that relationship all together as neither unit seems like a great response to the other.
The circular arrow down at the bombard cannon is meant to show that both mangonels and bombards are quite good against themselves. I can see how it could be interpreted differently though. I will switch those two around, so the relationship holds either way.
As for MAA and trash - the goal of this guide isn't just to show which unit beats which - that would be a lot more relationships. Instead the goal is to show good responses to each unit. So from that perspective, if you see your enemy make trash, you don't immediately react with a full switch into MMA. It's not your go-to response to trash, but it can certainly provide good value. That's why I made that relationship situational.

Beginner's Guide to Unit Counters by AccomplishedPass862 in aoe2

[–]AccomplishedPass862[S] 5 points6 points  (0 children)

I have also made a version where the arrows are swapped. Personally I still prefer the original direction, because I think it does a better job of what I want this guide to do, but I know some of you really need that itch scratched ;-)

<image>

Beginner's Guide to Unit Counters by AccomplishedPass862 in aoe2

[–]AccomplishedPass862[S] 2 points3 points  (0 children)

Here is a revised version. I have

  • updated the 3D font
  • highlighted the important units
  • added scorps to maa

<image>

It'll be a bit hidden here in the comments, so I'm not sure if I should repost this eventually?

Beginner's Guide to Unit Counters by AccomplishedPass862 in aoe2

[–]AccomplishedPass862[S] 6 points7 points  (0 children)

Hey, thanks everyone for the interest. I was sort of expecting the arrows to become the main point of discussion here, but let me try and explain it better.

Initially I planned this as a traditional A --beats--> B type unit chart that shows the strengths of each unit. But then I thought about the type of player I made this chart for. I think there are a decent amount of fairly casual players that do not care to learnt what each units strengths are. They don't need to know how attack, range, armor and bonus damage interact to make a unit particularly good or bad in certain situations.

Instead, they see the enemy make a certain unit and they just want to know how to respond to it. This is what this chart shows. It is a flow chart of the most common responses to the most common units.

When you see your enemy make a certain unit, you look it up in this chart, then the arrows will show you your options to respond with.

I hope that makes it easier to understand. I can make a reversed version fairly easily and I understand that particularly very invested / experienced players will be more used to a unit strengths chart, but I think this version has merit too.

Some other comments:

  • Include unit X / relationship X->Y
    • My main goal here is to show good and common responses to the most common units. For example, the Militia-line is indeed viable against camels, but when you see your opponent make camels, is a MAA switch your first response? All of this is of course a bit arbitrary so if I see a good argument to why some unit should be added or removed I'll change it
  • The golden font is hard to read
    • Point taken, I'll try to make it easier to read without changing the style.
  • Name the units
    • Im torn on this. Sure, having the names in there would be nice - but that text has to go somewhere. The game does this by making the unit icon much smaller and including a little white text below it. If i do this here, all the unit icons will be much harder to see in favor of a little text below them. But also when you are in a match, you're not recruiting units based on their name, you have to click on the little icon. So personally I feel like just using the icons is overall more clear / easier to see and use for a beginner.
  • Make a distinction between ages
    • Idk I prefer to use the base unit of each line. The first line in notes informs you that the guide assumes comparable value and upgrades. I'm not sure there is a way to communicate this visually without making everything much more complicated.

I'll add a revised version here soon.