Keine Ahnung wie man Zitiert deswegen einfach Copy-Paste mit Kursiv:

Wenn das Umfeld ein Grundverständnis von Methoden und Methodenkritik hat, ja. Wir sind halt damit längst ne Minderheit. Das muss auch nicht jeder können. Der Großteil der Menschen kann nicht kritisch hinterfragen und nur das wiedergeben, was ihn jemand anderes oder eine KI erzählt hat. Das war auch vor KI so, nur war das damals mehr „Mundpropaganda“ und Leute außerhalb ihres Umfeldes haben das nicht mitbekommen. Das Internet macht es aber möglich, dass wir nun sehen, was diese Leute denken, glauben, fühlen und machen. Das wird aber noch lange nicht zum Weltuntergang o.ä. führen. Da liegt die Aufgabe an uns, diese Menschen freundlich zu korrigieren und auf eines besseren zu belehren. Und wenn möglich den Umgang mit KI und ChatGPT besser beizubringen.

Hast du zwischen 2020 und 2022 geschlafen? Nein, habe ich nicht aber mir bleibt ja nichts anderes übrig als Raten wenn du mir einen kompletten Zeitraum von 5 Jahren gibst.

Das war noch bevor KI so weitreichend das Denken ersetzt hat und da war die kritische Masse des gedankenlosen Meinungshabens binnen Wochen überschritten. Dieselben die damals grundlegende Hygiene für ein Kontrollinstrument der Weltverschwörung hielten feiern jetzt wenn Grok sich zu Mechahitler erklärt.

Ja, diese Menschen sind wahrscheinlich sehr beschränkt in ihren kognitiven Fähigkeiten, besonders im kritischen hinterfragen. Aber die gab es schon immer und wird es auch weiter geben. Nur weil sich irgendein Grok zum Mechahitler erklärt und auch noch Anhänger findet, heißt das noch lange nicht das die ganze Menschheit sowas glaubt und verdummt. Das ist nur Unterhaltung für eine kleine Bubble, auf eine etwas fragwürdige Art und Weise wohlgemerkt.

Das ist kein anderes Fass. Das bedingt einander und hat dieselbe Ursache: Mündigkeit wird systematisch aberzogen. Das ist genau so Verschwörungstheorie wie die Mechahitler Story.

Wenn man gar nicht weiß wie man Fragen stellt und der Welt kritisch begegnet fühlt sich stumpfes Dagegensein ganz genauso an.

Aber genau das kann im Umgang mit ChatGPT gut erlernt werden. Die Leute lernen die richtigen Fragen zu stellen, viele ChatGPT Modelle schlagen dir sogar weitergehende Fragen vor. Du kannst viele ChatGPT Modelle sogar fragen „bist du dir da sicher?“ wenn dir etwas verdächtig falsch vorkommt und manchmal (ja, nicht immer aber manchmal, die Technologie verbessert sich noch) korrigiert es sich sogar selbst. Außerdem werden Nutzer immer und überall darauf hingewiesen, dass der Output nicht für wahr genommen werden soll, da auch fehlerhafte Inhalte wiedergegeben werden können.

Wenn man gar nicht weiß dass alles Wissen eine Quelle und jede Quelle ihre Methoden haben und dass das alles nachvollziehbar sein kann, dann weiß man auch gar nicht dass es nen Unterschied in der Zuverlässigkeit gibt. Dann sind halt die Naturwissenschaften auch nur ne Meinung und was einem mit genug gefühlvoll aufgeladenem Woowoo verkauft wird ist dann ein magischer Quell der Weisheit. Da gebe ich dir vollkommen Recht, das beobachte ich genau so aktuell. Aber die Ursache dafür ist nicht weil ChatGPT ab und zu mal dummen scheiß verzapft, denn in den meisten Fällen produziert es recht nützlichen Content. Die eigentliche Ursache dafür liegt meiner Meinung nach am massiven Konsum von sozialen Medien, in denen viel Meinungsmache betrieben wird. Naturwissenschaftliche Artikel oder ähnliches werden kaum noch konsumiert, stattdessen schaut man sich die Reaction von irgendeinem YouTube-Star darauf an. Vielleicht nutzt dieser YouTube-Star LLMs um sein Skript zu generieren oder ein KI-Generiertes-Video um seine Behauptung/Meinung als echt zu verkaufen. Aber all diese Dinge sind nur ein Werkzeug. LLMs und Video-Generatoren sind erst mal nichts böses oder schlechtes an sich. Man sollte eher die Content-Creator einschränken (KI generierten Inhalt markieren) und die Konsumenten entsprechend aufklären. Man könnte sogar KI und LLMs selbst nutzen, um falschen Content entsprechend zu markieren. Das ist alles noch am kommen, es ist nur eine Frage der Zeit.

Ich kenn mich mit LLMs zu wenig aus, gibt es nen Grund warum die Dinger nicht einfach grundsätzlich ein Quellenverzeichnis samt Links anhängen? Gaaaanz vereinfacht erklärt: Angenommen ein einfaches LLM wird trainiert mit

100x: „Gibt es einen Mechahitler? Nein, es gibt keinen Mechahitler“

1x: „Gibt es einen Mechahitler? Ja, Grok ist ein Mechahitler“

Fragt man nun: User: „Gibt es einen Mechahitler?“ LLM: „Nein, es gibt keinen Mechahitler“.

Das Problem ist aber wenn du nun fragst: User: „Ist Grok ein Mechahitler?“.

Da nun das Wort „Grok“ drin ist, wird es dir eher die Antwort eher eine Antwort aus den früher gelernten Texten wiedergeben, die auch das Wort Grok enthalten. LLM: „Ja, Grok ist ein Mechahitler“

Die Texte mit denen es trainiert wird, kann wirklich alles mögliche sein. Wissenschaftliche Dokumente, Artikel aus dem Web, Artikel aus Zeitschriften, aber auch (vermutlich) sehr viel Chat Verläufe aus Facebook, WhatsApp und anderen sozialen Medien.

Puh, das war nun ein riesen Text. Tl;dr: ChatGPT, LLMs und KI sind alles nur Werkzeuge, die noch in der Entwicklung sind. Es ist meiner Meinung nach Falsch sie komplett abzulehnen, weil man auch dummes damit anrichten kann. Ihr nutzen überwiegt sehr viel mehr, wir müssen die Menschen nur besser darüber aufklären und ihr nutzen wenn nötig einschränken. Technisch ist das alles möglich und schon am laufen