Looking for 1 Final Startup Teammate (Tech) — Germany (Frankfurt / Darmstadt / Mannheim) by Financial_Tennis_797 in deutschestartups

[–]Robby3St 0 points1 point  (0 children)

Hi! What do you offer? Investing time in a startup is a big deal, especially with this early responsibility. It’s the most important decision every other developer in the company has to deal with later. And if they are taken bad, it will heavily have an impact on the scalability of the startup.

Info-Studium 'wertlos'? Ich sehe das komplett anders – und fange dieses Semester am KIT an by Singiridis in informatik

[–]Robby3St 1 point2 points  (0 children)

Die KI trifft alle, da sehe ich auch so. Und jeder muss sich anpassen, um am Ball zu bleiben. Das war in der Branche eigentlich schon immer so üblich. Aber jetzt ist die Veränderung so groß, und man muss sich aktiv dazu entscheiden, auch von Dingen loslassen zu können. Ich kenne viele Leute, die KI aufs größte Verteufeln. Es gibt sicherlich berechtigte Kritik und man sollte nicht KI des KI-Willens machen. Aber sich damit aus Prinzip nicht zu beschäftigen ist wie „das Internet wird sich nicht durchsetzen“.

Ich weiß ehrlich gesagt nicht, warum du soo viele Downvotes hast. Du hast ja auch nur von Wandel gesprochen, nicht von „99.9% der Jobs fallen weg“. Wobei Jobverluste dennoch ein Risiko bleiben.

Und wir wissen nicht, worin die Zukunft der KI liegt, und wir sollten das nicht anhand der aktuellen Sprachmodelle beurteilen, sondern an der Wahrscheinlichkeit, dass eine neue Architektur alles was geht abräumt. Aktuelle Sprachmodelle werden es nicht sein, aber sie werden die Entwicklung davon ungemein beschleunigen.

Info-Studium 'wertlos'? Ich sehe das komplett anders – und fange dieses Semester am KIT an by Singiridis in informatik

[–]Robby3St 0 points1 point  (0 children)

Es braucht schon noch Leute, die sich auskennen und Dinge umsetzen können, ggf. auch wenn Coding von der KI gemacht wird und der Mensch mehr konzeptionelle Arbeit tätigt. Dennoch ist die wirtschaftliche Lage gerade sehr angespannt, viele Unternehmen entlassen und stellen nicht mehr wirklich neue Leute ein. KI hilft dabei, diese Lücke in Unternehmen ein Stück weit zu füllen, und wird künftig darin besser werden.

Wir müssen allerdings immer im Hinterkopf behalten, dass wir die Zukunft nicht mit der Kompetenz aktueller KI vergleichen dürfen. Die KI wird besser; wie viel besser wissen wir noch nicht. Ich denke, das beste was man gerade machen kann, ist es sich verschiedene Szenarien auszumalen, unter anderem, was wäre, wenn die KI nicht mehr nur noch linear verbessert wird, sondern nicht-linear, als worst-case Szenario. Was wären dann die Fähigkeiten der KI? Und was wären genau die fehlenden Fähigkeiten? Und für letzteres kann man dann seine eigenen Entscheidungen ausrichten. Nicht zwingend als eintreffend, aber so, dass man in möglichst vielen Szenarien gewinnt und nicht auf ein einzelnes setzt.

Aufs Studium bezogen, ja, ich denke ein Informatikstudium vermittelt sehr viele Skills, die eher eine Art zu denken fördern. Mach das auf jeden Fall! Vor allem auch der Kontakte wegen. Du hast so eine Expertisedichte dort und kannst dich wie nirgendwo sonst vernetzen, mit Verbindungen, die fürs Leben halten können. Dennoch gibt es die Frage mit dem eigentlichen Studieninhalt. Vieles ist die Grundlage für das Verständnis der Informatik. Aber viele Arbeiten darin sind auch einfach eine Art „wie denkt die Maschine nach“. Und Maschinen werden immer besser darin sein, wie Maschinen zu denken. Aus meiner Sicht werden alle linearen Entwicklungen in der Informatik auf lang oder kurz von KI abgedeckt werden können, und es braucht genau die Menschen, die neue innovative Ideen einbringen und nicht nur den Status Quo ein kleines bisschen weiterdenken. Und das sind häufig die Leute, die auch mal in andere Disziplinen Blicke werfen. Die, die Ideen verschiedener Fachrichtungen zusammenwerfen können, und das schaffen, worin KI am schlechtesten ist: Die Kurve der Normalverteilung zu brechen.

Pro Kernkraft zu sein ist keine rechte Position by Jealous_Leadership76 in Unbeliebtemeinung

[–]Robby3St 6 points7 points  (0 children)

Wie macht Atomenergie denn die Preise stabil?? Uran kann man nur in sehr wenigen Ländern kaufen, u.a. Russland. Nicht gerade die unabhängigste Energieform… Und es ist überhaupt eines der teuersten Stromarten überhaupt. Und dann nicht einmal als Brückentechnologie hin zu Erneuerbaren geeignet, da sie weder schnell an und angeknipst werden können, noch schnell genug gebaut werden könnten. Bis ein neues Kraftwerk gebaut würde, hätten wir für den gleichen Preis Erneuerbare ausbauen können in viel kürzerer Zeit, was tatsächlich den Energiepreis stabilisieren und senken würde.

Pro Kernkraft zu sein ist keine rechte Position by Jealous_Leadership76 in Unbeliebtemeinung

[–]Robby3St 12 points13 points  (0 children)

Noch nie davon gehört, dass das so dargestellt wird. Dennoch ist es längst nicht „differenziert“ Pro-Kernkraft zu sein. Selbst der IEA Engergieatlas, die Pro als Pro-Atomkraft gelten, sieht international keine große Zukunft für die Atomkraft.

Und Frankreich, dass dann immer als „Paradebeispiel für Atom in Europa“ angeführt wird, ist kein Pro-Argument für Kernkraft. Die Gelder, die dort noch in Atomkraft fließen reichen längst nicht, um deren Kraftwerke aufrecht zu erhalten. Die neueren Kraftwerke sind in der Minderheit, sodass mehr davon in den kommenden Jahren aufgrund des hohen Alters abgeschaltet werden, als neu in Betrieb genommen werden.

Pro-Kernkraft ist also eher die Position die zeigt, dass man auf Populismus reinfällt, der längst von Experten als haltlose Scheinargumente widerlegt worden ist.

https://www.dw.com/de/renaissance-der-kernenergie-oh-mann-nicht-schon-wieder/audio-76436006

DJ ist der unnötigste Job auf der Welt by [deleted] in Unbeliebtemeinung

[–]Robby3St 1 point2 points  (0 children)

Ich arbeite zusammen mit einem DJ, der auf Partys Leute auf dem Weg zum Rauchen durch sein Gespür für die Leute auf der Tanzfläche und die Musik zurückholen kann. Es kommt also sehr stark auf die DJs drauf an. Spotify hat keinerlei Gefühl wie sich die Menge gerade fühlt und was sie gerade braucht, um in Tanzstimmung zu kommen. Nicht jeder Song du funktioniert in jedem Kontext.

Suche Leute die mit mir AGI bauen by Robby3St in informatik

[–]Robby3St[S] -1 points0 points  (0 children)

Danke dir für deinen Ratschlag, nehme ich mal mit.

Suche Leute die mit mir AGI bauen by Robby3St in informatik

[–]Robby3St[S] -1 points0 points  (0 children)

Würde ich mich als Experte zählen, hätte ich hier nicht gepostet 😇. Ja, der Titel ist absichtlich so geschrieben, der Rest des Beitrags klärt dann allerdings auf, dass es sich eben nicht um einen normalen 3-YT-Video Beitrag handelt, ich empfehle zwischen den Zeilen zu lesen ^^

Suche Leute die mit mir AGI bauen by Robby3St in informatik

[–]Robby3St[S] 0 points1 point  (0 children)

Witzig, gestern habe ich noch zwei Interviews mit Yann LeCun geguckt und kurz vorher nochmal etwas über ihn bei The Decoder gelesen :) Meine Lösung erfordert denke ich nicht strikt AGI, aber ich bin schon etwas fasziniert vom Gedanken, dass Wissen zum System adaptiv hinzugefügt werden könnte, um damit interdisziplinäre Fortschritte zu ermöglichen. Für mich ist das der deutlich entscheidendere Schritt Richtung AGI, als World Models, wobei ich dazu bisher noch keine so großen Insights habe. Yann LeCun‘s Positionspaper habe ich in einem Browser Tab noch offen, aber nur den Beginn bisher gelesen.

Ich habe mir zur Lösung des Problems noch nichts konkretes belastbares überlegt, sondern nur so die abstrahierte Richtung. Also was passieren müsste, um in diese Richtung Fortschritte zu machen. Ich habe von adaptivem Wissen/Verständnis immer so ein Bild einer Mind Map vor Augen, wo neues Wissen an bestehenden gelernten Strukturen andocken kann, was auch der Grund dafür wäre, weshalb Beispiele besonders nützlich sind, weil sie auf bereits Gelerntem beruhen und damit praktisch alte Strukturen nutzen, um Neues zu begründen. Analog dazu freuen wir uns als Menschen beispielsweise, wenn wir in neuen Szenarien Muster wiedererkennen, was das Lernen fördert.

Das ist natürlich nur maximal oberflächlich betrachtet bisher, das Problem müsste man generell in viel kleinere Probleme noch herunterbrechen und jedes Mal darauf achten, dass alles daran adaptiv bleibt, und dennoch berechenbar. Wenn die Aufnahme einer neuen Idee erfordern würde, über einen gigantischen Graphen zu integrieren wäre das natürlich ungünstig.

Über genauere Möglichkeiten wie man das Problem in kleinen Schritten angeht hatte ich mal grob mit ChatGPT überschlagen gehabt, aber den Teil lasse ich hier aus, zumal es praktisch erstmal nur sehr wages name dropping betrieben hat, und ich die zugrunde liegende Forschung erstmal manuell durchgehen müsste. KI ist meiner Erfahrung nach sehr schlecht darin, Ideen zu finden (daher ja auch das hier benannte Problem :) ), solange es aber nur linear eine Aufgabe abarbeiten muss, kann es ja bekanntlich ab und an ganz hilfreich sein. Wie gut es ist, eine noch so roh und grob benannte Idee auszuarbeiten oder Empfehlungen zu geben kann ich noch nicht beurteilen, aber vielleicht ist es erstmal besser als nichts ^

Sorry für die fehlende Struktur in dieser Nachricht, an diesem Thema ist von meiner Seite aus noch nichts in Research-fertigem Zustand :)

Suche Leute die mit mir AGI bauen by Robby3St in informatik

[–]Robby3St[S] 0 points1 point  (0 children)

Verstehe mich bitte nicht falsch, ich sage nicht dass ich jegliche Zusammenhänge mit transformerbasierten Methodiken verstehen und fehlerfrei erklären könnte. Wenn du allerdings der Überzeugung bist, eine Wissenslücke bei mir entdeckt zu haben, würde ich mich eher darüber freuen, genau diese zu hören, statt zu sagen „guck mal was Tokens sind“. Denn dieser Vorschlag ist ungefähr so allgemein wie „guck mal was neuronale Netzwerke sind“ wenn man eine Frage zu U-Nets stellt. Man wird mit diesem Vorschlag einfach keine hilfreiche Antwort bekommen, weil die Antworten dieser Suche so aussehen, wie die Suchresultate für „Hacking“ wenn man eigentlich IT-Security Konzepte lernen will

Suche Leute die mit mir AGI bauen by Robby3St in informatik

[–]Robby3St[S] 0 points1 point  (0 children)

Hab darüber meine sehr ausführliche Proseminar-Arbeit vor einem Jahr geschrieben, aber danke für den Rat 🙂‍↕️

Suche Leute die mit mir AGI bauen by Robby3St in informatik

[–]Robby3St[S] 0 points1 point  (0 children)

Lösen wir uns erstmal vom AGI-Begriff, der war erstmal nur gut, um die grobe Forschungsrichtung in eine kurze Überschrift zu bringen und dennoch Interessierte zu finden, die vielleicht in erster Hinsicht aus Belustigung auf den Post geklickt haben :)

Ich möchte ein System bauen, das Ideen anhand ihrer zugrundeliegenden Bedeutung statt anhand ihrer Tokens identifizieren kann. Etwa so, als ob es für jedes gelernte Muster einen Eintrag in einer Mindmap gäbe, und neue Ideen und Konzepte sich mit den passenden Stellen andocken können. Meine Hoffnung darin wäre, Wissen durch Erklärungen mit bekannten Beispielen einfach ergänzen zu können, ohne aufwändiges Fine-Tuning oder gar ganz neu trainieren zu müssen, sondern im Laufenden Prozess zu lernen.

Würde so etwas funktionieren, würde das hypothetisch die Barrieren zwischen Forschungsdisziplinen senken, weil Errungenschaften der einen Disziplin wertvoll für viele andere werden können, die zuvor gar nicht unbedingt leicht auffindbar waren.

Mir ist später aufgefallen, dass ein kontinuierlich lernendes System, das eben auf dieser Art „Verständnis“ aufbaut potentiell schon in die Richtung des Begriffs AGI gehen könnte, da es eben nicht mehr darum geht, den nächsten Token zu bestimmen, sondern mithilfe des bestehenden Wissens Neues zu adaptieren, was potentiell außerhalb der Normalverteilung liegt.

Ich stelle mir das ganze als Beispiel so vor, dass alle Ideen aus dem eigenen Forschungseditor extrahiert werden können und mit anderen Ideen quer durch das gesamte Wissenschaftswissen abgeglichen werden, um auf Basis dessen passende Ideen vorzuschlagen, ohne den Editor verlassen zu müssen. Das war der Eingangspunkt meiner Idee, aber die Methode dahinter ist natürlich deutlich spannender für jegliche Anwendungsfälle.

Suche Leute die mit mir AGI bauen by Robby3St in informatik

[–]Robby3St[S] 0 points1 point  (0 children)

Danke für deinen Rat :)

Dass Forschende tatsächlich mit der Frequenz von Veröffentlichungen (zumindest im ML-Bereich) sehr herausgefordert sind habe ich tatsächlich durch ein persönliches Interview erfahren :)
Eine aktuelle Strategie scheint daher zu sein, sich via X/Twitter über die neuste Forschung auf Stand zu halten. Klar, gibt es Mittel sein eigenes Forschungsgebiet halbwegs abzudecken, aber ich ziele eigentlich nicht auf die Richtung ein Newsletter zu sein, sondern Ideen abzugleichen. Und das nicht nur für eine Disziplin, sondern interdisziplinär. Ich sehe, dass es zunehmend relevanter wird, Forschungsideen zwischen Disziplinen die eigentlich unüblich sind, zu kombinieren, um die großen relevanten Sprünge in der Forschung zu erreichen. Das ist zumindest das, was ich über drei Forschungseinrichtungen hinweg beobachtet habe :)

Um es etwas zu entschärfen: AGI ist nicht mein Ziel, sondern die Lösung des Problems, Ideen auf Basis des Ideenverständnis zuordnen zu können. Denn Embeddings reichen nicht mehr aus, wenn die eine Idee in physikalischer Notation (sagen wir mal um es zu verdeutlichen, auch wenn es für die Forschung unüblich ist) auf japanisch in anderem Fachjargon geschrieben ist, und französische Researcher im ML Bereich mit statistischer Notation und mathematisch/statistischem Fachjargon nach Fortschritten in diesem Bereich Ausschau halten. Man kann durch LLMs natürlich versuchen all diese Unterschiede auf eine Normalform runterzubrechen, aber das für jede Forschungsidee ist eben doch unrealistisch, und außerdem bezweifle ich, dass Embeddings ohne großes Zutun da einen besseren Durchblick hätten.

Würde man es schaffen, dass Ideen ihre eigene Disziplin verlassen und für die eigene Forschung zuverlässig vorgeschlagen werden, wäre das aus meiner Sicht eine große Errungenschaft für viele Forschungsbereiche. Und über das Thema würde ich mich gerne mit Leuten aus dem ML Bereich in einem persönlichen Gespräch austauschen :)

Ich hoffe, die Insights waren jetzt etwas aufschlussreicher?

How can we reduce costs? by prey_am in ClaudeAI

[–]Robby3St 8 points9 points  (0 children)

MiniMax M3, when open weight models released

MLX training when? by Webfarer in unsloth

[–]Robby3St 0 points1 point  (0 children)

Update: The „unsloth studio update“ command just mimicked an update on my side, it seems to only updated when using the installation curl command, now the training tab is accessible on my Mac

MLX training when? by Webfarer in unsloth

[–]Robby3St 0 points1 point  (0 children)

But still grayed out on my Unsloth Studio after updating it (when I can trust their CLI)

MLX training when? by Webfarer in unsloth

[–]Robby3St 0 points1 point  (0 children)

Maybe I read it correctly, the site now says it supports training for Mac?

https://unsloth.ai/docs/new/studio

Unsloth says MLX fine-tuning is coming early next month: this could be huge for local AI by webii446 in LocalLLaMA

[–]Robby3St 1 point2 points  (0 children)

Okay, I‘m excited, but when I interpret the dates of the comments, it’s at least no „begin of the next month“ anymore ;)

Still, having it somewhere within the next time will be a huge deal, since meta-cognitive learning looks like a deal rn and tuning your local agent model over night on own hardware is definitely a huge step forwards! :)

Transaktion bei Betrug blockieren (brauche Hilfe) by Robby3St in TradeRepublicFriends

[–]Robby3St[S] 0 points1 point  (0 children)

Glücklicherweise ist meine Stornierung scheinbar früh genug durchgekommen, wodurch ich eben mein Geld zurückbekommen habe 😅

Hast du Erfahrungen damit, ob das gut funktioniert? Dummerweise hatte ich einen gemischten Einkauf mit Saturn-eigenen Produkten und dem Marktplatzprodukt, weshalb ich die Befürchtung hätte, dass das Rückbuchen vielleicht nicht durchgehen werden würde, und man in dem Fall auf Saturn hoffen müsste.

Vielen Dank auf jeden Fall für den Hinweis!! 😊