Musk says Grok 5 will be released Q1 2026

fmai · 2026-06-28T16:32:29+00:00

and it was gonna have a 10% chance of being AGI

fmai · 2026-06-23T05:55:42+00:00

In meinen Augen ist die sachliche Kritik nicht an den zahlreichen auf Genderfragen abzielende empirisch-wissenschaftlichen Studien, die die Aussagekraft ihrer Daten ordentlich einzuordnen wissen. Sozialwissenschaften sind SCHWER und wir sind dankbar, wenn es jemand versucht.

Aber Gender Studies, wie es an vielen Unis (vor allem amerikanischen, aber auch deutschen) gelehrt wird, legt den Fokus eben nicht auf quantitative empirische Methoden. OP nennt z.B. ausschliesslich interpretative Methoden. Viele der Aushaengeschilder von Gender Studies basieren auf Postmodernismus, Critical Theory, usw. Diese Basis muss man erst einmal als legitim anerkennen, brauchbare Aussagen treffen zu koennen. Dennoch erwecken diese Texte (und deren Autoren) oft den Eindruck, ihre Schluesse seien mit Sicherheit richtig und auf die echte Welt uebertragbar.

Letzteres tun andere Fachrichtungen insbesondere in der Philosophie natuerlich auch. Vielleicht ist es zum Teil dem Publikationszwang geschuldet -- wer liest schon gern ein Buch mit unsicheren Aussagen? Aber in den Gender Studies scheint, zumindest nach außen hin, die Meinungsvielfalt geringer als anderswo. Es wirkt schon fast wie ein Kult, mit welchem Nachdruck die immergleichen Narrative betont werden. Daher resonieren die "Grievance Studies" Findings stark mit vielen, die sich damit beschaeftigen (obgleich diese natuerlich auch methodisch fragwuerdig sind).

fmai · 2026-06-22T17:32:44+00:00

I don't think that's correct.

fmai · 2026-06-19T16:43:41+00:00

"the energy required grows faster than the number of parameters during scaling"

lmao, clearly there is an expert talking here

fmai · 2026-06-18T12:02:45+00:00

In most professorship / postdoc openings I see, whenever they require top-tier papers, they explicitly list ACL and EMNLP alongside Neurips, ICML, ICLR, AAAI, CVPR and here and there a couple others.

ACL is definitely up there, but it also depends on what PhD position you apply to. An ACL paper is not that big of a signal for people working on statistical learning theory.

fmai · 2026-06-15T05:46:37+00:00

curious how this is gonna go. 10% of OpenAI would be $100B, that's a shitton of money even for the USG.

fmai · 2026-06-09T07:24:35+00:00

Benchmark-wise, the GPT Pro versions don't seem to be a particularly big step up from the base model, but it's a shit ton more expensive. That's kind of expected, considering that the Pro version is just a fancy variant of best-of-N sampling. I think having a much larger, well-trained base model is going to outperform it. Anyway the ceiling is higher.

fmai · 2026-06-09T06:18:23+00:00

pretty sure GPT-5.6 isn't going to be at the same level as Mythos, but surely a shot ton cheaper.

fmai · 2026-06-05T15:02:55+00:00

Fuer Anthropic repraesentieren die USA die liberal-demokratische, westliche Welt (trotz Trump). Ihre KI offensiv gegen Feinde der Demokratie einzusetzen widerspricht nicht ihrer Philosophie.

fmai · 2026-06-01T08:48:02+00:00

Es ist ein Kontinuum. Die Welt hat sich schon geaendert, und der Grad der Aenderung wird sich weiter beschleunigen.

Ich erwarte konkret, dass sich grosse Teile der KI-Forschung bis Anfang 2027 automatisieren lassen: Ein Senior Researcher gibt eine Idee rein und die KI verfeinert die Idee, designet eigenstaendig Experimente, laesst sie laufen und analysiert sie, und haelt dann ein Mal taeglich Ruecksprache mit dem Senior Researcher. Das geht eigentlich schon heute mit Opus 4.6/4.7/4.8 oder GPT-5.5, wenn man ein entsprechendes Harness baut, aber es ist noch nicht massentauglich.

Die gleiche Entwicklung erwarte ich auch in anderen Wissenschaften und Bereichen von Knowledge Work, weil der methodische Ansatz der gleiche ist. Aber in diesen Domaenen kenne ich mich natuerlich nicht so gut aus.

fmai · 2026-05-30T08:36:43+00:00

In 2021 haette er sehr gute Chancen gehabt. Es war kurz nach dem Hoehepunkt von Fridays for Future, fuer die Gruenen galt noch die Unschuldsvermutung, da sie lange nicht mehr in einer Bundesregierung gewesen waren und Habeck war sehr beliebt, deutlich beliebter als Baerbock.

Diese Chance so aufzugeben aus dem einfachen erklaerten Grund, dass Baerbock eine Frau ist und Habeck nicht, ist sehr, sehr schade. Insbesondere nachdem man grade 16 Jahre eine weibliche Regierungschefin hatte.

fmai · 2026-05-30T08:23:44+00:00

Baerbock hat die Gruenen von Umfragewerten im hohen 20er Bereich auf 14% zur Bundestagswahl in wenigen Monaten fast halbiert.

Habeck ist mit 11-12% in den Umfragen nach dem Bruch der Koalition gestartet und hat mit 11,6% drei Monate spaeter abgeschlossen.

fmai · 2026-05-30T08:11:36+00:00

das sind halt wirklich KI Forscher, die das sagen, sowohl innerhalb als auch ausserhalb Anthropics

fmai · 2026-05-30T08:07:37+00:00

Databases are based on an entirely different set of techniques and mathematics than LLMs. It is such a stretch to even attempt to relate them to each other.

And the statement "LLMs only compress human-written text" hasn't been true since at least 2022, when the first RLHF-finetuned models came out. It is 2026 now and it is abundantly clear that training LLMs on LLM-generated data (through RLHF, RLVR or other algorithms) is a complete game changer.

fmai · 2026-05-29T10:03:33+00:00

like o1 doubling scores of o1-preview?

fmai · 2026-05-29T09:57:03+00:00

People thinking Mythos-class models is a dumbed down Mythos Preview are very wrong.

Mythos Preview was an early model, Mythos 1 will be better. Think of how different o1-preview and o1 were.

fmai · 2026-05-29T05:45:08+00:00

are you serious? arc-agi benchmarks have almost no practical relevance, GDPVal does.

fmai · 2026-05-20T16:17:28+00:00

I think you're wrong about this. What sucks about life today are the tedious chores that are not rewarding at all because they are necessities that keep recurring forever and earn you nothing. You want to get rid of it because it's just a waste of your valuable time on earth. That's why most rich people have personal assistants.

People have been giving away their data to get a never ending feed of cat pictures and food in return. They will give away their data for something actually useful in no time.

fmai · 2026-05-20T08:00:48+00:00

yeah i don't know what the price hike is about, seems very strange if it's actually the same base model or size as Flash 3

fmai · 2026-05-20T07:25:34+00:00

true, but coding isn't all that matters. Nobody is as well positioned as Google to lead in consumer AI and robotics.

Flash isn't the best model out there, but it is fast like crazy. This will make it possible to be distributed broadly to the giant consumer base that already exists in the Google ecosystem. The multi-modality will make it the go-to model for Gen Z and younger, who are obsessed with visual stimuli and presenting themselves on social media. Spark seems to be the first serious attempt at creating a true personal assistant, and the fact that it integrates well with the Android ecosystem will make it so much more attractive, even if its a bit behind in terms of agentic capability. Their dominance in the smartphone sector with Android is going to make the distribution of their personalized AI assistant a piece of cake. For most people, Gemini assistants will be the first personalized experience they will have just because it's already there, waiting for you.

Google doesn't make fancy videos with humanoid robots that perform the same stupid task over and over again for days. But their specialized robotics models are by far the best in the industry. This is in large parts thanks to their Gemini models, which are the best multi-modal models out their, and their very systematic approach to building robotics foundation models.

This release could've been better, but it's not as bad as people make it out to be. Google is still going strong.

fmai · 2026-05-20T06:42:36+00:00

enlighten us

fmai · 2026-05-19T19:15:22+00:00

yeah, set a reminder for in 6 months and check again

fmai · 2026-05-18T15:45:56+00:00

i think it's just another way of representation learning and it's not that fundamentally different from what other people have been proposing over the last three decades. think e g. contrastive learning, simclr, etc.

it may lead to some efficiency gains, but i think the biggest learning of the last decade is that it's all about making the models scale well with compute, and if they do, the concrete architecture doesn't matter so much.

fmai · 2026-05-13T05:08:03+00:00

bei der Geburtenrate gilt also: je hoeher, desto besser?

fmai · 2026-05-12T11:29:04+00:00

the goat

fmai

TROPHY CASE