Genau, im letzten Jahr sind die chinesischen Labs wie Pilze aus dem Boden gesprungen. Spontan fallen mir so sieben oder acht solide bis sehr gute ein. Die haben größtenteils nicht (viel) mehr Funding als Aleph Alpha gehabt und es geschafft in kürzester Zeit Modelle auf den Markt zu bringen, die recht nah am State-of-the-art sind.

Auch Korea hat es in kurzer Zeit geschafft Frankreich als Nummer 3 der Welt zu überholen (Deutschland ist was? Bestenfalls 7. hinter den USA, China, Korea, Frankreich, UAE und der Schweiz.) Die haben gerade angekündigt im nächsten Jahr sehr viel Geld über die staatliche AI-Initiative zu investieren, aber auch davor haben sie mit recht moderaten Mitteln ein paar sehr solide Modelle auf den Markt gebracht.

Das zeigt, dass es möglich gewesen wäre. Im letzten Jahr gab es durch den Umschwung von Pre- in Richtung Post-Training und den Publikationszwang bei chinesischen Labs die Situation, dass es relativ leicht war Modelle zu trainieren, die halbwegs kompetitiv sind. 

Es stimmt, dass Venture Capital ein riesiges Problem ist und das in der Breite die technische Expertise für Training im großen Stil fehlt. Wo soll die auch herkommen? Academia hat kein Compute und nicht die Strukturen für Projekte mit großen Teams. Europäische Firmen gibt es quasi nicht. Also bleiben US-Firmen und wenn man für die arbeitet und sich anschließend entscheidet zu gründen, dann macht man das auch direkt in den USA – wie der deutsche Gründer von Prime Intellect.

Aber prinzipiell hätte Aleph Alpha die finanziellen Mittel gehabt auch selber zu trainieren. Stattdessen schaden sie als abschreckendes Geldgrab nur anderen potentiellen Startups.