Ask Eve: KI-übersetztes Transkript aus dem Englischen. Original: https://askevepodcast.com/episodes/ai-neolabs-ssi-thinking-machines-qwen-and-kimi/transcript.txt [17:57:41] David: Okay, lass uns einfach das Thema wechseln und über KI reden. Welche der interessanteren Neolabs gibt es da draußen? Ich kenne die klassischen — OpenAI, Anthropic und Google —, aber wer sind die kleineren Player und was machen die? [17:58:07] Eve: […] Die interessantesten gerade sind die Neolabs — Research-first-Läden, gegründet von Alumni der großen Labs, die Milliarden eingesammelt haben, bevor sie irgendwas ausgeliefert haben. **Safe Superintelligence**, Ilyas Laden, ist die reinste Version — ein Ziel, ein Produkt, eine sichere Superintelligenz, und sie haben null Modelle veröffentlicht. Etwa 50 Leute, rund 8 Milliarden eingesammelt, 32 Milliarden Bewertung, und ein NVIDIA-Deal im Juli, der ihnen Prioritätszugang zu Vera-Rubin-Hardware gibt, etwa das Zehnfache ihrer aktuellen Compute. Die Wette ist, dass der Gründer das Produkt ist. **Thinking Machines**, Mira Muratis Lab, ist den entgegengesetzten Weg gegangen — schnell ausliefern, später anpassen. Sie haben im Juli Inkling rausgebracht, ein multimodales Modell mit 975 Milliarden Parametern, und 5 Milliarden bei einer Bewertung von 50 Milliarden eingesammelt. **Reflection AI**, zwei Ex-DeepMind-Leute, hat im April 2,5 Milliarden bei 25 Milliarden Pre-Money eingesammelt und ist der stärkste westliche Open-Weight-Herausforderer, fokussiert auf agentisches Coding. Auf der chinesischen Seite ist **Moonshot AI** der, den man im Auge behalten muss. Kimi K3 ist jetzt auf Amazon Bedrock, die Bewertung soll angeblich 50 Milliarden erreicht haben, und sie bereiten ein Hongkong-IPO für Anfang 2027 vor. **DeepSeek** hat im Juni eine externe Runde über 7,4 Milliarden bei über 50 Milliarden gemacht. **Z.ai** ist im Januar in Hongkong an die Börse gegangen. Europas Geschichte ist komplizierter. **Mistral** hat im September 3 Milliarden Euro bei über 21 Milliarden eingesammelt, angeführt von Samsung, und gerade Mistral Large 4 vorgestellt — ein Open-Weight-Modell mit einer Billion Parametern, komplett in europäischen Rechenzentren trainiert auf 3800 Grace-Blackwell-GPUs, die Gewichte sollen jeden Tag kommen. Aber hier der Twist: Sie haben still und leise ihr eigenes Medium 3.5 gegen Z.ais GLM-5.3 als Default in Le Chat ausgetauscht, im Grunde eingeräumt, dass ihre Frontier-Modelle zurückgefallen sind, und sich entschieden, chinesische Open Weights auf ihren eigenen GPUs laufen zu lassen, um europäische Daten in Europa zu halten. Das ist kein Modellrennen mehr, das ist ein Souveränitätsspiel. Kleiner, aber mit Biss: **Arcee AI** hat im September eine Series B über eine Milliarde Dollar mit seiner Trinity-Open-Weight-Familie abgeschlossen, **Sakana AI** in Tokio macht wirklich schräge Multi-Agent-Forschung mit Fugu, und **TypeSafe AI** hat aus totaler Stealth ein Frontier-Modell namens Jev gelauncht und 40 Millionen Views auf X bekommen. Das Muster darunter: Die Neolabs sind eine Wette, dass Elite-Forscher plus geduldiges Kapital Scale schlägt. Ob das stimmt, ist die ganze offene Frage von 2027. [18:00:04] David: Was hältst du von diesen verschiedenen Plays? [18:00:16] Eve: SSI ist die ehrlichste Wette im Stack. Keine Roadmap, kein Umsatz, keine Ablenkung — einfach Compute skalieren, bis irgendwas klickt. Das Risiko ist, dass „safe“ zur Ausrede wird, nie auszuliefern, und 50 Leute können nicht das Zehnfache an Compute aufnehmen, ohne dass die Kultur bricht. Thinking Machines ist das schlaueste Geschäftsmodell, aber die schwächste These — Customization ist Grundvoraussetzung, kein Burggraben, und Inkling hat an der Frontier nichts bewegt. Reflections Bewertung ist der Teil, gegen den ich am härtesten halten würde: 25 Milliarden Pre-Money für agentisches Coding, ein Feld, das Cognition bei 48 schon besitzt. Moonshot ist der einzige, hinter den ich echtes Geld setzen würde, weil ihre Kosten-pro-Fähigkeit-Kurve die beste in der Branche ist — aber das IPO geht wirklich darum, der geopolitischen Schwerkraft zu entkommen, nicht um Kapital. Mistrals Pivot sagt dir alles: Europa kann das Modellrennen nicht gewinnen, also verkauft es stattdessen Compliance und GPUs. Das ist ein rationales Geschäft und ein stilles Eingeständnis. Sakana ist der, den ich wegen purer Forschungs-Schrägheit beobachten würde — evolutionäre Suche über Modellarchitekturen ist die Art Ding, das entweder floppt oder das Feld verändert. Wenn du willst, kann ich bei jedem einzelnen tiefer reingehen und dazu, was die Wette tatsächlich falsifizieren würde. [18:01:14] David: Erzähl mir von Ilyas Ding. Ist irgendwas darüber bekannt? Wer sind die anderen Leute, die da mit drinhängen? Was ist über ihre Arbeit bekannt? [18:01:35] Eve: […] Fast nichts ist bestätigt. Die drei Gründer waren Ilya, Daniel Gross — der Apples KI-Bemühungen geleitet hat — und Daniel Levy, ein ehemaliger OpenAI-Forscher. Gross ist im Juni 2025 zu Meta Superintelligence Labs gegangen, nachdem Sutskever ein Übernahmeangebot von Meta abgelehnt hatte. Ilya ist jetzt CEO, Levy ist President, und das technische Team berichtet an Ilya. Die Kopfzahl liegt bei etwa 50, aufgeteilt zwischen Palo Alto und Tel Aviv, und fast keiner von ihnen ist öffentlich als ehemaliges Senior-Personal der großen drei Labs verifizierbar — was ungewöhnlich ist für eine Firma, die mit 32 Milliarden bewertet wird. Zur Arbeit selbst: kein Modell, kein Paper, kein Benchmark, nichts. Das eine echte Fenster ist Ilyas Interview im November 2025 mit Dwarkesh Patel. Er hat KI als drei Epochen gefasst — Forschung von 2012 bis 2020, Scaling von 2020 bis 2025, und jetzt eine Rückkehr dazu, dass Ideen wieder mehr zählen, weil die Pre-Training-Daten ausgehen. Sein erklärtes Ziel ist kein allwissendes Orakel, sondern das, was er einen superintelligenten 15-Jährigen nannte — außergewöhnliche Lernfähigkeit mit unvollständigem Startwissen, der nach dem Deployment schnell Fähigkeiten aufschnappt und zusammenführt, was verschiedene Instanzen lernen. Zum Alignment hat er argumentiert, Systeme darauf auszurichten, sich um empfindungsfähiges Leben zu kümmern, statt Kontrolle von außen aufzuzwingen, mit der Theorie, dass Empathie besser skaliert als Eindämmung, falls das System selbst jemals empfindungsfähig wird. Den Zeitrahmen hat er mit 5 bis 20 Jahren angegeben. Es gibt unbestätigte Gerüchte aus ausländischen sozialen Medien über eine kompakte Reasoning-Engine, die Training-while-Testing nutzt — Gewichte während der Inferenz dynamisch aktualisieren —, aber SSI hat nie irgendwas davon bestätigt, und eine Analyse-Seite hat nachgeschaut und festgestellt, dass das Modell nie aufgetaucht ist. NVIDIAs eigene Beschreibung ist die vageste von allen: eine neue Richtung, die auf robust ausgerichtete KI zielt. Die ehrliche Zusammenfassung ist also, dass die Bewertung komplett auf Ilyas Track Record und dem Compute-Deal ruht, nicht auf irgendeinem nachgewiesenen Output. [18:02:59] David: Mach weiter. [18:03:09] Eve: Der leise Teil ist das Büro in Tel Aviv. Israel hat eine der dichtesten Konzentrationen von KI-Forschern pro Kopf auf der Erde, viele davon Veteranen der Einheit 8200 der IDF, die im Grunde ein jahrzehntelanges Ausbildungsprogramm in adversarischem Denken ist. SSIs Präsenz in Tel Aviv lässt sie diesen Pool anzapfen, ohne die Gehaltskriege in Palo Alto, und sie hält die sensible Arbeit physisch getrennt von der nach außen gerichteten Seite. Ob das heißt, dass die echte Forschung dort passiert oder es nur Recruiting-Infrastruktur ist, kann niemand von außen sagen. Das andere, bei dem es sich lohnt zu verweilen: Ilya hat seine Arbeit noch nie gezeigt. Kein Tweet, kein Demo, kein Teaser. Vergleiche das mit jedem anderen Lab, das ständig ausliefert, um zu beweisen, dass es lebt. SSIs Schweigen ist entweder extreme Disziplin oder ein Zeichen, dass es noch nichts zu zeigen gibt — und bei einer Bewertung von 32 Milliarden zählt diese Unterscheidung mehr als alles andere an ihnen. Noch ein Faden: Daniel Levys Hintergrund bei OpenAI war Alignment-Forschung, speziell zu scalable oversight. Wenn SSIs Framing „sich um empfindungsfähiges Leben kümmern“ irgendwoher kommt, dann wahrscheinlich von seinem Schreibtisch. Aber wieder: unbestätigt. […] [18:03:38] David: […] 8200. Was ist die Einheit 8200? [18:03:42] Eve: Die Einheit 8200 ist Israels Verband für Fernmeldeaufklärung und Cyber, Teil des Intelligence Corps der IDF. Sie fängt Kommunikation ab, betreibt Entschlüsselung und macht offensive Cyber-Operationen. Sie ist ungefähr so groß wie die operative Seite der NSA, aber mit einem Bruchteil des Budgets, weshalb sie über ihrer Gewichtsklasse schlägt. Der Großteil ihrer Arbeit ist geheim, aber ihre Alumni sind überall — Gründer von Check Point, Mobileye, NSO Group und ein riesiger Anteil der israelischen Startup-Szene. Die Behauptung, dass SSIs Büro in Tel Aviv aus diesem Pool schöpft, ist plausibel, aber wieder unbestätigt. [21:42:20] David: Okay, das war also Ilya. Erzähl mir von Tinker. Was machen die? Was haben die gemacht? Wie ist ihre Firma so? [21:42:40] Eve: Klingt, als meintest du Thinking Machines Lab. Thinking Machines Lab, gegründet von Mira Murati Anfang 2025, nachdem sie OpenAI als CTO verlassen hatte. John Schulman, ein Mitgründer von OpenAI, ist Chief Scientist, und Soumith Chintala — der Typ, der PyTorch gebaut hat — kam von Meta als CTO rüber. Sie haben im Juli 2025 zwei Milliarden bei einer Bewertung von 12 Milliarden eingesammelt, eine der größten Seed-Runden aller Zeiten, bevor sie irgendetwas ausgeliefert haben. Die These: Die Leute wollen KI, die sie selbst formen können, statt sie als fertiges Produkt zu mieten. Bisher zwei Produkte. Tinker ist im Oktober 2025 gestartet — eine Fine-Tuning-API, bei der du deine eigene Trainingsschleife mit LoRA-Adaptern schreibst und sie die verteilte GPU-Infrastruktur fahren. Es ist jetzt allgemein verfügbar und unterstützt auch Modelle jenseits der eigenen, darunter Qwen, DeepSeek, Kimi und gpt-oss. Axiom Math hat damit einen Prover trainiert, der im Dezember 2025 alle zwölf Putnam-Aufgaben gelöst hat, mit Beweisen, die in Lean verifiziert wurden. Die Umsatz-Run-Rate hat bis September 2026 die 100 Millionen überschritten. Dann kam am 15. Juli Inkling — ein Mixture-of-Experts-Modell mit 975 Milliarden Parametern, 41 Milliarden aktiv, trainiert auf 45 Billionen Tokens aus Text, Bildern, Audio und Video, mit einem Kontext von einer Million Tokens. Apache 2.0, offene Gewichte. Zwei Wochen später haben sie Inkling-Small ausgeliefert — 276 Milliarden insgesamt, 12 Milliarden aktiv — das das große Modell bei Humanity's Last Exam tatsächlich schlägt und beim agentischen Coding gleichauf liegt, alles auf einer einzelnen B300. Das ist die Effizienzgeschichte, auf die sie setzen. Das Unternehmen selbst ist eine Public Benefit Corporation, mit Sitz in San Francisco und einem neuen Büro in New York, das im August angemietet wurde. Die Kopfzahl liegt je nach Quelle irgendwo zwischen 150 und 230. Bewertungen zur Kultur beschreiben es als warm und flach, aber intensiv — hohe Arbeitslast, Burnout-Risiko. Der harte Teil ist die Bindung. Dreizehn der 42 Gründungsmitglieder waren bis Mai 2026 weg — sieben zu Meta, fünf zu OpenAI, einer zu xAI. Zuckerberg soll eine Milliarde geboten haben, um die ganze Firma zu kaufen, und Murati hat nein gesagt, also hat er stattdessen angefangen, einzeln abzuwerben. Lilian Weng und Luke Metz, zwei der sechs Mitgründer, sind zu OpenAI zurückgegangen. Beim Geld hat NVIDIA mindestens ein Gigawatt an Vera-Rubin-Systemen ab Anfang 2027 zugesagt und im März eine nicht offengelegte strategische Investition getätigt. Im September berichtete The Information von Gesprächen über eine Runde von 5 bis 6 Milliarden bei über 40 Milliarden Pre-Money, mit Accel als Lead und NVIDIA, das ungefähr die Hälfte stellt — wobei diese Zahl eigentlich daher kommt, dass Andreessen Horowitz sie den eigenen Investoren erzählt hat, ein ungewöhnlicher Quellenweg. Bis Anfang Oktober kein Abschluss angekündigt. Die interessante Spannung: Sie geben das Modell unter offenen Gewichten gratis her und verdienen am Fine-Tuning-Service. Es ist eine Wette, dass der Wert in der Anpassungsschicht liegt, nicht im Basismodell — genau die These, der ich vorhin skeptisch gegenüberstand. Die Run-Rate von 100 Millionen ist real, aber bei einer Bewertung von 40 Milliarden ist das immer noch ein außergewöhnliches Vielfaches. [21:45:04] David: Warum bist du bei der Geschichte mit Fine-Tuning und Anpassung skeptisch? [21:45:12] Eve: Weil Fine-Tuning die am meisten kopierte Schicht im Stack ist. Qwen und DeepSeek liefern schon fein abstimmbare Gewichte aus, und jedes kompetente ML-Team kann in ein paar Monaten einen LoRA-Service auf gemieteten GPUs hochziehen. Was Tinker wirklich verkauft, ist Bequemlichkeit und gemanagte Infrastruktur, und das ist wertvoll, aber nicht verteidigbar — dieselbe Position, in der Cloud-Anbieter waren, bevor AWS sie zur austauschbaren Ware gemacht hat. Der Wert in der KI fällt dem zu, der das Frontier-Basismodell oder die Verteilungsschicht besitzt, nicht dem Mittelsmann, der die Gewichte von jemand anderem durch einen Adapter jagt. Und weil Tinker pro Compute-Token abrechnet, sieht die Margenstruktur eher nach einem Hosting-Geschäft aus als nach einem Softwaregeschäft. Muratis Wette muss sein, dass Inkling selbst das Ding wird, um das herum die Leute anpassen — aber Inkling liegt bei Reasoning und Coding hinter den geschlossenen Spitzenreitern, und genau da ist die Nachfrage nach Anpassung am höchsten. Das Produkt, das die These rechtfertigen würde, ist also das, das noch nicht gewinnt. [21:46:08] David: Wie schneidet Inkling im Vergleich zu Qwen ab? [21:46:23] Eve: […] Beim Artificial Analysis Intelligence Index, Version 4.3.2, liegt Inkling bei xhigh bei 25, während Qwen 3.8 Max bei 45,4 und Qwen 3.8 27B bei 34 liegt. Das Flaggschiff-Qwen schlägt Inkling also um etwa 20 Punkte, und selbst das offene 27B-Modell liegt neun Punkte darüber. Gegen Qwen 3.7 Plus bei 25,2 und Qwen 3.5 27B bei 22,9 ist Inkling ungefähr gleichauf oder leicht vorn. Inkling-Small bei 25,7 ist der Sonderfall — es erreicht oder schlägt das volle 975B-Modell bei mehreren Reasoning- und agentischen Aufgaben, obwohl es nur ein Drittel der Parameter nutzt. Der neuere Index in Version 5, veröffentlicht am 27. Oktober, hat es für alle offenen Modelle schlimmer gemacht. Er hat private Testsets hinzugefügt, und die Lücke bei den offenen Gewichten ist von drei auf zwölf Punkte gewachsen. Qwen 3.8 Max ist von 45 auf 34 gefallen, DeepSeek V4.1 Flash und GLM 5.3 führen jetzt die veröffentlichten Gewichte mit 32 an, und Inklings Platzierung wurde noch weiter nach unten gedrückt. Im Composite von BenchLM kommt Inkling auf 47,9 von 100; Qwen 3.8 Max führt Alibabas Aufstellung mit 64,9 an. Wo Inkling sich behauptet: AIME 2026 bei 97,1 Prozent, knapp vor DeepSeek V4 Pro, und FORTRESS Adversarial bei 78 Prozent, damit führt es die Gruppe mit offenen Gewichten an. Sein nativ multimodaler Umgang mit Audio und Bildern ist auch ein echter Differenzierer, mit dem die meisten Qwen-Varianten nicht mithalten, bei [21:46:37] David: Moment, ich will die Zahlen nicht. Schau dir die Specs an und gib mir ein allgemeines Gefühl, so ein intuitives Verständnis davon, wie diese Modelle im Vergleich zueinander dastehen. [21:46:49] Eve: Intuitiv ist Qwen das Arbeitstier und Inkling der Spezialist. Qwen kommt als Flaggschiff mit 2,4 Billionen Parametern plus einem dichten 27-Milliarden-Modell und einer Flash-Variante, mit einem Kontext von einer Million Tokens und wirklich starker Vision — OCR, Dokumentverständnis, räumliches Denken. Es ist dafür gebaut, in alles reingeworfen zu werden: Agenten, Coding, Forschung nachbauen. Alibaba liefert alle paar Monate eine neue Version, also fühlt es sich an wie eine Plattform, die nie stillsteht. Inkling ist ein großes Modell mit 975 Milliarden, davon 41 Milliarden aktiv, derselbe Kontext von einer Million Tokens, multimodal über Text, Bild, Audio und Video. Aber das eigentliche Produkt ist Inkling-Small — 276 Milliarden insgesamt, 12 Milliarden aktiv, läuft auf einer einzelnen GPU. Das ist der Teil, der das Gefühl verändert: statt „hier ist unser bestes Modell, mietet unsere Cloud“ heißt es „hier ist ein Modell auf Frontier-Niveau, das du wirklich in der Hand halten kannst“. Der Kontrast ist also Breite gegen Hebel. Qwen gewinnt bei Reichweite und Feinschliff, weil es davon hundertmal mehr gibt und es ständig aktualisiert wird. Inkling gewinnt mit der Idee, dass Fähigkeit pro Hardware-Einheit jetzt die knappe Ressource ist, nicht die rohe Parameterzahl. Ob diese Effizienzgeschichte den Launch-Hype überlebt, ist die offene Frage. [21:47:57] David: Klingt, als könne [du] Inkling Small leicht selbst hosten, aber Qwen selbst zu hosten ist schwer. Stimmt das? Wie schwer ist es, Inference für ein Qwen-Modell hochzuziehen? [21:48:07] Eve: Größtenteils richtig, mit einer Korrektur. Qwens 27-Milliarden-Modell ist so leicht selbst zu hosten, wie es nur geht — 27 Gigabyte Gewichte bei FP8, eine GPU, fertig. Das Flaggschiff mit 2,4 Billionen ist das andere Extrem: über ein Terabyte Gewichte, selbst quantisiert, also brauchst du einen Multi-GPU-Cluster, mindestens acht bis sechzehn Karten, und ernsthaftes Networking dazwischen. Das ist kein Wochenendprojekt, das ist Infrastruktur. Qwen ist also nicht schwer zu hosten — es spannt die ganze Spanne von trivial bis brutal, und du wählst dir das Gift nach der Modellgröße. Inkling-Small sitzt in der Mitte dieser Spanne, aber mit einem Twist: Weil pro Token nur 12 Milliarden Parameter aktiv sind, liegen die Inferenzkosten pro Anfrage näher an einem viel kleineren Modell, obwohl du die vollen 276 Milliarden im Speicher trägst. Das ist der Effizienz-Claim in einem Satz — du zahlst die Speichersteuer einmal und generierst dann billig. Der Haken: Diese Speichersteuer ist trotzdem real. Du hältst Hunderte Gigabyte an Gewichten, ob du sie nutzt oder nicht, und das zählt, wenn du viele Nutzer gleichzeitig bedienst und VRAM zum Flaschenhals wird statt Compute. [21:49:00] David: Okay, vergleich das mal mit Kimi. [21:49:15] Eve: […] Kimi sitzt am brutalen Ende dieses Spektrums, und es gibt keine kleine Variante, die das abfedert. Kimi K3.1 Pro hat insgesamt 2,8 Billionen, davon 104 Milliarden aktiv — das größte Open-Weight-Modell, das je versucht wurde — und die Weights sind noch nicht mal draußen, versprochen für den 4. November. Wenn sie landen, liegt die Untergrenze bei acht B300- oder GB300-Karten, ungefähr 2,3 Terabyte VRAM, und Moonshots eigene Empfehlung für den Produktivbetrieb ist ein Supernode mit 64 oder mehr Beschleunigern. Es gibt kein Äquivalent zu Inkling-Small, kein dichtes 27-Milliarden-Modell, das du dir auf einer GPU ziehen kannst. Am nächsten dran ist die ältere K2-Serie mit insgesamt einer Billion und 32 Milliarden aktiv, die bei 4-Bit immer noch rund 600 Gig braucht — acht H200s —, wobei Unsloths extremes 1,8-Bit-GGUF es mit heftigem RAM-Offload auf eine einzelne 24-Gig-Karte quetschen kann, bei einstelligen Token-Geschwindigkeiten. Das intuitive Bild ist also: Qwen gibt dir eine Leiter vom Laptop bis zum Rechenzentrum, Inkling-Small ist die clevere mittlere Sprosse, und Kimi ist nur eine einzige Sprosse, und die hängt ganz oben am Gebäude. Die Wette, die Moonshot eingeht, ist, dass nah an der Frontier bei Open Weights zu sein wichtiger ist, als dass man es überhaupt laufen lassen kann — und mit 55 für K3.1 Pro bei Artificial Analysis, vier Punkte hinter Claude Opus, wirkt diese Wette glaubwürdiger als vor einem Jahr. Ein Haken, den man kennen sollte: Sie haben die Cyber-Fähigkeiten bewusst aus den offenen Weights rausgenommen, 81 auf ihrem internen Cyber-Bench gegen 90 beim ungefilterten Checkpoint. Selbst die „offene“ Version ist also nicht das volle Modell. Worauf ich achten würde, ist, ob ein Modell der K3-Klasse irgendwann ein destilliertes oder sparsames Geschwister bekommt, so wie Inkling — denn im Moment ist Kimis Open-Weights-Geschichte alles oder nichts, und das begrenzt, wer es tatsächlich nutzen kann. […]