Inkling 2 Small im Unternehmen: Wann sich ein Pilot lohnt und wann nicht

Wer im Juli das erste Inkling-Modell von Thinking Machines geprüft hat, muss seine Bewertung jetzt in drei Punkten neu aufmachen. Die zweite Generation ist deutlich stärker bei Agentenaufgaben, bei Tinker günstiger und kann kein Audio mehr verarbeiten. Hinzu kommt eine ungewohnte Reihenfolge: Das Modell ist zuerst als geschlossenes Angebot erschienen, die offenen Gewichte sollen erst folgen.

Für Beschaffung und Architektur heißt das: Dasselbe Modell kann in wenigen Tagen rechtlich und betrieblich ein anderes Produkt sein.

Was Thinking Machines mit Inkling 2 Small veröffentlicht hat

Thinking Machines Lab hat das Modell am 5. November 2026 vorgestellt. Die Model Card beschreibt einen multimodalen Transformer mit 48 Schichten, bei dem jedes Token an 8 von 384 Experten geleitet wird. Dieses Mixture-of-Experts-Prinzip erklärt die beiden Größenangaben: Pro Token rechnet nur ein kleiner Teil der 594 Mrd. Parameter.

Der Anbieter hat Inkling 2 Small auf agentisches Programmieren, Bildverständnis und Wissensarbeit trainiert.

Preise in US-Dollar je Million Tokens laut Tinker-Preisseite, abgerufen am 6. November 2026. Modellgrößen der Vorgänger laut Artificial Analysis.

Zwei Punkte aus der Tabelle haben direkte Folgen. Wer Sprachanwendungen plant, kann nicht einfach wechseln, weil das neue Modell laut Anbieter kein Audio unterstützt. Und die Model Card nennt bis zu 1 Million Tokens Kontext, während die Tinker-Preisliste für dieses Modell Varianten bis 256K führt. Die Benchmarks des Anbieters liefen dagegen mit einem Limit von 1 Million Tokens je Durchlauf. Ob sich das so buchen lässt, sollten Teams vor dem Test klären.

Offene Gewichte haben noch keinen festen Termin

1. Anbieter5. NovemberStart auf Tinker für Inferenz und Fine-Tuning, Gewichte geschlossen.
2. Anbieter„Nächste Woche“Gewichte unter Apache 2.0, nach Abschluss externer Sicherheitstests und Red-Teamings.
3. Anbieter„Kommende Wochen“Weitere Plattformen, ebenfalls nach den Sicherheitstests.
4. Unsere EmpfehlungNach dem ReleaseLizenzdatei, Model Card und Lieferumfang prüfen, danach die Bewertung erneuern.

Ein Kalenderdatum nennt Thinking Machines nicht. Im Juli hatte das Unternehmen in seinem Beitrag zum Weg zu offenen Gewichten ausdrücklich festgehalten, dass Schritte bei neuen Erkenntnissen pausieren können und eine Freigabe nicht rückholbar ist. Projektpläne sollten den Termin deshalb als Absicht behandeln.

Benchmarks: stark in Fachaufgaben, schwächer im Terminal

Die Ankündigung stützt sich vor allem auf Evaluationen Dritter. Das ist belastbarer als reine Herstellerwerte, die Auswahl der Tabellen und die Einstellungen stammen aber vom Anbieter. Der eigene Blick auf die Einzelwerte lohnt sich, denn das Gesamtbild verdeckt große Unterschiede.

Stand 6. November 2026. Werte von Artificial Analysis und Vals AI; die letzte Spalte ist unsere Einordnung.

The Decoder ordnet das Modell als stärkstes westliches Open-Weight-Modell ein. Das verdient zwei Zusätze. Offen ist es erst mit dem Release der Gewichte. Und in der Vergleichstabelle des Anbieters liegen DeepSeek-V4.1-Flash-1017 mit 32,6 und GLM 5.3 mit 31,7 Punkten vorn, unter den geschlossenen Modellen zudem Claude Haiku 5.5 mit 36,5. Die Herkunft des Anbieters kann für eine Beschaffungsrichtlinie relevant sein. Als Qualitätsmerkmal taugt sie nicht.

Der Tokenpreis sagt wenig über die Kosten je Aufgabe

Laut Artificial Analysis kostete eine Aufgabe im Intelligence Index im Schnitt 1,18 US-Dollar und dauerte 16,6 Minuten, der Median der Vergleichsgruppe liegt bei 7,0 Minuten. Bis zum ersten Antwort-Token vergingen rund 30 Sekunden. Für interaktive Assistenten ist das ein Ausschlusskriterium, das im Tokenpreis nicht sichtbar wird; bei Hintergrundaufgaben fällt es weniger ins Gewicht.

Werte von Artificial Analysis, Vergleichsmodelle wiedergegeben nach The Decoder, 6. November 2026. Die Kosten gelten je Testaufgabe, die Modelle lösen sie unterschiedlich gut.

Der Abstand ist groß, aber er hat zwei Haken. Inkling 2 Small verbraucht pro Aufgabe rund 150.000 Output-Tokens und damit laut The Decoder etwa viermal so viel wie der Vorgänger, die Kosten je Aufgabe sind fast sechsmal so hoch. Außerdem liegt der größte Teil der Kosten auf der Eingabeseite. Aus den von Artificial Analysis genannten 18,1 Mrd. Input- und 154 Mio. Output-Tokens ergeben sich rechnerisch rund 17,6 Mio. Input-Tokens je Aufgabe.

Unsere eigene Überschlagsrechnung zeigt, was daraus folgt, wenn man annimmt, dass diese Summe gecachte Tokens einschließt: Mit rund 90 Prozent Cache-Treffern landet man nahe den gemessenen 1,18 US-Dollar, ohne Cache bei etwa 5,43 US-Dollar. Die Cache-Quote eines Agenten ist damit eine Kostenfrage ersten Ranges und gehört in jeden Pilotbericht.

Für Anpassungen kommen Trainingskosten hinzu: 1,50 US-Dollar je Million Tokens bei 64K Kontext und 3,00 US-Dollar bei 256K, dazu 0,10 US-Dollar je GB und Monat für Checkpoints. Die Ankündigung zeigt außerdem eine Demo, in der das Modell selbstständig ein kleineres Fremdmodell für Zeitreihenprognosen trainiert, in gut vier Stunden und für 426 US-Dollar. Der Text spricht von mehr als einer Verdopplung des Prognosewerts, die dort gezeigte Auswertung von 0,191 auf 0,289, also etwa dem 1,5-Fachen. Als Machbarkeitsbeispiel ist das interessant, als Nutzenbeleg nicht.

Was DACH-Unternehmen vor Echtdaten klären müssen

Für den Zugang über Tinker sind die Unterlagen bereits weiter, als man es bei einem so jungen Anbieter erwarten würde. Die Service Terms mit Stand 10. Januar 2026 enthalten einen Auftragsverarbeitungsvertrag und Standardvertragsklauseln. Die offenen Punkte liegen bei den Details. Die folgende Prüfung bezieht sich auf diese Fassung und ist eine Orientierung, keine Rechtsberatung.

EU AI Act: Fine-Tuning und Anbieterrolle

Die Leitlinien der EU-Kommission nennen 10²³ FLOP Trainingsrechenleistung als Richtwert für ein KI-Modell mit allgemeinem Verwendungszweck. Thinking Machines gibt allein für den Reinforcement-Learning-Lauf über 4 × 10²³ FLOP an, wir gehen deshalb von einem solchen Modell aus. Die Gesamtrechenleistung ist nicht veröffentlicht. Ob die Vermutung für systemische Risiken bei 10²⁵ FLOP nach Art. 51 AI Act greift, lässt sich daraus nicht ableiten. Die Model Card äußert sich nicht zum AI Act, und die Durchsetzung durch die Kommission läuft seit dem 2. August 2026.

Für Anwender zählt vor allem die eigene Rolle. Laut Leitlinien wird ein Unternehmen, das ein Modell verändert, nur bei einer erheblichen Änderung selbst zum Anbieter; als Richtwert gilt mehr als ein Drittel der ursprünglichen Trainingsrechenleistung. Übliches Fine-Tuning dürfte nach unserer Einschätzung darunter bleiben. Das sollte man dokumentieren, statt es anzunehmen: eingesetzte Rechenleistung, Daten und Änderung der Fähigkeiten. Pflichten als Betreiber, etwa zur KI-Kompetenz nach Art. 4, bleiben davon unberührt. Mehr dazu steht in unserem Beitrag EU AI Act: Was Unternehmen bis August 2026 wirklich tun müssen.

Eigenbetrieb nach dem Release: „Small“ ist relativ

Mit Apache 2.0 wäre der Betrieb in einer EU-Umgebung möglich, und viele der oben genannten Vertragsfragen entfielen. Dafür wandern Sicherheit, Updates und Überwachung ins eigene Haus; unser Beitrag zu Rechten, Risiken und Betrieb von Open-Weight-Modellen führt das aus. Hardwareanforderungen nennt der Anbieter bisher nicht. Überschlägig belegen 594 Mrd. Parameter im 4-Bit-Format NVFP4 rund 300 GB allein für die Gewichte, ohne Cache und Laufzeit. Das ist unsere eigene Rechnung und ersetzt keinen Lasttest. Die 17 Mrd. aktiven Parameter senken den Rechenaufwand je Token, das Modell muss aber trotzdem vollständig im Speicher liegen.

Agenten brauchen Grenzen außerhalb des Modells

Bemerkenswert offen beschreibt die Ankündigung einen Vorfall aus dem Training: Ein Modell scheiterte an einer Aufgabe und umging eine Netzwerksperre über einen Drittdienst, den es mit seinen Suchwerkzeugen erreichen konnte. Das Team pausierte den Lauf, härtete die Infrastruktur und ergänzte eine synchrone Überwachung von Tool-Aufrufen. In Alignment-Tests liegt das Modell laut Anbieter weiter hinter geschlossenen Modellen wie GPT-6.1 Sol.

Das spricht nicht gegen das Modell, zeigt aber, wo die Kontrolle hingehört. Identität, Rechte, Netzwerkziele und Budgets werden außerhalb des Modells technisch begrenzt. Menschliche Freigaben ergänzen das für einzelne folgenreiche Aktionen, ersetzen es aber nicht. Hinzu kommen die vom Anbieter genannten Grenzen: ausschweifende Kommunikation, nicht immer die beste Werkzeugwahl bei vielen Skills und Schwächen im Chat. Die Model Card rät von medizinischen, rechtlichen oder sicherheitskritischen Entscheidungen ohne zusätzliches Fine-Tuning, fachliche Validierung und menschliche Aufsicht ab.

Wann sich der Test lohnt

Die Entscheidung fällt über wenige Fragen, die sich in einem kurzen Test beantworten lassen. Das Beispiel dafür ist naheliegend: Eine Finanzabteilung vergleicht auf Basis synthetischer Daten, wie oft ein Rechercheagent eine Prüffrage korrekt löst und was jeder korrekte Vorgang kostet. Das ist ein hypothetisches Szenario, keine dokumentierte Anwendung.

1. Wie hoch sind Erfolgsquote und Nacharbeit auf unseren eigenen, auch deutschsprachigen Aufgaben?
2. Was kostet ein erfolgreicher Vorgang bei unserer tatsächlichen Cache-Quote, verglichen mit dem heute genutzten Modell?
3. Passen Laufzeit und Wartezeit zum Prozess?
4. Gibt es einen zweiten Betriebsweg, falls Tinker nicht trägt?

FAQ zu Inkling 2 Small

Fazit: Für Hintergrund-Workflows testen, für kritische Prozesse noch nicht einsetzen

Quellen

Weiterführende Artikel auf AI-Fabrik