Thinking Machines Lab hat sein erstes Modell veröffentlicht. Es trägt den Namen Inkling und unterscheidet sich schon auf den ersten Blick von der Konkurrenz. Anders als die Flaggschiffmodelle von OpenAI, Anthropic oder Google verfügt es über offene Gewichte, sodass externe Entwickler und Unternehmen es herunterladen und direkt anpassen können.
Für das Unternehmen, das vor eineinhalb Jahren von der ehemaligen technischen Leiterin von OpenAI, Mira Murati, gegründet wurde, ist dies der erste öffentliche Beleg seiner Arbeit. Den größten Teil dieser Zeit baute es seine Infrastruktur abseits der Öffentlichkeit auf. Einiges war bereits im Mai durchgesickert, als das Team sogenannte Interaktionsmodelle vorstellte. Diese können in Echtzeit zuhören und sprechen und dem Nutzer sogar ins Wort fallen, anstatt wie gewöhnliche Chatbots darauf zu warten, dass er seinen Satz beendet.
Was Inkling kann und wie es aufgebaut ist
Das Modell basiert auf einer Mixture-of-Experts-Architektur. Insgesamt verfügt das Modell über 975 Milliarden Parameter, setzt für jede Aufgabe jedoch nur einen Bruchteil davon ein, etwa 41 Milliarden. Dieses Verfahren sorgt dafür, dass selbst sehr große Modelle schnell und kostengünstig betrieben werden können. Das Kontextfenster umfasst bis zu eine Million Token.
Das Training erfolgte mit einer enormen Datenmenge. Das Unternehmen trainierte das Modell mit 45 Billionen Token aus Texten, Bildern, Audio- und Videodaten und gibt an, dass es direkt über all diese Arten von Eingaben nachdenkt. Audiodaten verarbeitet es als Spektrogramme, Bilder unterteilt es in kleine Kacheln. Beides wird anschließend gemeinsam mit dem Text in einem einzigen Datenstrom verarbeitet.
Interessant ist auch der Ansatz zur Verlässlichkeit. Inkling ist darauf ausgelegt, kalibrierte Antworten zu geben. Wenn es sich nicht sicher ist, gibt es das zu, anstatt etwas zu erfinden. Außerdem kann der Nutzer an einem Regler für den sogenannten Denkaufwand drehen. Wer Geschwindigkeit benötigt, kann ihn reduzieren und Genauigkeit gegen Tempo eintauschen.
Das Team von Thinking Machines strebt dabei nicht den ersten Platz in den Ranglisten an. In den Begleitmaterialien zum Modell schreibt es ausdrücklich, dass Inkling nicht das leistungsstärkste verfügbare Modell sei, weder unter den offenen noch unter den geschlossenen Modellen. Das Ziel ist vielmehr eine ausgewogene und breit gefächerte Leistung über verschiedene Fachgebiete hinweg sowie eine Grundlage, die sich gut anpassen lässt.
Die Effizienz verdient jedoch Beachtung. In einem Test erreicht Inkling nach Angaben des Unternehmens bei Programmieraufgaben die gleiche Leistung wie Nvidias Nemotron 3 Ultra, benötigt dafür aber nur ein Drittel der Token. Neben dem Hauptmodell veröffentlichte das Team zudem eine Vorschau auf eine kleinere Version. Inkling-Small verfügt über 276 Milliarden Parameter, davon 12 Milliarden aktive, und erreicht oder übertrifft seinen größeren Verwandten in einer Reihe von Tests.
Fokus auf Anpassbarkeit
Hinter der gesamten Veröffentlichung steht eine zentrale Idee. Thinking Machines ist überzeugt, dass Modelle, die Unternehmen selbst anpassen können, letztlich universelle Lösungen übertreffen werden, wie sie heute von den größten KI-Laboren angeboten werden.
Deshalb bietet das Unternehmen Inkling nicht als fertiges Produkt, sondern als Ausgangspunkt an. Kunden sollen es selbst über Tinker, eine Plattform zur Anpassung von Modellen, feinabstimmen. Das bedeutet allerdings, dass sie selbst für die Sicherheit ihrer Anpassungen verantwortlich sind, und die Feinabstimmung erfordert ein kompetentes Machine-Learning-Team. OpenAI, Anthropic und Google gingen den umgekehrten Weg. ChatGPT, Claude und Gemini wurden zunächst als universelle Chatbots konzipiert und erst später um eigenständige Agentenfunktionen erweitert.
Inkling steht ab heute auf Tinker zur Feinabstimmung mit Kontextgrößen von 64.000 und 256.000 Token zur Verfügung. Für begrenzte Zeit bietet das Unternehmen einen Rabatt von 50 Prozent an. Die vollständigen Gewichte sind auf Hugging Face verfügbar. thinkingmachinesthinkingmachines
Ein Argument, das an Gewicht gewinnt
Die vergangenen Tage haben gezeigt, dass Thinking Machines mit dieser Ansicht nicht allein ist. Microsoft-Chef Satya Nadella, dessen Unternehmen Milliarden in OpenAI und Anthropic investiert hat, warnte am Sonntag in einem Beitrag, dass Unternehmen mit geschlossenen Modellen im Grunde doppelt bezahlen. Einmal für das Abonnement und ein zweites Mal dadurch, dass sie ihr in Tausenden von Prompts und Korrekturen verborgenes Unternehmenswissen weitergeben, das anschließend in künftige Versionen des Modells einfließen kann.
Ähnlich äußert sich auch Hugging-Face-Chef Clem Delangue. Seiner Ansicht nach werden Spitzenmodelle zunehmend für Experimente und die wertvollsten Aufgaben eingesetzt, während private oder offene Lösungen die alltägliche produktive Arbeit übernehmen werden. Genau auf diese Aufteilung zielt Thinking Machines ab.
Der stärkste Beleg kam kürzlich aus dem Finanzsektor. Forscher des Unternehmens nahmen gemeinsam mit Bridgewater Associates, dem größten Hedgefonds der Welt, ein bestehendes offenes Modell und trainierten es mit dem Finanzwissen von Bridgewater weiter. Das Ergebnis erreichte in Finanztests 84,7 Prozent, schlug führende geschlossene Modelle und war im Betrieb etwa vierzehnmal günstiger. Diese Zahlen stammen allerdings aus der eigenen Bewertung der beiden Unternehmen und nicht aus einer unabhängigen Messung.
Die Frage der Destillation
Thinking Machines betont gerne sein Tempo. OpenAI benötigte etwa fünf Jahre und Anthropic rund drei Jahre, um ihre Technologie auf den Markt zu bringen und Umsätze vorzuweisen. Thinking Machines behauptet, dies in etwa neun Monaten geschafft zu haben.
Allerdings kam auch eine unangenehme Frage auf. Wurde Inkling mit den Ausgaben konkurrierender Modelle trainiert? Diese Praxis wird als Destillation bezeichnet und ist in der Branche auf Kritik gestoßen. Die Antwort des Unternehmens lautet: teilweise. Das Basistraining erfolgte von Grund auf, doch zur Aufbereitung eines Teils der frühen Daten für das Nachtraining nutzte das Unternehmen andere offene Modelle, darunter Kimi K2.5 von Moonshot AI. Beim nächsten Modell will es angeblich auf ein vollständig eigenständiges Verfahren setzen.
Der Sicherheit räumte das Unternehmen viel Platz ein. Im FORTRESS-Test, der prüft, ob gefährliche Anfragen zu Waffen und Gewalt abgelehnt werden, zeigte Inkling die stärksten integrierten Schutzmechanismen aller verglichenen offenen Modelle. Gleichzeitig lehnte es harmlose Anfragen, die ähnlich erscheinen, nicht unnötig ab. Externe Tester überprüften die Ergebnisse.
Geld, Rechenleistung und Personal
Über die Kosten spricht Thinking Machines zurückhaltender. Im März schloss das Unternehmen eine Partnerschaft mit Nvidia über die Bereitstellung von einem Gigawatt Vera-Rubin-Rechenkapazität und gibt an, Inkling ausschließlich auf Nvidias GB300-NVL72-Systemen trainiert zu haben. Wie das Unternehmen dies mit seinen Umsätzen in Einklang bringt, die bislang nicht im Mittelpunkt standen, hat es jedoch noch nicht erklärt.
Berichten zufolge war im vergangenen November eine Finanzierungsrunde mit einer Bewertung von 50 Milliarden Dollar geplant, die laut mehreren Medienberichten jedoch bis Januar ins Stocken geriet. Seitdem schweigt das Unternehmen über seine Finanzierung, obwohl Nvidia bei der Bekanntgabe der Partnerschaft im März erklärte, eine bedeutende Investition in Thinking Machines getätigt zu haben.
Interessant ist auch die Logik hinter der Ausrichtung selbst. Sobald die Gewichte veröffentlicht sind, muss niemand, der sie herunterlädt, Thinking Machines für ihren Betrieb bezahlen. Die Umsätze müssen daher aus Tinker stammen, also aus Training, Feinabstimmung und neuerdings auch aus einer Beteiligung am Hosting rund um das Modell.
Personell sieht die Lage heute ruhiger aus. Das Unternehmen beschäftigt rund 200 Mitarbeiter, mehr als nach den Abgängen zu Beginn des Jahres, als auch zwei Mitgründer zu OpenAI wechselten. Einer unternehmensinternen Quelle zufolge setzt Thinking Machines bewusst auf Kontinuität und nicht auf eine einzelne Person. Wenn niemand auf ein Podest gestellt wird, schmerzt sein Abgang weniger.
