Jeder, der schon einmal mit einem Sprachassistenten gesprochen hat, kennt diesen Moment. Man beendet einen Satz, es folgt Stille, eine kurze Wartezeit und dann kommt die Antwort. Das Ganze wirkt wie ein altes Telefongespräch über Satellit. Thinking Machines Lab, das Startup von Mira Murati, der ehemaligen Chief Technology Officer von OpenAI, hat angekündigt, diese Art der Kommunikation verändern zu wollen.
Das Unternehmen veröffentlichte ein Forschungspapier über einen Ansatz, den es „Interaction Models“ nennt. Dabei handelt es sich um Modelle, die Eingaben verarbeiten und gleichzeitig Antworten generieren, statt dies nacheinander zu tun. Technisch wird dieses Prinzip als Full Duplex bezeichnet. In der menschlichen Kommunikation bedeutet das, dass die künstliche Intelligenz nicht warten muss, bis Sie ausgesprochen haben, um reagieren zu können.
Heutige Modelle funktionieren anders. Der Nutzer spricht und das Modell hört zu. Das Modell beginnt zu antworten, der Nutzer schweigt. Diese Art der Kommunikation funktioniert, wirkt aber künstlich. Kein echtes Gespräch läuft so ab. Menschen fallen einander ins Wort, korrigieren sich mitten im Satz und reagieren auf den Gesichtsausdruck ihres Gegenübers, noch bevor ein Wort gefallen ist. KI war dazu bislang nicht in der Lage.
Interaction Model
Das Modell arbeitet bei Ein- und Ausgabe nicht mit ganzen Sätzen oder Absätzen, sondern mit sogenannten 200 Millisekunden langen Mikro-Turns. Alle 200 ms verarbeitet es einen Teil der Eingabe und generiert zugleich einen Teil der Ausgabe. Für den Nutzer wirkt dies wie ein fließendes Gespräch, während das Modell fortlaufend in winzigen Abschnitten zwischen Zuhören und Sprechen wechselt.
Damit das Ganze schnell genug funktioniert, überarbeitete das Team auch die Art und Weise, wie das Modell Ton und Bild verarbeitet. Statt großer vortrainierter Encoder, wie sie die meisten multimodalen Modelle verwenden, setzt es auf ein leichtgewichtiges Verarbeitungssystem direkt während des Trainings. Audiodaten werden als dMel-Spektrogramme eingespeist, Videodaten als 40×40 Pixel große Patches. Alles wird von Grund auf als ein einziges Gesamtsystem trainiert.
Hinzu kommt noch ein weiterer Trick. Da ein schnelles Modell nicht zugleich so intelligent sein kann wie langsamere Systeme für tiefgehendes Denken, hat Thinking Machines dem System ein zweites, langsameres Modell hinzugefügt, das im Hintergrund arbeitet. Das Interaction Model führt das Gespräch, doch sobald es auf eine komplexe Aufgabe stößt, übergibt es diese an das Hintergrundmodell. Dieses arbeitet asynchron und speist seine Ergebnisse wieder in das laufende Gespräch ein. Der Nutzer kann währenddessen weiter mit dem Assistenten sprechen, dessen Antworten nach und nach durch intelligentere Ergebnisse ergänzt werden.
Das Ergebnis ist ein Modell namens TML-Interaction-Small. Die Latenz, also die Verzögerung zwischen dem Ende der Äußerung des Nutzers und dem Beginn der Antwort des Modells, beträgt 0,40 Sekunden. Zum Vergleich: GPT-realtime-2.0 benötigt in der Minimalkonfiguration 1,18 Sekunden, Gemini-3.1-flash-live 0,57 Sekunden. Natürliche Gespräche zwischen Menschen bewegen sich ungefähr im selben Bereich wie das Ergebnis von TML.
Beim Benchmark FD-bench V1.5, der die Interaktionsqualität in Situationen wie Unterbrechungen durch den Nutzer, gleichzeitigem Sprechen oder Reaktionen auf visuelle Reize misst, erreichte TML-Interaction-Small einen Wert von 77,8, während GPT-realtime-2.0 lediglich 46,8 und Gemini-3.1-flash-live 45,5 erzielten. Das ist ein deutlicher Unterschied. Das Modell verfügt außerdem über insgesamt 276 Milliarden Parameter, von denen 12 Milliarden aktiv genutzt werden. Es handelt sich um eine MoE-Architektur (Mixture of Experts), die für jede Eingabe nur einen Teil der Parameter aktiviert.
Die Demonstrationen zeigen Fähigkeiten, die bisherige Sprachassistenten überhaupt nicht beherrschen. Das Modell verfolgt kontinuierlich ein Video und weist ungefragt darauf hin, wenn eine Person mit gekrümmtem Rücken am Computer sitzt. Es kann live übersetzen und spricht dabei gleichzeitig mit dem Nutzer statt erst nach ihm. Es zählt Liegestütze während des Trainings direkt anhand des Videos. Es startet mitten im Gespräch eine Websuche und bindet die Ergebnisse auf natürliche Weise in seine Antwort ein.
Dahinter steht die Fähigkeit, ohne sprachliche Aufforderung auf visuelle Reize zu reagieren. Bisherige Systeme, darunter GPT-realtime-2.0, warten auf ein akustisches Signal. Bleibt dieses aus, schweigen sie. Beim internen Benchmark Charades, bei dem das Modell den Beginn und das Ende einer Handlung in einem Video ausschließlich anhand visueller Signale bestimmen soll, erreichte TML-Interaction-Small einen mIoU-Wert von 29,4. GPT-realtime-2.0 erzielte praktisch null Punkte.
Es ist nicht so neu, wie es scheint
Der Forscher Sean Goedecke weist in seiner Analyse darauf hin, dass Full-Duplex-Sprachmodelle bereits seit längerer Zeit existieren. Moshi vom französischen Forschungslabor Kyutai, PersonaPlex von Nvidia und Nemotron-VoiceChat arbeiten nach demselben Prinzip der Mikro-Turns. Thinking Machines hat in dieser Hinsicht nichts erfunden.
Anders ist jedoch die Größenordnung. TML-Interaction-Small verfügt im Vergleich zu Moshi über etwa vierzigmal so viele Gesamtparameter und ungefähr doppelt so viele aktive Parameter. Außerdem unterstützt es Video. Keines der bisherigen Full-Duplex-Modelle unterstützt Video, wahrscheinlich weil ihre Kapazitäten dafür schlicht nicht ausreichten. Darin liegt Goedecke zufolge der eigentliche technische Beitrag: ein Full-Duplex-Modell in großem Maßstab und mit visueller Eingabe.
Die Ergänzung um ein „intelligenteres“ Hintergrundmodell verbessert zwar die Ergebnisse bei Benchmarks, wirft zugleich aber Fragen auf. Wird das Interaction Model intelligent genug sein, um zu erkennen, wann es eine Aufgabe weiterreichen muss? Wirken die Antworten abgehackt, wenn die Ergebnisse aus dem Hintergrund mit Verzögerung eintreffen? Das wird sich erst im tatsächlichen Einsatz zeigen.
Verfügbarkeit
Vorerst kann es niemand ausprobieren. Thinking Machines kündigte einen begrenzten Forschungszugang innerhalb der nächsten Monate an und plant eine breitere Einführung für Ende dieses Jahres. Es handelt sich also nicht um ein Produkt, sondern um eine Forschungsdemonstration mit konkreten Zahlen und Vorführungen.
Das Unternehmen wurde 2025 gegründet, nachdem Mira Murati OpenAI verlassen hatte. Seitdem hat es zahlreiche Forscher von OpenAI, Meta und Anthropic angeworben und Vereinbarungen über Recheninfrastruktur mit Google Cloud und Nvidia geschlossen. Die aktuelle Bewertung liegt verfügbaren Berichten zufolge bei rund 12 Milliarden US-Dollar.
Quellen: techcrunch.com und jawlah.co
