Together AI behauptet, den schnellsten Speech-to-Text-Stack mit Parakeet v3 zu haben

Felix Pinkston
29.05.2026 22:48

Together AI stellt seinen schnellsten ASR-Stack vor und nutzt NVIDIA Parakeet v3 sowie Whisper für Echtzeit-Transkription mit geringer Latenz. Details zu Technologie und Marktauswirkungen.

Together AI hat angekündigt, was das Unternehmen als den schnellsten Speech-to-Text (ASR)-Stack der Welt bezeichnet, der in der Lage ist, 20 Stunden Sprache in unter 10 Sekunden zu transkribieren. Der Durchbruch nutzt NVIDIAs Parakeet-TDT 0.6B v3 und OpenAIs Whisper Large v3, beide optimiert für Anwendungen mit geringer Latenz und hohem Durchsatz. Diese Entwicklung könnte Echtzeit-Sprach-KI-Systeme erheblich voranbringen, ein zentraler Fokusbereich des Unternehmens beim Ausbau seiner Infrastruktur.

Der Kern von Together AIs Leistung liegt darin, ASR als ganzheitliches Systemproblem zu behandeln, anstatt sich ausschließlich auf GPU-Inferenz zu konzentrieren. Dieser umfassende Ansatz behebt Engpässe in den Bereichen Vorverarbeitung, GPU-Ausführung, Speicherverwaltung und Netzwerk. So haben beispielsweise Innovationen wie TensorRT-Profiloptimierung, bedingte CUDA-Graphen und Zero-Copy-Datenpfade die Latenz im gesamten Stack erheblich reduziert.

Eine herausragende Optimierung ist der Decoder-Loop in Parakeet v3. Durch die Verlagerung der bedingten Logik von der CPU auf die GPU hat Together AI kostspielige Synchronisierungsverzögerungen beseitigt, was zu einer 2–3-fachen Beschleunigung beim Dekodieren führt. Ebenso hat die Nutzung von Shared Memory und ereignisgesteuertem I/O für Streaming-Transkription den Overhead minimiert und gewährleistet sowohl hohen Durchsatz als auch geringen Jitter für Echtzeit-Anwendungen.

Parakeet v3, ein mehrsprachiges ASR-Modell, das mit 1,7 Millionen Stunden Audiomaterial trainiert wurde, stellt einen bedeutenden Sprung gegenüber seinem Vorgänger dar. Es unterstützt jetzt 25 europäische Sprachen, beinhaltet automatische Spracherkennung und behält seine branchenführende Leistung bei der englischen Transkription bei. Die Plattform von Together AI integriert zudem Whisper Large v3 für Workloads im Produktionsmaßstab und schafft so ein robustes Ökosystem für Entwickler, die sprachgesteuerte Anwendungen erstellen.

Marktbedürfnisse adressieren

Diese Ankündigung positioniert Together AI als ernsthaften Mitbewerber im ASR-Markt, insbesondere für Echtzeit- und Streaming-Anwendungsfälle. Anders als traditionelle ASR-Systeme, die auf isolierten Pipelines basieren, bietet Together AI einen modularen Stack, bei dem Speech-to-Text (STT), Natural Language Understanding (NLU) und Text-to-Speech (TTS) kohärent auf derselben Infrastruktur betrieben werden können. Dies reduziert die Latenz und ermöglicht es Entwicklern, Zwischenausgaben zu inspizieren und zu manipulieren – ein wichtiges Unterscheidungsmerkmal für Echtzeit-Sprachagenten.

Aktuelle Partnerschaften unterstreichen die Strategie des Unternehmens, ein offenes, kombinierbares Ökosystem aufzubauen. Im April 2026 integrierte Deepgram seine ASR-Modelle direkt in die Plattform von Together AI, sodass Entwickler spezialisierte Sprachmodelle mit der Infrastruktur von Together AI kombinieren können. Diese Flexibilität wird zunehmend wertvoller, da KI-Workloads auf einheitliche Architekturen zusteuern, die Sprach-, Sprache- und multimodale Fähigkeiten vereinen.

Auswirkungen auf Branche und Investoren

Die Fortschritte von Together AI fallen in eine Zeit, in der das Unternehmen Berichten vom März 2026 zufolge Kapital bei einer Bewertung von 7,5 Milliarden US-Dollar aufzunehmen beabsichtigt. Das Investoreninteresse spiegelt die wachsende Nachfrage nach hochleistungsfähiger Inferenzinfrastruktur wider, insbesondere für Sprach- und multimodale KI-Systeme. Mit über 450.000 Entwicklern und bereits 200 unterstützten Open-Source-Modellen auf seiner Plattform ist Together AI gut positioniert, um von diesem Schwung zu profitieren.

Wettbewerber wie Deepgram und Google dominieren weiterhin Segmente des ASR-Marktes, aber Together AIs Fokus auf Open-Model-Hosting und Echtzeit-Performance könnte erhebliche Marktanteile sichern. Die Integration von NVIDIAs ASR-Technologie stärkt die technische Glaubwürdigkeit zusätzlich, insbesondere angesichts NVIDIAs führender Position bei KI-Hardware und Softwareoptimierung.

Da Sprachschnittstellen für Verbraucher- und Unternehmensanwendungen immer wichtiger werden, könnten latenzarme und skalierbare ASR-Lösungen wie die von Together AI die Nutzererwartungen neu definieren. Entwickler, Investoren und Unternehmen sollten aufmerksam verfolgen, wie das Unternehmen seinen Stack weiter verfeinert und sein Ökosystem ausbaut.

Bildquelle: Shutterstock