Hinter dem Vorhang: Teslas aufgeblasene Statistiken und Zurschaustellung von KI-Kompetenz

Zweiter von zwei Teilen
Teil eins

Während Tesla-Mitarbeiter Videos von FSD-Fehltritten betrachteten, verstärkten der Vorstand und der CEO des Unternehmens ihre Aussagen über die Sicherheit der Technologie und ihre Bereitschaft zur vollständigen Autonomie. Den Großteil des vergangenen Jahres über verbreiteten Tesla-Führungskräfte die Behauptung, die Technologie sei zehnmal sicherer.

„Ein Auto mit FSD, das 10-mal sicherer ist", werde den Absatz ankurbeln, sagte Tesla-CFO Taneja in einem Investorengespräch im Juli. „Selbst bei 99 US-Dollar pro Monat ist es so, als ob man für fast 3,33 US-Dollar pro Tag einen persönlichen Chauffeur bekommt."

Ein zentrales Problem bei Teslas Methodik geht auf einen Vergleichsfehler zurück, der Teslas behauptetes Sicherheitsniveau um den Faktor drei aufgebläht hat. Der Automobilhersteller zählte Tesla-Unfälle mit Airbag-Auslösungen und verglich sie mit Bundesdaten zu allen Unfällen, bei denen ein Abschleppwagen ein Fahrzeug abschleppen musste – ein weitaus weniger restriktives Kriterium. Unfälle, bei denen Abschleppwagen benötigt werden, sind oft nicht schwer genug, um Airbags auszulösen.

Tesla verfolgte diesen Äpfel-und-Orangen-Ansatz, obwohl Äpfel zum Vergleich ohne Weiteres verfügbar gewesen wären: Die verwendeten Bundesdaten enthielten auch Unfälle, bei denen Airbags ausgelöst wurden. Diese fehlerhafte Methodik führte zu dem Ergebnis, dass Teslas mit FSD oder Autopilot zwischen Unfällen zehnmal weiter fahren als der durchschnittliche menschliche Fahrer.

Der validere Vergleich – unter Verwendung von Unfällen mit Airbag-Auslösung sowohl für Teslas als auch für alle anderen Autos – ergibt, dass Teslas mit Fahrerassistenzsystemen zwischen Unfällen mit Airbag-Auslösung etwa dreimal so weit fahren. Dies geht aus einer Analyse hervor, die Marco Benedetti, wissenschaftlicher Mitarbeiter am Transportation Research Institute der University of Michigan und ehemaliger NHTSA-Statistiker, für Reuters durchgeführt hat. Zwei weitere Verkehrssicherheitsforscher überprüften Benedettis Berechnungen und stimmten den Ergebnissen zu.

Das bedeute jedoch nicht, dass FSD tatsächlich dreimal sicherer sei als der durchschnittliche Fahrer, sagte Benedetti, da Teslas Methodik noch weitere Fehler aufweise.

Tesla hat seinen Ansatz im November angepasst und bezieht nun nur noch Daten für Fahrzeuge ein, die FSD verwenden, und schließt solche mit Autopilot aus. Die Einbeziehung von Autopilot hatte Teslas behauptete Kilometer zwischen Unfällen erhöht, da es sich um ein weniger ausgereiftes System handelt, das ausschließlich für Autobahnen gedacht ist – wo Autos viele Kilometer zurücklegen und weitaus seltener verunglücken als auf städtischen Straßen. Das Unternehmen verwendet jedoch weiterhin den fehlerhaften Airbag-Unfall-Vergleich auf seiner Website, um zu behaupten, FSD sei siebenmal sicherer als der durchschnittliche menschliche Fahrer, also etwa 85 % sicherer, ausgedrückt als prozentuale Veränderung.

Reuters stellte fest, dass mehrere andere von Tesla verwendete fehlerhafte Messungen Zweifel daran aufwerfen, ob FSD überhaupt sicherer ist.

Der Automobilhersteller berücksichtigt beispielsweise nicht das Fahrzeugalter beim Vergleich der Unfallrate seiner Fahrzeuge mit der nationalen Rate. Tesla vergleicht seine Fahrzeuge – die laut S&P Global Mobility-Daten im Durchschnitt nur 4,1 Jahre alt sind – mit allen US-Fahrzeugen, die ein Durchschnittsalter von 12,8 Jahren haben. Das verfälsche die Ergebnisse, sagten 10 Sicherheitsforscher gegenüber Reuters, da fast alle Automobilhersteller in jüngerer Zeit begonnen haben, bahnbrechende Sicherheitsfunktionen anzubieten, darunter Totwinkelüberwachung und automatische Notbremsung.

Tesla reduziert seine Unfallbilanz auch, indem es nur Unfälle zählt, die entweder bei eingeschaltetem FSD oder innerhalb von fünf Sekunden nach dem Ausschalten der Funktion passieren. Die US-Regierung hingegen schreibt Automobilherstellern vor, Unfälle zu melden, die innerhalb von 30 Sekunden nach der Deaktivierung eines fortschrittlichen Fahrerassistenzsystems aufgetreten sind.

Tesla gibt an, FSD könnte jährlich mehr als 32.000 Leben retten und mehr als 1,9 Millionen Verletzungen verhindern. Einige Verkehrssicherheitsforscher bezeichneten diese Zahlen als bedeutungslos, da sie auf der unrealistischen Annahme basieren, dass jedes US-Fahrzeug, einschließlich Lastkraftwagen und unfallgefährdeter Motorräder, durch ein FSD-fähiges Tesla-Auto ersetzt würde – und dass jedes Tesla-Auto tatsächlich mindestens siebenmal sicherer ist als das ersetzte Fahrzeug.

Waymos strengerer Ansatz

Die Grundlage von Teslas Sicherheitsstatistiken ist laut 10 Verkehrssicherheitsforschern ebenfalls fehlerhaft, da FSD kein wirklich autonomes System ist. Tesla vergleicht seine Technologie nicht mit menschlichen Fahrern, wie Führungskräfte behaupten. Stattdessen vergleicht der Automobilhersteller den durchschnittlichen menschlichen Fahrer mit einem anderen Durchschnittsmenschen – einem, der einen Tesla mit FSD fährt. Tesla berücksichtigt auch nicht, dass diese Fahrer FSD ein- und ausschalten können – und Forschungen zeigen, dass Autofahrer fortschrittliche Fahrerassistenzsysteme in komplizierten Verkehrssituationen, in denen die Technologie für sie unsicher wirkt, oft meiden. Teslas eigene Daten zeigen, dass FSD hauptsächlich auf Autobahnen genutzt wird.

Alphabets Waymo hingegen vergleicht seine vollständig fahrerlosen Robotaxis, die inzwischen in 11 US-amerikanischen Ballungsräumen eingesetzt werden, mit von Menschen gefahrenen Fahrzeugen unter ähnlichen Bedingungen.

Waymo verfolgt einen strengeren Ansatz als Tesla, untersucht Unfalldaten in den Märkten, in denen es tätig ist, und berücksichtigt die Art der Straßen und Stadtteile, die seine Robotaxis befahren. Waymo konzentriert sich auf spezifische Unfallraten – etwa solche mit Airbag-Auslösungen oder schweren Verletzungen – sowohl für seine eigenen Fahrzeuge als auch für von Menschen gefahrene Autos in denselben Märkten.

„Wir müssen sehr sorgfältig mit der Sprache umgehen, die wir verwenden", sagte John Scanlon, ein Waymo-Sicherheitsforscher. „Man braucht sehr spezifische Forschungsfragen und sehr spezifische Schlussfolgerungen."

Waymo weist auch auf Schwächen in seinen Daten hin und arbeitet mit externen Forschern zusammen, um seine Sicherheitsstatistiken in peer-reviewten Fachzeitschriften zu veröffentlichen. Tesla hingegen sucht keine Peer-Review und veröffentlicht nur übergeordnete statistische Sicherheitsbehauptungen, während die zugrunde liegenden Unfalldaten für Tesla-Fahrzeuge geheim gehalten werden.

Videos von Teslas, die Hunde, Katzen und Rehe anfahren

Innerhalb von Tesla erhalten Daten-Beschrifter einen ungeschönten Einblick in die FSD-Sicherheit. Drei ehemalige Mitarbeiter beschrieben mehrere Videos, die zeigen, wie Teslas Tiere nicht erkennen und sie ungebremst mit hoher Geschwindigkeit anfahren.

Fünf ehemalige Mitarbeiter berichteten, dass sich bestimmte Teams auf FSD-Probleme beim Erkennen von Schulbussen konzentrierten. Dies ist ein Problem, das eine Technologiesicherheitsgruppe namens The Dawn Project aufgeworfen hat, die beim Super Bowl 2023 und 2024 Werbespots schaltete, in denen Videos von FSD-fähigen Teslas zu sehen waren, die nicht vor Bussen mit Stoppzeichen und Blinklichtern anhielten.

Zwei ehemalige Mitarbeiter sagten, sie hätten ähnliche Videoclips innerhalb von Tesla gesehen.

Fünf ehemalige Daten-Beschrifter beschrieben ein gehetztes, unzusammenhängendes Arbeitsumfeld, bei dem die Prioritäten je nach Anweisungen von Musk und FSD-Ingenieuren wechselten. Die Datenbeschriftungseinheit kämpfte mit chronischer Fluktuation aufgrund der monotonen Arbeit und dem allgemein niedrigen Lohnniveau, sagten sie.

Teslas Führungskräfte starteten häufig neue Projekte als Reaktion auf Nachrichtenberichte oder Social-Media-Beiträge, die FSD-Fehler zeigten, sagten vier ehemalige Mitarbeiter. Einer beschrieb Bemühungen, das Problem zu lösen, dass Sonnenlicht die Außenkameras der Fahrzeuge verdecken kann. Ausgelöst wurde dies durch ein Social-Media-Video, das zeigte, wie von der Uhr eines Passagiers reflektiertes Licht eine der Kameras blendete und FSD abschaltete. Eine weitere Initiative zu Bahnübergängen folgte auf Nachrichtenberichte über FSD-gesteuerte Teslas, die dort nicht anhielten.

FSD-Clips zeigten laut fünf der Mitarbeiter auch regelmäßig Geschwindigkeitsüberschreitungen, was Ingenieure und andere in der Hierarchie als Problem mit niedriger Priorität behandelten.

Ein Mitarbeiter berichtete, dass Beschrifter regelmäßig sahen, wie Teslas nach der Einführung eines FSD-„Mad Max"-Modus, der aggressiveres Fahren ermöglicht, die Geschwindigkeitsbegrenzungen um 20 bis 30 Meilen pro Stunde überschritten. Ein anderer Beschrifter berichtete, ein FSD-gesteuertes Fahrzeug gesehen zu haben, das in einer 25-mph-Zone mit 60 mph unterwegs war.

Öffentliche Robotaxi-Präsentationen

Während Tesla-Mitarbeiter damit kämpften, FSD zu trainieren, rühmte Musk im Oktober 2024 Teslas autonome Fahrtüchtigkeiten bei einer glamourösen Robotaxi-Enthüllung auf dem Warner-Bros.-Studiogelände in der Nähe von Los Angeles. Die Gäste der Nur-auf-Einladung-Veranstaltung jubelten, als Musk auf etwa 20 Prototypen des zweitürigen „Cybercab" ohne Lenkrad und Pedale hinwies, die langsam über das Studiogelände fuhren.

„Die Autos fahren einfach vorbei, ohne Menschen", sagte er.

Musk hat erklärt, Teslas Software sei so konzipiert, dass sie überall funktioniert und unbekannte Umgebungen in Echtzeit navigiert. Doch in den Wochen vor dem Cybercab-Event testeten Mitarbeiter die Prototypen jede Nacht von 18 Uhr bis zum Morgengrauen und sammelten Videomaterial der Route, der die Fahrzeuge beim Launch folgen würden, wie zwei ehemalige Daten-Beschrifter berichteten. Beschrifter verbrachten Hunderte von Stunden damit, Bordsteinkanten und Straßenmarkierungen im Video zu annotieren, um peinliche Zwischenfälle zu vermeiden, sagten die Mitarbeiter.

Waymo führt solche Kartierungen in großem Maßstab durch, bevor es in bestimmten Städten startet – ein Ansatz, den Musk wiederholt als zu kostspielig und langsam abgetan hat. Musk verspottete Waymos „sehr lokalisierte Lösungen" im Jahr 2024 als „ziemlich fragil".

Nach dem Warner-Bros.-Event erklärte Musk in einem Investorengespräch im Januar 2025, dass Tesla im Juni 2025 in Austin Robotaxis starten werde. Er pries die Technologie als „verallgemeinerte KI-Lösung" an, die keine „hochpräzisen Karten eines Standorts" erfordere.

In den Monaten vor dem Austin-Start filmte Tesla jedoch ausgiebig Merkmale in einer begrenzten Robotaxi-Zone, um die Gegend zu kartieren, und erfasste Ampeln, Straßenschilder und andere Merkmale. Daten-Beschrifter annotierten dieses Videomaterial, um sicherzustellen, dass die Software herausfordernde Szenarien bewältigen kann, einschließlich des Aufnehmens von Fahrgästen und der Reaktion auf Einsatzfahrzeuge, wie zwei Mitarbeiter mit direktem Wissen über den Sachverhalt berichteten.

Die Belegschaft der Daten-Beschriftung in Utah habe sich, so drei der Mitarbeiter, im halben Jahr vor dem Austin-Start auf etwa 300 Mitarbeiter verdoppelt. Die Abteilung habe hauptsächlich an Projekten gearbeitet, um den sorgfältig kontrollierten Austin-Test reibungslos ablaufen zu lassen.

Als Teslas Daten-Beschrifter den Rollout vorbereiteten, war die Software noch immer unberechenbar, sagten zwei der Mitarbeiter. Mit jedem FSD-Update verbesserten sich einige Fahrverhalten. Andere verschlechterten sich. Im Utah-Büro zeigten zwei große Bildschirme Statistiken über die Kilometer zwischen Fahrerinterventionen für FSD – eine wichtige Sicherheitskennzahl für autonomes Fahren.

„Es ging rauf und runter wie der Aktienmarkt" ohne konsistente Verbesserung, sagte einer der ehemaligen Mitarbeiter.

Die Fahrzeuge kamen mit zwei Gruppen menschlicher Sicherheitsmonitore auf die Straße, die die Kontrolle übernehmen konnten: eine saß auf dem Beifahrersitz vorne, andere überwachten aus der Ferne. In Utah konnten Beschrifter in Videos sehen, wann die Fernmonitore die Fahrzeuge übernahmen. Ein ehemaliger Mitarbeiter sagte, die Austin-Routen seien für ein begrenztes Gebiet konzipiert worden, damit die Software der Fahrzeuge intensiv auf spezifische Manöver auf bestimmten Straßen trainiert werden konnte.

„Es war so, als hätten wir ein Auto trainiert", in einer eingeschränkten Zone zu fahren, sagte die Person. „Außerhalb davon kann man nicht kreativ werden."

Vier der Quellen sagten, eine sichere Skalierung könne Jahre dauern. Im Juli, einen Monat nach dem Austin-Robotaxi-Start, sagte Musk voraus, der Dienst werde bis Ende 2025 expandieren und die Hälfte der US-Bevölkerung versorgen.

Im Januar behauptete Musk fälschlicherweise, Tesla betreibe 500 „Robotaxi-Fahrzeuge" in Austin und der San Francisco Bay Area, und fügte hinzu, er erwarte, dass sich diese Zahl auf einer „Exponentialkurve" jeden Monat verdopple. Musk hat behauptet, Tesla betreibe in der Bay Area einen „Robotaxi-Service", während es sich tatsächlich nur um einen Fahrdienstvermittlungsdienst handelt, der unter einer staatlichen Genehmigung läuft – typischerweise für Chauffeure verwendet – und einen menschlichen Fahrer erfordert.

In Wirklichkeit betreibt Tesla fast ein Jahr nach dem Austin-Start dort laut einer aktuellen Präsentation von Stadtbeamten noch immer nur etwa 50 Robotaxis. Die Fahrzeuge durchqueren eine begrenzte und sorgfältig kartierte Zone, sagten drei der Quellen. Einige haben noch immer menschliche Sicherheitsmonitore auf dem Beifahrersitz vorne, basierend auf jüngsten Beobachtungen eines Reuters-Reporters.

Im April gab Tesla bekannt, in Dallas und Houston Robotaxis einzuführen, zusammen mit Karten der bedienten Gebiete.

Reuters-Reporter, die den Service kürzlich in beiden Städten getestet haben, stellten lange Wartezeiten und unregelmäßige Verfügbarkeit fest. Bei drei Gelegenheiten, bei denen es einem Reporter gelang, eine Fahrt in Dallas zu bekommen, brachte ihn das Robotaxi nicht zu seinem Ziel in der Innenstadt innerhalb von Teslas beworbenen Servicegebiet.

Jedes Mal ließ es ihn etwa 15 Gehminuten entfernt zurück. – Rappler.com