Softwareingenieur sagt, OpenClaw hat Hunderte von Nachrichten gespammt

Chris Boyd saß nach einem Schneesturm in seinem Haus in North Carolina fest, als er beschloss, ein AI Agent-Tool namens OpenClaw auszuprobieren. Er dachte, es könnte ihm helfen, seine Morgenstunden zu organisieren. Er richtete es so ein, dass es jeden Tag um 5:30 Uhr morgens eine Nachrichtenzusammenfassung an seinen Posteingang schickte. Dieser Teil funktionierte. Dann ließ er es auf iMessage zu.

Direkt danach brach alles zusammen. OpenClaw begann wie ein Verrückter Nachrichten abzufeuern. Es schickte über 500 Nachrichten an ihn, seine Frau und sogar zufällige Personen auf ihrer Kontaktliste. Boyd lachte nicht.

Er schaltete es ab, änderte den Code und sagte: „Es war nicht fehlerhaft. Es war gefährlich."

Software-Ingenieur sagt, OpenClaw habe Hunderte von Nachrichten gespammt

Boyd bezeichnete die Software als „halbfertig" und sagte, sie sähe aus wie etwas, das ohne viel Nachdenken zusammengeschustert wurde. Er korrigierte den Code selbst, um weiteren Schaden zu verhindern. Er war nicht der Einzige, der Bedenken bezüglich dieses Tools äußerte.

Der AI Agent, der früher Clawdbot und später Moltbot hieß, gewann im November an Fans. Er konnte einfache Aufgaben erledigen wie Posteingänge leeren, Tischreservierungen vornehmen und für Flüge einchecken. Er benötigte kaum menschliche Eingaben. Er lief einfach. Das machte ihn interessant. Das machte ihn auch gefährlich.

Kasimir Schulz arbeitet bei einem Unternehmen namens HiddenLayer, das sich auf KI-Sicherheit konzentriert. Kasimir sagte, OpenClaw sei ein perfektes Beispiel für das, was er die „tödliche Trias" nennt.

Es hat Zugriff auf private Daten, kann mit der Außenwelt kommunizieren und unbekannte Inhalte lesen. Das ist das vollständige Rezept für eine Katastrophe, und OpenClaw hat all das.

Yue Xiao, Informatikprofessor an William & Mary, sagte, man könne jemandes Daten über OpenClaw stehlen, indem man es mit sogenannter Prompt-Injection austrickst. Das ist, wenn ein Hacker Befehle in einer scheinbar normalen Nachricht versteckt. Yue sagte, diese Art von Technologie öffnet die Tür zu neuen Angriffsarten, auf die die meisten Menschen nicht vorbereitet sind.

Entwickler gibt zu, dass OpenClaw nicht für den Mainstream-Einsatz bereit ist

Peter Steinberger, der OpenClaw entwickelt hat, sagte, das Projekt sei nicht fertig. Er teilte Bloomberg in einer E-Mail mit: „Es ist einfach noch nicht fertig, aber wir kommen dahin."

Peter sagte, dass jeder den Code sehen und daran arbeiten könne, weil er Open Source ist. Er sagte, es würden Fortschritte gemacht, aber es sei noch nicht für alltägliche Nutzer bereit.

Peter fand nicht, dass die Veröffentlichung zu früh kam. Er sagte, er baue alles offen und glaube nicht daran, etwas zurückzuhalten, bis es perfekt ist. Er sagte auch, dass viele Probleme daher rühren, dass Benutzer die Einrichtungsanweisungen nicht lesen.

Peter stellte klar, dass es bei der Verwendung großer Sprachmodelle keine 100-prozentige Sicherheit gibt. Er sagte, OpenClaw sei für Leute gedacht, die wissen, was sie tun, und die Risiken verstehen.

Er sagte auch, Prompt-Injection sei nicht nur ein Problem seines Tools. Er bezeichnete es als Problem, das überall in der KI-Welt existiert. Peter sagte, er habe einen Sicherheitsexperten hinzugezogen, um die Dinge zu beheben und OpenClaw sicherer zu machen.

Experten sagen, AI Agents wachsen schneller, als die Sicherheit mithalten kann

Während Peter die Art und Weise verteidigt, wie er OpenClaw gebaut hat, sagen andere Experten, der gesamte AI Agent-Trend gerate außer Kontrolle. Justin Cappos, Cybersicherheitsexperte und Professor an der NYU, sagte, es sei schwer, diese Tools zu kontrollieren, sobald sie laufen.

Justin sagte: „Wir verstehen nicht, warum sie tun, was sie tun." Er verglich das Gewähren von Zugriff auf ein System für einen AI Agent damit, einem Kleinkind ein Schlachtermesser zu geben.

Die Tech-Welt beeilt sich, neue Tools auf den Markt zu bringen. Anthropics Claude Code erreichte in nur sechs Monaten ein Umsatztempo von 1 Milliarde Dollar.

Währenddessen versuchen die Leute, die diese Tools sicher halten sollen, immer noch die Grundlagen herauszufinden. Justin sagte, Unternehmen würden pausenlos Updates herausbringen, und Sicherheitsteams könnten nicht mithalten.

Michael Freeman bei Armis, einem Cybersicherheitsunternehmen, sagte, OpenClaw sei ohne wirklichen Sicherheitsplan zusammengeschustert worden. Er sagte, einige Kunden von Armis seien bereits von OpenClaw-Sicherheitsverletzungen betroffen gewesen, teilte aber keine Details mit. Michael sagte, Unternehmen müssten etwas Kontrolle aufgeben, wenn sie weiterhin AI Agent-Tools wie OpenClaw nutzen wollen.

Vorerst stellt sich die Frage, ob die Leute OpenClaw nach dieser Katastrophe noch nutzen werden. Das Tool hat Fans, aber selbst diese Leute erkennen, dass Freiheit ohne Sicherheit ein Problem ist. Und wenn nicht schnell Änderungen vorgenommen werden, könnte OpenClaw das neueste Beispiel für Technologie werden, die sich selbst zu weit voraus war.

Möchten Sie Ihr Projekt den führenden Köpfen im Kryptobereich präsentieren? Stellen Sie es in unserem nächsten Branchenbericht vor, wo Daten auf Wirkung treffen.