BörseDEX+

Krypto kaufen Märkte Spot Futures500X Earn Events

Mehr

Goldbarren- & BTC-Giveaway2000g

PANews berichtete am 24.10., dass laut simonwillison.net Forschungen ein systemisches Risiko der "indirekten Prompt-Injektion" in AI-Browsern aufgedeckt haben. Das Brave-Team demonstrierte, dass Perplexitys Comet-Browser durch unsichtbare Befehle in Screenshots dazu gebracht werden konnte, automatisch auf Kontodetails zuzugreifen und Daten über externe Links zu exfiltrieren. Fellou war jedoch noch schwerwiegender, wobei Seitentext den Browser dazu brachte, Gmail zu öffnen und die neuesten E-Mail-Header an eine externe Website zu senden. Beide Fälle wurden ohne Benutzerbestätigung ausgeführt und betrafen Bedenken bezüglich E-Mail- und Kontosicherheit. Brave hat nicht klargestellt, ob diese Sicherheitslücken vom Anbieter behoben wurden. OpenAIs Chief Information Security Officer, Dane Stuckey, veröffentlichte einen ausführlichen Artikel, der den Schutz des ChatGPT Atlas AI Agent vor Prompt-Injektion enthüllt: durch Red-Team-Tests, Trainingsbelohnungen zum Ignorieren bösartiger Befehle, überlappende Sicherheitsbarrieren und Blockierung von Angriffserkennungen; er schlug "Defense in Depth" vor und räumte ein, dass Prompt-Injektion ein ungelöstes Spitzenproblem bleibt.PANews berichtete am 24.10., dass laut simonwillison.net Forschungen ein systemisches Risiko der "indirekten Prompt-Injektion" in AI-Browsern aufgedeckt haben. Das Brave-Team demonstrierte, dass Perplexitys Comet-Browser durch unsichtbare Befehle in Screenshots dazu gebracht werden konnte, automatisch auf Kontodetails zuzugreifen und Daten über externe Links zu exfiltrieren. Fellou war jedoch noch schwerwiegender, wobei Seitentext den Browser dazu brachte, Gmail zu öffnen und die neuesten E-Mail-Header an eine externe Website zu senden. Beide Fälle wurden ohne Benutzerbestätigung ausgeführt und betrafen Bedenken bezüglich E-Mail- und Kontosicherheit. Brave hat nicht klargestellt, ob diese Sicherheitslücken vom Anbieter behoben wurden. OpenAIs Chief Information Security Officer, Dane Stuckey, veröffentlichte einen ausführlichen Artikel, der den Schutz des ChatGPT Atlas AI Agent vor Prompt-Injektion enthüllt: durch Red-Team-Tests, Trainingsbelohnungen zum Ignorieren bösartiger Befehle, überlappende Sicherheitsbarrieren und Blockierung von Angriffserkennungen; er schlug "Defense in Depth" vor und räumte ein, dass Prompt-Injektion ein ungelöstes Spitzenproblem bleibt.

Forschung: KI-Browser stellen ein systemisches Risiko der "indirekten Prompt-Injektion" dar

2025/10/24 14:58

PANews berichtete am 24. Oktober, dass laut simonwillison.net Forschungen ein systemisches Risiko der "indirekten Prompt-Injektion" in AI-Browsern aufgedeckt haben. Das Brave-Team demonstrierte, dass der Comet-Browser von Perplexity dazu gebracht werden konnte, automatisch auf Kontodetails zuzugreifen und Daten über externe Links mittels unsichtbarer Befehle in Screenshots zu exfiltrieren. Fellou war jedoch noch ernster, wobei Seitentext ihn dazu brachte, Gmail zu öffnen und die neuesten E-Mail-Header an eine externe Website zu senden. Beide Fälle betrafen die Ausführung ohne Benutzerbestätigung und beinhalteten Bedenken bezüglich E-Mail- und Kontosicherheit. Brave hat nicht klargestellt, ob diese Sicherheitslücken vom Anbieter behoben wurden.

Der Chief Information Security Officer von OpenAI, Dane Stuckey, veröffentlichte einen ausführlichen Artikel, der den Schutz des ChatGPT Atlas AI Agent vor Prompt-Injektion enthüllt: durch Red-Team-Tests, Trainingsbelohnungen zum Ignorieren bösartiger Befehle, überlappende Sicherheitsbarrieren und Blockierung von Angriffserkennungen; er schlug eine "Verteidigung in der Tiefe" vor und räumte ein, dass die Prompt-Injektion ein ungelöstes Spitzenproblem bleibt.

Haftungsausschluss: Die auf dieser Website veröffentlichten Artikel stammen von öffentlichen Plattformen und dienen ausschließlich zu Informationszwecken. Sie spiegeln nicht unbedingt die Ansichten von MEXC wider. Alle Rechte verbleiben bei den ursprünglichen Autoren. Sollten Sie der Meinung sein, dass Inhalte die Rechte Dritter verletzen, wenden Sie sich bitte an [email protected] um die Inhalte entfernen zu lassen. MEXC übernimmt keine Garantie für die Richtigkeit, Vollständigkeit oder Aktualität der Inhalte und ist nicht verantwortlich für Maßnahmen, die aufgrund der bereitgestellten Informationen ergriffen werden. Die Inhalte stellen keine finanzielle, rechtliche oder sonstige professionelle Beratung dar und sind auch nicht als Empfehlung oder Billigung von MEXC zu verstehen.