KI-Browser gefährden Unternehmen

Die Gartner-Analysten Dennis Xu, Evgeny Mirolyubov und John Watts empfehlen Unternehmen dringend, alle KI-Browser aufgrund der Cybersicherheitsrisiken auf absehbare Zeit zu blockieren. Sie stützten ihre Empfehlung auf bereits identifizierte Risiken „und andere potenzielle Risiken, die noch entdeckt werden müssen, da es sich um eine sehr junge Technologie handelt“.

Die Warnung kommt zum richtigen Zeitpunkt, da KI-Browser bereits häufig eingesetzt werden: In 27,7 Prozent der Organisationen gibt es mindestens einen Nutzer, der Atlas installiert hat. In einigen Unternehmen wird der Browser von bis zu zehn Prozent der Mitarbeiter aktiv genutzt. Das hat eine Studie des Security-Anbieters Cyberhaven ergeben. Die höchsten Akzeptanzraten wurden in der Technologiebranche (67 Prozent), der Pharmaindustrie (50 Prozent) und der Finanzbranche (40 Prozent) festgestellt, also in allen Sektoren mit erhöhten Sicherheitsanforderungen.

ChatGPT Atlas, das am 21. Oktober auf den Markt kam, wurde laut Cyberhaven 62-mal häufiger von Unternehmen heruntergeladen als Perplexity Comet, das am 9. Juli veröffentlicht wurde. Die Einführung von Atlas weckte auch insgesamt ein erneutes Interesse an KI-Browsern, wobei die Downloads von Comet in derselben Woche um das Sechsfache stiegen.

Unmittelbar nach der Einführung von ChatGPT Atlas wurden jedoch Bedenken hinsichtlich der von KI-Browsern ausgehenden Gefahren laut. Experten verwiesen auf Schwachstellen, die Prompt Injection ermöglichen, und Probleme hinsichtlich der Datensicherheit.

Sensible Daten in Gefahr

Ein Grund für diese Besorgnis: Unternehmen verlieren die Kontrolle über ihre Daten, wenn diese aktive Webinhalte, den Browserverlauf und die Inhalte offener Tabs zur Analyse an die Cloud senden.

In der Dokumentation von Perplexity wird beispielsweise gewarnt, dass „Comet einige lokale Daten unter Verwendung der Server von Perplexity verarbeiten kann, um Anfragen zu erfüllen. Das bedeutet, dass Comet den Kontext der angeforderten Seite (zum Beispiel Text und E-Mail) liest, um die angeforderte Aufgabe auszuführen.“

Gartner-Analyst Mirolyubov erklärt dazu: „Das eigentliche Problem ist, dass der Verlust sensibler Daten an KI-Dienste irreversibel und nicht nachvollziehbar sein kann. Unternehmen können verlorene Daten möglicherweise nie wiederherstellen.“

Es ist nicht nur die Frage, wohin die Browser Ihre Daten zur Verarbeitung senden. Sondern auch, was sie damit machen. „Fehlerhafte Transaktionen werfen im Falle kostspieliger Fehler Fragen zur Verantwortlichkeit auf“, so Mirolyubov.

Herkömmliche Kontrollen reichen nicht aus

KI-Browser können autonom Websites navigieren, Formulare ausfüllen und Transaktionen abschließen, während sie bei Webressourcen authentifiziert sind. Wie die Gartner-Analysten in ihrem Beitrag ausführen, macht dies die KI-Browser anfällig für neue Cybersicherheitsrisiken, „wie indirekte, durch Prompt Injection verursachte betrügerische Aktionen. Dazu zählt der Verlust und Missbrauch von Anmeldedaten, wenn der KI-Browser dazu verleitet wird, autonom zu einer Phishing-Website zu navigieren.

„Herkömmliche Kontrollmechanismen sind für die neuen Risiken, die durch KI-Browser entstehen, unzureichend, und Lösungen befinden sich erst in den Anfängen“, mahnt Mirolyubov. „Es besteht eine große Lücke bei der Überprüfung multimodaler Kommunikation mit Browsern, einschließlich Sprachbefehlen an KI-Browser.“

Kurz nach der Einführung von ChatGPT Atlas räumte bereits Dane Stuckey, CISO von OpenAI, in einem Beitrag auf X ein: „Prompt Injection bleibt ein ungelöstes Sicherheitsproblem. Angreifer werden viel Zeit und Ressourcen aufwenden, um Wege zu finden, ChatGPT-Agenten für Attacken zu nutzen.“

Entdeckte Schwachstellen verdeutlichen Unreife

Über die theoretischen Risiken hinaus sind in beiden großen KI-Browsern konkrete Sicherheitslücken aufgetreten. Tage nach dem Start von ChatGPT Atlas entdeckten Forscher, dass es OAuth-Token unverschlüsselt mit übermäßig freizügigen Dateieinstellungen unter macOS speichert, was möglicherweise unbefugten Zugriff auf Benutzerkonten ermöglicht. Die Schwachstelle wurde am 27. Oktober von der Sicherheitsforschungsgruppe Teamwin dokumentiert.

OpenAI hatte bis zum 31. Oktober, als Gartner seine Untersuchung abschloss, noch keinen Patch veröffentlicht.

Unabhängig davon berichtete das Cybersicherheitsunternehmen LayerX Security im August über die Entdeckung einer Schwachstelle in Comet namens „CometJacking“, die möglicherweise Benutzerdaten an von Angreifern kontrollierte Server weiterleiten könnte.

Ein langer Weg bis zur Reife

Die entdeckten Schwachstellen unterstreichen die allgemeinen Bedenken hinsichtlich der Reife der KI-Browser-Technologie. „Sicherheit und Datenschutz müssen zu zentralen Designprinzipien werden und dürfen nicht nur nachträglich berücksichtigt werden”, fordert Mirolyubov. Anbieter von KI-Browsern müssten von Anfang an Cybersicherheitskontrollen auf Unternehmensniveau integrieren und mehr Transparenz hinsichtlich Datenflüsse und agentenbasierten Entscheidungen bieten.

Der Gartner-Analyst geht davon aus, dass die Entwicklung neuer Lösungen zur Kontrolle der KI-Nutzung wahrscheinlich „Jahre statt Monate” dauert. „Es ist unwahrscheinlich, dass alle Risiken beseitigt werden können – fehlerhafte Aktionen von KI-Agenten werden weiterhin ein Problem darstellen. Unternehmen mit geringer Risikotoleranz müssen KI-Browser möglicherweise auf längere Sicht blockieren.“

Gartner rät Unternehmen mit höherer Risikotoleranz, die experimentieren möchten, Pilotprojekte auf kleine Gruppen zu beschränken. Sie sollten sich mit risikoarmen Anwendungsfällen befassen, die leicht zu überprüfen und rückgängig zu machen sind. „Benutzer müssen stets genau beobachten, wie der KI-Browser bei der Interaktion mit Webressourcen autonom navigiert“.

Zudem empfiehlt das Analystenhaus Unternehmen, vorerst die Installation von KI-Browsern mithilfe bestehender Netzwerk- und Endpunkt-Sicherheitskontrollen zu blockieren und ihre KI-Richtlinien zu überprüfen. Auf diese Weise soll sichergestellt werden, dass die breite Nutzung von KI-Browsern untersagt ist.

„Derzeit entscheiden sich die meisten Cybersicherheitsteams dafür, KI-Browser zu blockieren und die Einführung zu verzögern, bis die Risiken besser verstanden werden und die Kontrollen ausgereifter sind“, so Mirolyubov. (jm)