KI-Sicherheit für Unternehmen · Stand 12. November 2026

Sicherheitsforscher von Claroc fanden über 35.000 mit Grok gebaute Apps, die ohne Anmeldung erreichbar waren. Was Unternehmen jetzt bei KI-gebauten Apps prüfen sollten.

Das Sicherheitsunternehmen Claroc hat am 10. November 2026 eine Untersuchung zu Apps veröffentlicht, die Nutzer im Chat mit Grok bauen und veröffentlichen. The Hacker News berichtete am 11. November darüber. Alle Zahlen und Befunde in diesem Beitrag sind Forschungsergebnisse von Claroc, keine eigene Prüfung. Claroc verkauft selbst Werkzeuge zum Absichern KI-gebauter Apps. Die praktischen Schritte gelten aber für jede App, die Mitarbeitende ohne IT-Prozess mit einem KI-App-Builder veröffentlichen.

LOL.MARKETING / INTELLIGENZ VERBINDEN

Auf den Punkt

Laut Claroc öffneten 35.578 von 37.571 erreichbaren Grok-Apps (94,7 %) ohne Anmeldung. Im getesteten Konto war beim Veröffentlichen Anyone with the link vorausgewählt. Prüfen Sie, ob Apps mit internen Daten auf Only you oder Invited users stehen, testen Sie den Zugang aus einem fremden Konto, entfernen Sie Passwörter aus dem Client-Code und nehmen Sie unbetreute Apps offline.

01 / FIT

Geeignet, wenn

  • IT-Sicherheit, Datenschutz und Fachbereiche, deren Mitarbeitende mit Grok oder anderen KI-App-Buildern eigene kleine Anwendungen veröffentlichen.

02 / GRENZEN

Nicht die erste Wahl, wenn

  • Unternehmen, die nur geteilte Chats oder Bilder nutzen und keine Apps veröffentlichen: Die Studie betrifft veröffentlichte Apps mit eigener Adresse.

Was hat Claroc herausgefunden?

Grok kann aus einer Beschreibung im Chat eine funktionierende App bauen; jede veröffentlichte App erhält eine eigene Subdomain. Claroc probierte nach eigenen Angaben 43.551 solcher App-Adressen. 37.571 waren noch online, 35.578 davon (94,7 %) öffneten ohne Anmeldung. Nur 1.993 antworteten mit einem HTTP-Fehler 401, den eine auf Only you oder Invited users gesetzte App zurückgibt.

Die meisten offenen Apps waren laut Claroc Spiele, Landingpages und Rechner. Etwa jede zehnte enthielt aber sensible, interne oder personenbezogene Daten. Darunter waren 24 Apps von Mitarbeitenden von SpaceXSI, dem früher xAI genannten Grok-Anbieter, und von X; SpaceXSI nahm sie nach der Meldung offline. Außerdem fand Claroc interne Daten von 30 weiteren identifizierbaren Organisationen. Namen nennt die Studie nicht, und auch wir nennen keine.

Warum waren so viele Apps offen?

Claroc nennt zwei Gründe. Erstens die Voreinstellung: In dem bezahlten Konto, das die Forscher nutzten, bot der Veröffentlichungsschritt Anyone with the link, Invited users und Only you an, wobei Anyone with the link bereits ausgewählt war. Zweitens bleibt eine App-Adresse nicht geheim: Beim Aufruf wird die Subdomain per DNS abgefragt, passive DNS-Dienste speichern solche Abfragen, und sie lassen sich nach Mustern durchsuchen.

SpaceXSI erklärte laut Claroc gegenüber einem Reporter, Grok-Apps seien privat, bis ihr Ersteller eine teilt; das Veröffentlichen erfordere mehrere Schritte, und Mitarbeiterkonten stünden standardmäßig auf Only you. Claroc hält dagegen, dass am Ende dieses Wegs im getesteten Konto der Zugang für alle vorausgewählt war. Zusätzlich beschreibt Claroc, dass KI-Apps im Lauf weiterer Prompts wachsen: Eine harmlose App kann am nächsten Tag Kundendaten enthalten.

Schützt ein Login automatisch?

Nicht unbedingt. Claroc baute zwei eigene Test-Apps mit erfundenen Daten. Eine Kontaktliste erhielt eine Datenbank, aber keine Anmeldung; aus einem privaten Browserfenster konnten die Forscher eine Zeile hinzufügen, die der nächste Besucher sah. Eine Kundenliste für ein Vertriebsteam von vier Personen bekam von Grok Anmeldebuttons, unter anderem Continue with Google. Der erzeugte Code nahm jedoch jeden Angemeldeten ins Team auf, bevor er die Zugehörigkeit prüfte.

Ein fremdes, nie eingeladenes Google-Konto konnte so alle Kunden sehen, einen Datensatz ändern und einen löschen. Claroc betont, diese Schreib- und Löschtests nur an den eigenen Apps durchgeführt zu haben. Außerdem fand die Studie eine Zeiterfassungs-App, deren Skriptdatei, die jeder Browser herunterlädt, Konten mit Passwörtern im Klartext enthielt. Ein Login-Button sagt also nichts darüber, ob die Berechtigungsprüfung dahinter stimmt.

Wie prüfen Unternehmen ihre Grok-Apps?

Claroc empfiehlt mehrere Prüfschritte, die The Hacker News zusammenfasst. Sie sind einfach und lassen sich ohne Spezialwerkzeug beginnen. Laut Claroc gab eine App auf Only you einem Fremden sowohl für die Seite als auch für ihre Datenfunktion einen 401-Fehler zurück, und das Depublizieren nahm eine App binnen Sekunden offline.

  • Erfassen, welche KI-App-Builder Mitarbeitende nutzen; viele brauchen weder IT-Einrichtung noch Firmenkonto.
  • Jede Grok-App mit internen Daten auf Only you oder Invited users stellen.
  • Aus einem privaten Browserfenster und mit einem firmenfremden Konto testen: Ein Fremder muss eine Fehlerseite sehen.
  • Geladene Skriptdateien nach Namen, E-Mail-Adressen und Passwörtern durchsuchen; keine Zugangsdaten im Client-Code.
  • Apps ohne verantwortliche Person depublizieren.

Was bedeutet das für Unternehmen in Deutschland und der EU?

Unter den von Claroc beschriebenen offenen Apps waren Personallisten, Schichtpläne mit Namen und Dienstnummern, Bewerberlisten mit privaten E-Mail-Adressen und eine Patientenübersicht. Wenn Mitarbeitende eines Unternehmens solche Daten in eine öffentlich erreichbare App laden, sind personenbezogene Daten betroffen. Das ist ein Thema für Datenschutzbeauftragte und das interne Meldeverfahren für Datenschutzvorfälle.

Ob im Einzelfall eine Meldepflicht besteht, lässt sich nicht pauschal sagen und gehört in die Bewertung durch Fachleute; dieser Beitrag ist keine Rechtsberatung. Sinnvoll ist, betroffene Apps sofort abzusichern, den Vorgang zu dokumentieren und den Datenschutz einzubeziehen. Personal- und Kundendaten sollten grundsätzlich nicht in KI-gebaute Apps ohne geprüfte Anmeldung und Berechtigungsprüfung gelangen.

Welche Regeln gehören in die KI-Richtlinie?

Claroc beschreibt das Grundproblem so: Eine App entsteht im Chatfenster und wird im selben Fenster veröffentlicht, oft in Minuten, von Menschen, deren Aufgabe ein Vertriebsgebiet oder ein Dienstplan ist. IT sieht davon nichts. Eine KI-Richtlinie sollte KI-App-Builder deshalb ausdrücklich erfassen, nicht nur Chat-Assistenten.

Bewährt haben sich aus unserer Sicht wenige klare Regeln: welche Builder zugelassen sind, dass veröffentlichte Apps eine verantwortliche Person haben, dass Apps mit internen oder personenbezogenen Daten nur mit eingeschränkter Freigabe und geprüfter Anmeldung live gehen, dass keine Passwörter oder Schlüssel im Code stehen und dass Apps regelmäßig auf Freigabe und Inhalt geprüft werden. Wer unsicher ist, welche Apps schon existieren, beginnt mit einer Bestandsaufnahme.

Nachvollziehbar bleiben

Primärquellen

Nächster sinnvoller Schritt

Wissen Sie, welche KI-Apps Ihr Team veröffentlicht hat?

In acht Schritten vom allgemeinen KI-Interesse zu einer klareren Entscheidung für Ihren Betrieb.

KI-Systemcheck starten
KostenlosAnbieterneutralKeine Zugangsdaten