Kein Hackerangriff, keine böse Absicht, kein kompliziertes Szenario. In den meisten Fällen reicht ein Kopieren und Einfügen – und Kundendaten, Vertragsentwürfe oder Quellcode liegen bei einem KI-Dienst, mit dem Ihr Unternehmen keinen Vertrag hat.

Ein bekanntes Beispiel: 2023 fügten Ingenieure bei Samsung vertraulichen Quellcode und interne Besprechungsnotizen in ChatGPT ein, um Fehler zu finden und Protokolle zusammenzufassen. Samsung untersagte generative KI-Dienste daraufhin auf Firmengeräten. Das Muster ist in jedem Betrieb dasselbe: Jemand will eine Aufgabe schneller erledigen und nimmt das Werkzeug, das gerade offen ist.

Die häufigsten Wege

Kopieren und Einfügen. Eine Reklamation mit Kundennamen umformulieren lassen, eine Excel-Liste mit Gehältern auswerten, eine Kündigung „netter“ schreiben. Jede dieser Aufgaben ist harmlos – der Inhalt ist es nicht.

Hochgeladene Dateien. „Fasse diesen Vertrag zusammen“ ist bequemer als Kopieren. Mit der Datei gehen alle Namen, Konditionen und Anhänge mit, auch die, an die niemand gedacht hat.

Private Konten. Wer zu Hause ein kostenloses Konto nutzt, nimmt es gern mit in den Arbeitsalltag. Bei vielen Verbraucherversionen dürfen Eingaben zum Training verwendet werden, sofern man nicht ausdrücklich widerspricht.

Besprechungsassistenten. KI-Protokollanten, die sich in Videokonferenzen einwählen, zeichnen alles auf – auch das, was Gäste von außen sagen. Manche treten automatisch jeder Besprechung aus dem Kalender eines Nutzers bei, ohne dass die anderen Teilnehmer gefragt werden.

Browser-Erweiterungen. Schreibhilfen und Übersetzer lesen je nach Berechtigung mit, was auf dem Bildschirm steht: im Webmail, im CRM, im Kundenportal.

Neue KI-Funktionen in vorhandener Software. Viele Programme, die Sie längst nutzen, bekommen per Update KI-Funktionen. Ob Daten dafür an einen externen Dienst gehen, steht selten auf dem Startbildschirm.

Was rechtlich daraus folgt

Datenschutz: Wer personenbezogene Daten an einen Dienst gibt, mit dem kein Auftragsverarbeitungsvertrag besteht, verarbeitet sie ohne Rechtsgrundlage. Je nach Umfang und Art der Daten kann das eine Datenpanne sein, die innerhalb von 72 Stunden der Aufsichtsbehörde zu melden ist.

Geschäftsgeheimnisse: Das Geschäftsgeheimnisgesetz schützt Informationen nur, wenn das Unternehmen angemessene Maßnahmen zur Geheimhaltung trifft. Wer seine Konstruktionsdaten oder Kalkulationen ungeregelt in öffentliche KI-Dienste geben lässt, riskiert im Streitfall genau diesen Schutz.

Vertraulichkeitszusagen: Viele Kundenverträge verbieten die Weitergabe von Informationen an Dritte. Ein KI-Dienst ist ein Dritter.

Was wirklich schützt

Verbote allein helfen wenig. Wer KI untersagt, ohne eine Alternative anzubieten, bekommt heimliche Nutzung auf privaten Geräten – die schlechteste aller Varianten.

  1. Ein freigegebenes Werkzeug bereitstellen. Ein Geschäftskundentarif mit Vertrag, EU-Verarbeitung und Trainingsausschluss. Wer Microsoft 365 nutzt, hat mit Copilot Chat bereits eine Variante ohne Aufpreis.
  2. Eine einfache Regel aufstellen. Am besten als Ampel: Grün – öffentliche und allgemeine Inhalte, frei nutzbar. Gelb – interne Inhalte, nur im freigegebenen Werkzeug. Rot – Personaldaten, Gesundheitsdaten, Kundengeheimnisse, Zugangsdaten: gar nicht, auch nicht im freigegebenen Werkzeug, solange es dafür keine eigene Freigabe gibt.
  3. Kurz schulen. Zehn Minuten mit echten Beispielen wirken mehr als zehn Seiten Richtlinie. Das deckt zugleich die Pflicht zur KI-Kompetenz aus der KI-Verordnung ab.
  4. Technisch nachhelfen. Browser-Erweiterungen nur aus einer Freigabeliste, Besprechungsbots in Teams oder Zoom nur nach Freigabe zulassen, bekannte KI-Dienste ohne Vertrag bei Bedarf sperren. Mit Microsoft 365 lässt sich je nach Lizenz zusätzlich verhindern, dass als vertraulich markierte Dokumente in KI-Werkzeugen landen.
  5. Vorhandene Software prüfen. Bei Updates nachsehen, ob neue KI-Funktionen aktiv sind und wohin die Daten gehen.

Wenn es schon passiert ist

Kein Grund zur Panik, aber auch keiner zum Abwarten. Klären Sie zuerst, welche Daten in welchen Dienst gegangen sind. Löschen Sie den Verlauf, soweit möglich, und prüfen Sie die Einstellungen zum Training. Sind personenbezogene Daten betroffen, gehört der Fall sofort zur Geschäftsführung und, falls vorhanden, zum Datenschutzbeauftragten. Ob eine Meldung nötig ist, muss zügig entschieden werden: Die 72-Stunden-Frist läuft ab Kenntnis des Vorfalls. Und dann: aus dem Vorfall eine Regel machen, nicht einen Schuldigen.

Checkliste

  1. Welche KI-Dienste werden heute tatsächlich genutzt? Fragen statt vermuten.
  2. Ein freigegebenes Werkzeug mit Vertrag bereitstellen
  3. Ampel-Regel für Datenarten aufschreiben
  4. Kurze Schulung mit Beispielen aus dem eigenen Betrieb
  5. Erweiterungen, Besprechungsbots und KI-Funktionen in vorhandener Software prüfen
  6. Ablauf für den Ernstfall festlegen: wer wird informiert, wer entscheidet

Die meisten Datenabflüsse in KI-Dienste passieren nicht trotz guter Absicht, sondern wegen ihr. Ein gutes Angebot und eine klare Regel verhindern mehr als jedes Verbot.

Dieser Beitrag gibt einen Überblick und ersetzt keine Rechtsberatung.