Datenschwärzung in der KI: Was passiert mit sensiblen Daten?
Was passiert, wenn Mitarbeiter sensible Daten in eine KI eingeben? Wir erklären, wie Datenschwärzung funktioniert und welche Plattformen sie bieten.
Europäische KI
Was ist Datenschwärzung, und warum ist sie wichtig?
Datenschwärzung bedeutet: Eine Software erkennt sensible Informationen in einem Text, zum Beispiel Namen, IBANs, Gesundheitsdaten oder Vertragsdetails, und ersetzt sie durch einen Platzhalter, bevor der Text weiterverarbeitet wird. Bei KI-Plattformen passiert das, bevor die Anfrage überhaupt beim Sprachmodell ankommt.
Für Unternehmen ist das relevant, weil Mitarbeiter im Arbeitsalltag oft aus Gewohnheit ganze Textblöcke in eine KI kopieren, etwa eine E-Mail mit Kundendaten oder ein Vertragsentwurf. Ohne Schutzmechanismus landen diese Daten dann bei einem KI-Modell, das möglicherweise außerhalb der EU betrieben wird.
Was passiert, wenn ich sensible Daten ohne Schutz in eine KI eingebe?
Rechtlich betrachtet ist das Eingeben personenbezogener Daten in eine KI eine Datenverarbeitung im Sinne der DSGVO. Wenn diese Daten an einen Server außerhalb der EU gesendet werden, muss das Unternehmen nachweisen können, dass die Verarbeitung rechtmäßig war. Bei einem Verstoß drohen Bußgelder und, mindestens genauso relevant, ein Vertrauensverlust bei Kunden.
Das Problem betrifft nicht nur Datenschutzbeauftragte. Auch Geschäftsgeheimnisse, etwa Preiskalkulationen oder unveröffentlichte Produktdetails, sollten nicht unkontrolliert das Unternehmen verlassen.
Wie funktioniert Datenschwärzung in der Praxis?
oneAI arbeitet mit vier Eskalationsstufen für sensible Inhalte:
- Audit: Der Vorfall wird protokolliert, die Anfrage geht trotzdem durch
- Audit & Block: Die Anfrage wird blockiert und protokolliert
- Audit & Review: Ein Administrator muss die Anfrage manuell freigeben
- Audit & Redact: Der sensible Text wird durch einen Platzhalter ersetzt, bevor die KI ihn sieht
Bei der letzten Stufe bleibt das Gespräch nutzbar. Die KI arbeitet mit dem Platzhalter weiter, während ein autorisierter Administrator bei Bedarf nachvollziehen kann, was ursprünglich an der Stelle stand.
Welche Plattformen bieten Datenschwärzung?
| Plattform | Datenschwärzung | Kosten |
|---|---|---|
| oneAI | Eingebaut, 4 Eskalationsstufen | Im Grundpreis enthalten |
| Langdock | Nicht verfügbar | Nicht zutreffend |
| innoGPT | Verfügbar als Add-on | Ab 69 € pro Monat zusätzlich |
| Omnifact | "Privacy Filter" maskiert automatisch | Teil des Starter/Pro-Plans |
Neben oneAI hat nur Omnifact eine vergleichbare automatische Maskierung im Angebot. innoGPT bietet eine Lösung, allerdings gegen Aufpreis. Bei Langdock ist nach aktuellem Stand der Dokumentation keine native Datenschwärzung vorhanden.
Wo hat oneAI noch Grenzen?
Datenschwärzung ist kein Allheilmittel. Sie erkennt bekannte Muster wie IBANs, E-Mail-Adressen oder Namen zuverlässig, kann aber bei sehr kontextabhängigen Geschäftsgeheimnissen an ihre Grenzen stoßen, etwa wenn sensible Information nicht als solche erkennbar ist, ohne den Fachkontext zu verstehen. Mitarbeiterschulung bleibt deshalb sinnvoll, auch wenn die Technik einen Großteil der Fälle automatisch abfängt.
Außerdem ersetzt Datenschwärzung keine grundsätzliche Entscheidung darüber, welche Daten überhaupt in eine KI eingegeben werden dürfen. Unternehmen sollten weiterhin klare Richtlinien für ihre Mitarbeiter festlegen.
Fazit: Wann lohnt sich Datenschwärzung?
Für Unternehmen, die mit Kundendaten, Gesundheitsdaten oder vertraulichen Geschäftsinformationen arbeiten, ist eine eingebaute Datenschwärzung ein starkes Argument bei der Plattformwahl. oneAI bietet diese Funktion ohne Aufpreis und mit vier abgestuften Reaktionsmöglichkeiten. Wer auf Langdock setzt, muss den Schutz sensibler Daten bislang selbst über organisatorische Maßnahmen lösen. innoGPT-Nutzer sollten die Zusatzkosten für das Add-on einplanen.