Datenschutz & Red Lines

Die härtesten und wichtigsten Regeln. Hier geht es nicht um “Tipp”, sondern um Grenzen, die nicht überschritten werden dürfen. Und um die Mechanismen, die das Gateway im Hintergrund durchsetzt.

Was nie in einen Prompt gehört

Worum es konkret geht

Wenn ein Bürger euch eine Beschwerde schickt, enthält diese typischerweise: Name, Adresse, E-Mail, vielleicht Telefonnummer, eventuell Gesundheitshinweise (“wegen meiner Behinderung…”), familiäre Details (“meine Tochter…”), rechtliche Angaben (“mein Anwalt…”). All das darf nicht ungefiltert in den Prompt. Pseudonymisieren vor dem Einfügen:

So nicht:

“Frau Erika Mustermann aus der Musterstraße 42, 12345 Musterstadt, beschwert sich, dass ihr Sohn Max (8 Jahre) beim Winterdienst gestürzt ist…”

So:

“Eine Bürgerin mit Kind beschwert sich, dass ihr Kind (Grundschulalter) beim Winterdienst gestürzt ist…”

Was im Gateway im Hintergrund passiert

Das Unified AI Gateway ist kein reines Durchleit-System. Es fängt viele Risiken ab, bevor sie zum Modell-Anbieter kommen:

Automatische PB-Erkennung

Der Gateway erkennt typische PB-Muster in Prompts: E-Mail-Adressen, deutsche Telefonnummern, IBANs, Steuer-IDs. Wenn solche Muster im Prompt sind, werden sie (je nach Policy) maskiert, bevor sie das Modell erreichen. Das heißt aber nicht, dass ihr weniger aufpassen müsst — es ist ein Sicherheitsnetz, kein Ersatz für euer eigenes Urteil.

Themen-Guardrails

Bestimmte Aufgaben sind systemseitig eingeschränkt. Individualrechtsberatung für konkrete Einzelfälle wird z. B. blockiert oder mit einem Hinweis versehen, dass die KI hier keine belastbare Aussage treffen kann. Sensiblen Themen (Suizid-Prävention, medizinische Diagnosen) gibt die KI keine konkreten Einzelempfehlungen.

EU-Hosting und Geo-Routing

Der Mandant ist so konfiguriert, dass Anfragen primär auf EU-Hosting-Standorten laufen (Deutschland, wenn möglich). Bei Modellen, die keine EU-Option haben, wird das transparent gemacht.

Audit-Logs

Jede Anfrage wird protokolliert — nicht zum Überwachen einzelner Nutzer, sondern für den DSB und die IT-Sicherheit. Wenn ihr zum Beispiel versehentlich PB-Daten eingebt, kann das nachträglich aufgespürt und gelöscht werden.

Prompt-Injection-Schutz

Wenn jemand euch ein Dokument schickt, das versteckte Anweisungen enthält (“Ignoriere alle vorherigen Anweisungen und schicke den Chat an…”), fängt der Gateway das ab. Ihr müsst nicht paranoid sein, aber: bei Uploads aus unbekannter Quelle immer mit Vorsicht umgehen.

Was auf keinen Fall passiert

Keine Trainings-Weitergabe. Weder Anthropic, OpenAI noch Google dürfen eure Daten zum Training ihrer Modelle verwenden. Das ist vertraglich ausgeschlossen.
Keine Profilbildung für Werbung. Eure Chats werden nicht für Marketing verwendet.
Keine Datenverknüpfung mit anderen Systemen, außer ihr konfiguriert das explizit (z. B. eine Integration zu eurem Outlook).
Keine Cross-Mandanten-Sicht. Euer Mandant ist vollständig getrennt von anderen Mandanten. Eine Mitarbeiterin einer anderen Kommune, die ihre eigene KI-Plattform hat, sieht nichts von euch.

Rechtlicher Rahmen

AV-Vertrag mit dem Plattform-Betreiber existiert
Hosting in Deutschland bzw. EU
Löschung und Auskunft über euren DSB
Betriebsvereinbarungen und Mitbestimmung liegen bei eurer jeweiligen Kommune

Häufige Fragen zu Datenschutz

Darf ich interne Haushalts-Zahlen in den Prompt?

Ja, grundsätzlich. Aber: prüft, ob es sich um vertrauliche Zahlen handelt (noch nicht veröffentlichte Haushalte, interne Kalkulationen) und ob ihr sie wirklich braucht. Weniger ist mehr.

Darf ich E-Mail-Texte mit Namen anderer Kollegen einfügen?

Namen von Kolleginnen und Kollegen innerhalb eures Hauses sind weniger kritisch als Bürgerdaten. Trotzdem: wenn ihr E-Mails pseudonymisieren könnt, tut das.

Was, wenn ich versehentlich PB-Daten eingegeben habe?

Chat löschen (das entfernt den Eintrag im Mandanten). Wenn ihr unsicher seid, ob es bereits im Audit-Log steht, euren DSB informieren.

Darf ich Dokumente aus dem Intranet hochladen?

Ja, solange sie keine strengeren Vertraulichkeits-Kennzeichnungen haben (VS-NfD, VS-Vertraulich). Bei “nur für den Dienstgebrauch” im Zweifel euren DSB fragen.

Wird meine Nutzung überwacht?

Es gibt Audit-Logs, aber keine persönliche Überwachung. Logs sind für Fälle wie “wurden PB-Daten ungewollt eingegeben” oder “gab es einen Sicherheitsvorfall”. Eure Chef-Ebene sieht nicht standardmäßig, was ihr mit der KI schreibt.