Erst der Zweck, dann das Werkzeug
Die Datenschutzkonferenz rät, vor der Auswahl einer KI-Anwendung die Einsatzfelder und Zwecke festzulegen und zu prüfen, ob sie überhaupt personenbezogene Daten brauchen [2]. Viele Aufgaben im Betrieb kommen ohne sie aus: eine Arbeitsanweisung formulieren, eine technische Unterlage lesen, eine Norm zusammenfassen. Wo Personen vorkommen, braucht jede Verarbeitung eine Rechtsgrundlage nach Artikel 6 DSGVO [1].
Geschlossenes oder offenes System
Die Orientierungshilfe unterscheidet geschlossene Systeme, bei denen die Daten in einer abgegrenzten Umgebung bleiben und nicht zum Training des Anbieters verwendet werden, von offenen Systemen, die über das Internet für einen unbestimmten Kreis zugänglich sind. Ihr Ergebnis: „Technisch geschlossene Systeme sind daher aus datenschutzrechtlicher Sicht vorzugswürdig.“ [2]
Offene Systeme können außerdem auf das Internet zugreifen und dadurch Informationen zu einer Person erweitern [2]. Für eine Übermittlung in Drittländer gelten die Regeln aus Kapitel V der DSGVO, also die Artikel 44 bis 50 [1].
Wer ist verantwortlich?
Verantwortlich bleibt der Betrieb, der über Zweck und Mittel entscheidet. Nutzt er eine Anwendung eines externen Anbieters, etwa als Cloud-Lösung, ist das häufig eine Auftragsverarbeitung; dann braucht es einen Vertrag nach Artikel 28 Absatz 3 DSGVO [1][2].
Datenschutz-Folgenabschätzung
Vor der Verarbeitung ist das Risiko abzuschätzen. Ist es voraussichtlich hoch, ist eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO Pflicht. Die DSK schreibt dazu: „Beim Einsatz von KI-Anwendungen wird dies vielfach der Fall sein.“ Der Betrieb braucht dafür Informationen des Anbieters über die Funktionsweise, und er sollte schon bei der Auswahl darauf achten, dass er sie bekommt [2].
Entscheidungen trifft ein Mensch
Entscheidungen mit Rechtswirkung dürfen nach Artikel 22 DSGVO grundsätzlich nur Menschen treffen [1]. Eine nur formelle Beteiligung eines Menschen reicht nach der DSK nicht; der Mensch braucht einen tatsächlichen Entscheidungsspielraum. Ihr Beispiel für einen Verstoß: eine KI, die Bewerbungen auswertet und selbstständig zu Vorstellungsgesprächen einlädt [2].
Beschäftigte schützen
Die DSK empfiehlt betriebliche Geräte und Konten statt privater, weil sonst Profile einzelner Beschäftigter entstehen können. Voreinstellungen sollen nach Artikel 25 DSGVO so gewählt sein, dass keine Eingaben zum Training verwendet werden. Datenschutzbeauftragte sollen eingebunden, eine Beteiligung von Betriebs- oder Personalrat soll geprüft werden, und die Beschäftigten sollen geschult werden [2].
Die Checkliste in sieben Fragen
- Wofür genau setzen wir die Anwendung ein, und braucht dieser Zweck personenbezogene Daten?
- Wo werden Eingaben verarbeitet und gespeichert, und verlassen sie die EU?
- Verwendet der Anbieter unsere Eingaben zum Training?
- Gibt es einen Vertrag zur Auftragsverarbeitung?
- Brauchen wir eine Datenschutz-Folgenabschätzung, und liefert der Anbieter die Informationen dafür?
- Entscheidet am Ende immer ein Mensch, mit echtem Spielraum?
- Arbeiten die Mitarbeitenden mit betrieblichen Konten, und wissen sie, was sie eingeben dürfen?
Wie die Oase gebaut ist
Benchmate ist im Aufbau und soll auf der Oase arbeiten und denselben Regeln folgen. Die Regeln unten beschreiben den Stand der Oase. Kundendaten werden in der EU gespeichert und in der EU und in EFTA-Staaten verarbeitet. Ausnahmen und Anbieter nennt die Anbieterliste unter Sicherheit. Im Einzelnen: Datenbank in Frankfurt am Main, Server und Sicherung in Deutschland, Claude-Modelle in EU-Regionen von AWS. Abweichungen: Mistral (Sitz Paris) mit Verarbeitung in der EU und in EFTA-Staaten, darunter Norwegen und die Schweiz; Amazon Polly dürfte vorgelesene Texte ohne Opt-out zur Dienstverbesserung auch außerhalb der Region speichern; unser Opt-out wirkt seit dem 9. Oktober 2026 (wirksame Organisationsrichtlinie für unser Konto, gelesen per API). AWS Bedrock gibt Eingaben nicht an die Modellanbieter weiter und verwendet sie nicht zum Training. Bei Mistral ist die Nutzung unserer API-Aufrufe zum Training seit dem Abend des 12. Oktober 2026 ausgeschaltet, bei Amazon Polly greift unser Opt-out seit dem 9. Oktober 2026; das gilt jeweils für Eingaben ab dem genannten Zeitpunkt. Jede Abfrage ist in der Datenbank selbst auf den eigenen Betrieb beschränkt. Der Teil, der Ihr Betriebswissen liest, hat keinen Weg ins Internet. Wissen hängt an Rollen, und keine Ansicht zählt Beiträge je Mitarbeiter. Einzelheiten stehen unter Sicherheit.
Dieser Leitfaden ordnet ein und ersetzt keine Rechtsberatung. Maßgeblich ist der Wortlaut der verlinkten Rechtstexte.
Quellen
- [1] Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Amtsblatt der EU, deutsche Fassung
- [2] Datenschutzkonferenz: Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024
- [3] Europäischer Datenschutzausschuss: Stellungnahme 28/2024 zu Datenschutzfragen bei KI-Modellen