Zum Inhalt springen
Leitfaden · Stand 12. Oktober 2026

DSGVO und KI im Mittelstand: Worauf es mit Betriebsdaten ankommt.

Welche Fragen ein Betrieb klären sollte, bevor Mitarbeitende mit einer KI-Anwendung und echten Betriebsdaten arbeiten, entlang der Orientierungshilfe der Datenschutzkonferenz.

Klarheit, bevor Betriebsdaten fließen.

Die Datenschutzkonferenz rät, vor der Auswahl einer KI-Anwendung Einsatzfelder und Zwecke festzulegen. Daraus folgt fast alles Weitere: welche Daten nötig sind, wo sie verarbeitet werden und wer verantwortlich ist.

Erst der Zweck, dann das Werkzeug

Die Datenschutzkonferenz rät, vor der Auswahl einer KI-Anwendung die Einsatzfelder und Zwecke festzulegen und zu prüfen, ob sie überhaupt personenbezogene Daten brauchen [2]. Viele Aufgaben im Betrieb kommen ohne sie aus: eine Arbeitsanweisung formulieren, eine technische Unterlage lesen, eine Norm zusammenfassen. Wo Personen vorkommen, braucht jede Verarbeitung eine Rechtsgrundlage nach Artikel 6 DSGVO [1].

Geschlossenes oder offenes System

Die Orientierungshilfe unterscheidet geschlossene Systeme, bei denen die Daten in einer abgegrenzten Umgebung bleiben und nicht zum Training des Anbieters verwendet werden, von offenen Systemen, die über das Internet für einen unbestimmten Kreis zugänglich sind. Ihr Ergebnis: „Technisch geschlossene Systeme sind daher aus datenschutzrechtlicher Sicht vorzugswürdig.“ [2]

Offene Systeme können außerdem auf das Internet zugreifen und dadurch Informationen zu einer Person erweitern [2]. Für eine Übermittlung in Drittländer gelten die Regeln aus Kapitel V der DSGVO, also die Artikel 44 bis 50 [1].

Wer ist verantwortlich?

Verantwortlich bleibt der Betrieb, der über Zweck und Mittel entscheidet. Nutzt er eine Anwendung eines externen Anbieters, etwa als Cloud-Lösung, ist das häufig eine Auftragsverarbeitung; dann braucht es einen Vertrag nach Artikel 28 Absatz 3 DSGVO [1][2].

Datenschutz-Folgenabschätzung

Vor der Verarbeitung ist das Risiko abzuschätzen. Ist es voraussichtlich hoch, ist eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO Pflicht. Die DSK schreibt dazu: „Beim Einsatz von KI-Anwendungen wird dies vielfach der Fall sein.“ Der Betrieb braucht dafür Informationen des Anbieters über die Funktionsweise, und er sollte schon bei der Auswahl darauf achten, dass er sie bekommt [2].

Entscheidungen trifft ein Mensch

Entscheidungen mit Rechtswirkung dürfen nach Artikel 22 DSGVO grundsätzlich nur Menschen treffen [1]. Eine nur formelle Beteiligung eines Menschen reicht nach der DSK nicht; der Mensch braucht einen tatsächlichen Entscheidungsspielraum. Ihr Beispiel für einen Verstoß: eine KI, die Bewerbungen auswertet und selbstständig zu Vorstellungsgesprächen einlädt [2].

Beschäftigte schützen

Die DSK empfiehlt betriebliche Geräte und Konten statt privater, weil sonst Profile einzelner Beschäftigter entstehen können. Voreinstellungen sollen nach Artikel 25 DSGVO so gewählt sein, dass keine Eingaben zum Training verwendet werden. Datenschutzbeauftragte sollen eingebunden, eine Beteiligung von Betriebs- oder Personalrat soll geprüft werden, und die Beschäftigten sollen geschult werden [2].

Die Checkliste in sieben Fragen

  1. Wofür genau setzen wir die Anwendung ein, und braucht dieser Zweck personenbezogene Daten?
  2. Wo werden Eingaben verarbeitet und gespeichert, und verlassen sie die EU?
  3. Verwendet der Anbieter unsere Eingaben zum Training?
  4. Gibt es einen Vertrag zur Auftragsverarbeitung?
  5. Brauchen wir eine Datenschutz-Folgenabschätzung, und liefert der Anbieter die Informationen dafür?
  6. Entscheidet am Ende immer ein Mensch, mit echtem Spielraum?
  7. Arbeiten die Mitarbeitenden mit betrieblichen Konten, und wissen sie, was sie eingeben dürfen?

Wie die Oase gebaut ist

Benchmate ist im Aufbau und soll auf der Oase arbeiten und denselben Regeln folgen. Die Regeln unten beschreiben den Stand der Oase. Kundendaten werden in der EU gespeichert und in der EU und in EFTA-Staaten verarbeitet. Ausnahmen und Anbieter nennt die Anbieterliste unter Sicherheit. Im Einzelnen: Datenbank in Frankfurt am Main, Server und Sicherung in Deutschland, Claude-Modelle in EU-Regionen von AWS. Abweichungen: Mistral (Sitz Paris) mit Verarbeitung in der EU und in EFTA-Staaten, darunter Norwegen und die Schweiz; Amazon Polly dürfte vorgelesene Texte ohne Opt-out zur Dienstverbesserung auch außerhalb der Region speichern; unser Opt-out wirkt seit dem 9. Oktober 2026 (wirksame Organisationsrichtlinie für unser Konto, gelesen per API). AWS Bedrock gibt Eingaben nicht an die Modellanbieter weiter und verwendet sie nicht zum Training. Bei Mistral ist die Nutzung unserer API-Aufrufe zum Training seit dem Abend des 12. Oktober 2026 ausgeschaltet, bei Amazon Polly greift unser Opt-out seit dem 9. Oktober 2026; das gilt jeweils für Eingaben ab dem genannten Zeitpunkt. Jede Abfrage ist in der Datenbank selbst auf den eigenen Betrieb beschränkt. Der Teil, der Ihr Betriebswissen liest, hat keinen Weg ins Internet. Wissen hängt an Rollen, und keine Ansicht zählt Beiträge je Mitarbeiter. Einzelheiten stehen unter Sicherheit.

Dieser Leitfaden ordnet ein und ersetzt keine Rechtsberatung. Maßgeblich ist der Wortlaut der verlinkten Rechtstexte.

Nachweis

Vertrauen braucht Belege.

23 von 23

Angriffe abgewehrt: Wechsel in fremde Betriebe, Rechteausweitung, eingeschleuste Anweisungen, interne Ziele, gefälschte Anmeldungen, Passwortraten

Gemessen am 5. Oktober 2026

0

Zeilen oder Dateien eines anderen Betriebs, die ein Konto lesen konnte (102 Tabellen, 3 Speicherbereiche)

Gemessen am 5. Oktober 2026

83 s

Wiederaufbau auf einem frischen Server: Sicherung einspielen, bis alle acht Dienste antworten

Gemessen am 25. September 2026

Gemessen gegen die laufende Oase und ihren Quellcode. Benchmate baut darauf auf.

Einfach anfangen

Jetzt Gespräch vereinbaren.

Dreißig Minuten, ohne Verkaufsdruck: Sie erzählen von Ihrem Betrieb, wir zeigen, wo Benchmate die meiste Zeit zurückholt. Das Pilotprogramm beginnt klein.

Gespräch vereinbaren