DSGVO-konforme Softwareentwicklung und KI-Tools: Was Unternehmen wirklich wissen müssen

Dieser Beitrag vereint zwei frühere Artikel zu Datenschutz in der Softwareentwicklung und beim Einsatz von KI-Tools und wurde im September 2026 aktualisiert.

Seit dem Inkrafttreten der DSGVO im Mai 2018 hat sich in der Softwareentwicklung grundlegend etwas verändert: Datenschutz ist keine nachträgliche Überlegung mehr, sondern muss von Anfang an Teil der Architektur sein. Privacy by Design und Privacy by Default, zwei in der Verordnung verankerte Prinzipien, klingen abstrakt, haben aber sehr konkrete Auswirkungen darauf, wie Software gebaut wird. Und seit ChatGPT, Microsoft Copilot, Google Gemini und Claude in jedem Büro angekommen sind, stellt sich dieselbe Frage noch einmal neu: Was passiert mit personenbezogenen Daten, die Mitarbeiter in ein KI-Werkzeug eintippen? In meiner Praxis erlebe ich regelmäßig, dass Unternehmen die DSGVO entweder als bürokratisches Hindernis behandeln oder sich mit rechtlich fragwürdigen Lösungen behelfen. Beides ist vermeidbar.

Was Privacy by Design in der Praxis bedeutet

Der Grundsatz ist einfach: Datenschutz wird in die Systemarchitektur eingebaut, nicht im Nachhinein aufgesetzt. Konkret heißt das, dass nur die Daten erhoben werden, die für den jeweiligen Zweck tatsächlich nötig sind. Personenbezogene Daten werden so früh wie möglich anonymisiert oder pseudonymisiert. Zugriffsrechte folgen dem Least-Privilege-Prinzip, jeder Nutzer und jede Komponente erhält nur die Rechte, die für die eigene Funktion notwendig sind. Und Daten werden nur so lange gespeichert, wie es der Zweck erfordert, mit automatisierten Löschroutinen statt guter Vorsätze.

Besonders kritische Daten

Nicht alle Daten sind gleich riskant. Öffentlich verfügbare Produktbeschreibungen oder allgemeine Textentwürfe sind unkritisch. Heikel wird es bei Kundennamen, E-Mail-Adressen und Telefonnummern, bei Vertragsdetails und Angebotsinformationen, bei Personaldaten von Mitarbeitern und erst recht bei Gesundheitsdaten. Medizinische Daten gehören zur besonderen Kategorie nach Artikel 9 DSGVO und erfordern ein erhöhtes Schutzniveau. In meiner Arbeit für Facharztpraxen und Unternehmen im Sozialbereich habe ich gelernt, wie hoch die Anforderungen in diesen Branchen sind: Sie betreffen nicht nur die Datenbank, sondern den gesamten Verarbeitungsprozess von der Übertragung über die Speicherung und Zugriffsverwaltung bis zum Löschkonzept. Eine Arztpraxis, die Patientendaten in einer schlecht gesicherten Datenbank speichert oder unverschlüsselt über das Netzwerk überträgt, riskiert nicht nur Bußgelder, sondern das Vertrauen ihrer Patienten.

Technische Maßnahmen, die den Unterschied machen

Verschlüsselung aller gespeicherten personenbezogenen Daten und TLS für jede Übertragung sind die Basis. Dazu kommen eine vollständige Protokollierung von Datenzugriffen für Prüfzwecke, automatisierte Löschroutinen auf Basis definierter Aufbewahrungsfristen, Zwei-Faktor-Authentifizierung für Systeme mit Zugriff auf sensible Daten und regelmäßige Datensicherungen mit definierten Wiederherstellungszeiten. Keine dieser Maßnahmen ist exotisch. Ihr Wert liegt darin, dass sie von Anfang an eingeplant werden statt nach dem ersten Vorfall.

Der Auftragsverarbeitungsvertrag, den viele vergessen

Wer als Softwareentwickler im Auftrag eines Unternehmens auf personenbezogene Daten zugreift oder sie verarbeitet, ist nach DSGVO Auftragsverarbeiter. Das erfordert einen schriftlichen Auftragsverarbeitungsvertrag (AVV) zwischen Auftraggeber und Entwickler, ein Dokument, das in der Praxis leider noch immer häufig fehlt. Ich weise meine Kunden proaktiv auf diese Anforderung hin und stelle entsprechende Vertragsunterlagen zur Verfügung. Das ist keine bürokratische Pflicht, sondern ein Zeichen professioneller Arbeitsweise. Dieselbe Regel gilt für jeden KI-Anbieter, dessen Dienst personenbezogene Daten verarbeitet: Ohne AVV darf er sie nicht bekommen.

KI-Tools: Das Grundproblem sind Daten, die das Unternehmen verlassen

Wenn ein Mitarbeiter einen Kundenbrief in ChatGPT einfügt, um ihn umzuformulieren, verlassen personenbezogene Daten das Unternehmen. Je nach Anbieter und Einstellung werden sie möglicherweise für das Training zukünftiger Modelle verwendet. Das ist datenschutzrechtlich problematisch, auch wenn es technisch simpel ist, und viele Unternehmen nutzen solche Werkzeuge, ohne den nach Artikel 28 erforderlichen Vertrag abgeschlossen zu haben. Das Risiko ist dabei selten der geplante Einsatz, sondern der unkontrollierte durch einzelne Mitarbeiter, die schlicht produktiv sein wollen.

Lösungsansätze für den Unternehmenseinsatz

Der einfachste Weg sind Unternehmensverträge. Die meisten großen Anbieter bieten Business- oder Enterprise-Tarife, die einen AVV einschließen und das Training auf Basis Ihrer Daten deaktivieren. OpenAI ChatGPT Enterprise, Microsoft Copilot für Microsoft 365 und Google Workspace mit Gemini sind Beispiele. Wer den europäischen Rechtsraum nicht verlassen will, bevorzugt Anbieter mit Rechenzentren in der EU, etwa den Azure OpenAI Service in Sweden Central oder Mistral AI aus Frankreich. Das erleichtert die Compliance erheblich, weil die Daten im europäischen Rechtsraum bleiben.

Für besonders sensible Daten ist eine selbst gehostete Lösung die sicherste Option. Offene Modelle wie Llama, Mistral oder Qwen lassen sich auf eigenen Servern oder in einer privaten Cloud betreiben, und ihre Qualität reicht für viele Anwendungsfälle vollkommen aus. Wann sich das rechnet und wo die Grenzen liegen, beschreibe ich im Beitrag über lokale Sprachmodelle im Mittelstand. Eine pragmatische Zwischenlösung ist die Pseudonymisierung vor der Eingabe: Personenbezogene Daten werden vor der Übergabe an das KI-Tool durch Platzhalter ersetzt, aus einem Kundennamen wird "KUNDE_A", aus einer Adresse "[E-MAIL]", und das Ergebnis wird anschließend zurückübersetzt. Das ist aufwendiger, aber datenschutzrechtlich deutlich sauberer.

Organisatorische Maßnahmen

Technik allein reicht nicht. Unternehmen, die KI-Tools einsetzen, brauchen klare interne Richtlinien: Welche Daten dürfen in welche Werkzeuge eingegeben werden? Wer schult die Mitarbeiter? Muss das KI-Tool im Verarbeitungsverzeichnis nach Artikel 30 DSGVO dokumentiert werden? In vielen Fällen lautet die Antwort ja. Dieselben Fragen stellen sich, sobald KI-Agenten eigenständig mit Kundendaten arbeiten, dort kommt die technische Durchsetzung der Grenzen noch hinzu.

Fazit

DSGVO-konforme Softwareentwicklung ist kein Mehraufwand, sie ist gute Softwareentwicklung. Wer Datenschutz von Anfang an in seine Architektur einbaut, spart sich teure Nachbesserungen und schützt gleichzeitig seine Kunden und sein Unternehmen. Für KI-Tools gilt dasselbe: Wer von Anfang an den richtigen Anbieter wählt, den AVV abschließt und klare interne Regeln definiert, kann KI produktiv und sicher einsetzen. Die Alternative, der unkontrollierte Einsatz durch Mitarbeiter, ist das eigentliche Risiko.