
Der Landesdatenschutzbeauftragte des Landes Nordrhein-Westfalen sieht KI als Thema für den IT- und Windows-Blog von 2025Born
Bettina Gayk, NRW-Landesbeauftragte für Datenschutz und Informationsfreiheit, geht davon aus, dass KI im Jahr 2025 das Thema sein wird.
In einem Interview gab Gayk einen Einblick in seine diesbezüglichen Erwartungen bis Ende 2024. Ich werde die Informationen hier im Blog veröffentlichen.
Ein Blick auf das Jahr 2024 aus Sicht des Datenschutzbeauftragten
Gayk: Die Aufgabe bleibt spannend. Die wichtigsten datenschutzrechtlichen Themen waren in diesem Jahr die technischen Entwicklungen beim Einsatz künstlicher Intelligenz sowie die Digitalisierung und Vernetzung im Gesundheits- und Wissenschaftsbereich. Leider herrscht in Nordrhein-Westfalen Stillstand in der Informationsfreiheit.
Hier sollte die Landesregierung das Informationsfreiheitsgesetz zu einem echten Transparenzgesetz weiterentwickeln und dafür sorgen, dass relevante öffentliche Informationen, die der Verwaltung zur Verfügung stehen, aktiv über Informationsportale verfügbar sind. So sehen für mich transparente Informationen über die Verwaltungsarbeit aus. Ich denke immer noch, dass dies ein guter Weg ist, Fake News zu bekämpfen.
Was waren die am häufigsten belegten Fälle von LDI NRW im Jahr 2024? Gibt es einen Trend?
Gayk: Passend zum KI-Thema haben wir uns zwei große Anbieter großer Sprachmodelle angesehen. Aufgrund der fehlenden Harmonisierung zwischen der Datenschutz-Grundverordnung und der Künstliche-Intelligenz-Verordnung stoßen wir bei der Nutzung personenbezogener Daten an unsere Grenzen. Insgesamt handelt es sich um ein wichtiges Thema, das von den europäischen Behörden gut koordiniert werden sollte, um wichtige Daten zu schützen.
Der Einsatz von Software zur Emotionserkennung bei Call-Center-Anrufen war und ist ein großes Problem. Wir wurden über einen inakzeptablen Datenaustausch zwischen zahlreichen Unternehmen in Deutschland und dem deutschsprachigen Raum informiert. Wir haben eine gemeinsame Überprüfung mit den zuständigen Regulierungsbehörden begonnen und werden die Ergebnisse sicherlich im nächsten Jahr veröffentlichen können. In beiden Fällen arbeiten wir mit großer Konzentration, denn die Verarbeitung von Daten betrifft viele Menschen.
Die Kontrolle der Staatsanwaltschaft ist seit meinem Amtsantritt eine ständige Aufgabe. Aufgrund einer Änderung der Strafprozessordnung hat ein Staatsanwalt in Nordrhein-Westfalen den Standpunkt vertreten, dass ich die Strafverfolgung nicht mehr beaufsichtige. Ich habe es bereits mit zwei Justizministern besprochen.
Nachdem das Justizministerium dem Landtag nun mitgeteilt hatte, dass ich für die Datenschutzkontrollen in der Staatsanwaltschaft zuständig sei, wollten wir die in diesem Jahr verweigerte Kontrolle endlich durchführen. Aber wieder einmal wurden wir abgelehnt. Zu meiner großen Überraschung hat das Justizministerium die Anklage in dieser Position gestärkt. Die Rechtslage ist jedoch sehr unterschiedlich. Der Kontrollbereich ist für mich sehr wichtig, da es für Personen, die einer Straftat verdächtigt werden, sehr wichtig ist, ihre Daten zu korrigieren, wenn sich der Verdacht nicht bestätigt. Ich würde gerne hin und wieder vorbeischauen, um zu sehen, ob alles gut läuft.
Ist schon klar, was im Jahr 2025 mit Ihnen und damit mit den Bürgern passieren wird?
Gayk: Auch hier wird das Thema KI weiterhin ein Thema bleiben. Die für die Marktüberwachung im Rahmen der KI-Verordnung zuständigen Behörden müssen auf nationaler Ebene bestimmt werden. Die Vorgängerregierung will die Aufgabe mit der Bundesnetzagentur verknüpfen. Zu diesem Zweck werden die Aufgaben, die die KI-VO selbst bereits den Datenschutzaufsichtsbehörden übertragen hat, in der Bundesnetzagentur gebündelt. Es geht um den Einsatz von KI-Werkzeugen in Polizei, Schule und Wissenschaft – eigentlich alles Aufgaben von Staaten. Dabei geht es vor allem um die Frage, ob dies tatsächlich durch eine Bundesbehörde in einem Bundesland europa- und verfassungsrechtlich überwacht werden kann. Da wir wissen, dass es Anfang nächsten Jahres Wahlen geben wird, hoffen wir, dass es noch keine Überraschungen gibt.
Als nächstes kommt die elektronische Patientenakte. Über die Widerspruchsmöglichkeiten der Betroffenen informieren wir Sie aktuell. Ich habe den Eindruck, dass das System noch in den Kinderschuhen steckt, weshalb sich GKV-Betroffene von vornherein gut überlegen sollten, ob sie teilnehmen wollen. Der Einwand kann auch rückgängig gemacht werden, wenn klarer ist, ob das System funktioniert oder nicht.
Was sind die größten Herausforderungen der KI?
Gayk: Das sind nicht nur Fragen an alle Datenschutzbehörden, sondern auch der Umgang mit Modellen, die außerhalb der EU ausgebildet wurden und im Widerspruch zu unseren Datenschutzstandards stehen. Es ist nicht nur ein Datenschutzproblem, sondern beeinträchtigt auch die Wettbewerbsfähigkeit europäischer Unternehmen.
Darüber hinaus ist die durch die DSGVO gewährleistete Verwirklichung der Betroffenenrechte in den großen Sprachmodellen ausgeschlossen. Hier stoßen wir seitens der AI-VO auf eine rechtspolitische Erwartungshaltung, denn diese Anträge müssen weiterhin genehmigt werden. Es fehlt jedoch an einer Lösung, die den betroffenen Menschen eine alternative und angemessene Wahrung ihrer Interessen gewährleistet. Meiner Meinung nach sind auch einheitliche europäische Lösungen notwendig.
Am 18. Februar laden wir Experten zu einem Symposium ein und widmen uns der Frage, ob und wie die Verwaltung KI-Anwendungen nutzen kann.
Was sind Ihre Pläne für Ihre Agentur in den nächsten Jahren?
Gayk: Ich habe jetzt die Hälfte meiner Amtszeit hinter mir. In den verbleibenden vier Jahren möchte ich dafür sorgen, dass wir unsere Befugnisse aus der DSGVO gezielter und rechtssicher dort nutzen können, wo es für die Wahrung der Grundrechte der Betroffenen am effektivsten ist. Computer sind so allgegenwärtig, dass man leicht stecken bleibt und versucht, jedes Problem auf einmal zu lösen. Meine einzelnen Abteilungen identifizieren geeignete Projekte, die den Betroffenen im kommenden Jahr einen großen Nutzen bringen werden. Angesichts der sehr hohen Anzahl an Beschwerden, die meine Behörde jedes Jahr erhält, müssen wir die Dinge messen. Das bedeutet auch, dass wir nicht weiter auf die einzelnen Fälle eingehen und die Betroffenen sich ganz gut selbst helfen können, sondern nur Ratschläge geben.
Wir werden das Bewusstsein dafür schärfen, dass einige der Verantwortlichen immer wieder die gleichen Verstöße begehen. Wir ermitteln derzeit gegen ein Unternehmen, das Informationsanfragen regelmäßig ablehnt und immer wieder mitteilt, keine Anfrage erhalten zu haben. Einige davon erweisen sich als falsch. Darüber hinaus erbringt das Unternehmen regelmäßig keinen Nachweis über die Herkunft der verarbeiteten Daten. Hier kombinieren wir die Fälle. Dafür gibt es System und wir werden solche systematischen Verstöße nicht stoppen, wenn wir jeweils kleine Bußgelder verhängen. Dann haben wir die Möglichkeit, die sehr hohe Bußgeldgrenze der DSGVO anders zu nutzen.
Als eine der größten Datenschutzbehörden müssen wir natürlich auch in wichtigen Fragen eine Führungsrolle übernehmen. Aufgrund der Schwerpunktthemen, die wir auf der Datenschutzkonferenz behandeln, verfügen wir beispielsweise über eine hohe Expertise in Fragestellungen rund um den Banken- und Finanzsektor und sind in der Zertifizierung in Europa recht weit fortgeschritten. Letzteres halte ich für sehr wichtig, da Zertifikate einen guten Datenschutz gewährleisten. Unternehmen mit zertifizierter Datenverarbeitung können damit werben, dass sie den Schutz der Kundendaten ernst nehmen.
Abschließend möchte ich die Informationsfreiheit nicht vergessen. Ich möchte bis zum Ende meiner Amtszeit Transparenzpflichten zum Informationsfreiheitsgesetz hinzufügen. Ich formuliere dies bewusst als Wunsch, denn ich kenne die Vorbehalte der Verwaltung und die Zurückhaltung, die bei bestimmten politischen Akteuren entsteht, die für eine Gesetzesänderung wichtig sind. Das liegt nicht in meiner Hand. Aber ich glaube, dass sich intelligente rechtliche Lösungen formulieren lassen, die zu mehr Transparenz führen. Meiner Meinung nach profitieren Bürger und Verwaltung gleichermaßen.