Generative KI vs. DSGVO

Auslegungssache – der c't-Datenschutz-Podcast

Mit Dr. Michael Koch, Holger Bleich und Joerg Heidrich

ChatGPT, Midjourney und Co. stellen die Datenschützer vor völlig neue Herausforderungen. Womit darf man generative KI trainieren? was sollte man beim Nutzen der Blackbox-Modelle beachten, um die Preisgabe personenbezogner Daten zu vermeiden, oder zumindest zu minimieren? Welche Anforderungen stellt die Datenschutz-Grundverordnung (DSGVO) an die Betreiber?

Der Datenschutz muss sehr aufpassen, um nicht wieder als Bremser des Fortschritts dazustehen, meint Joerg. Zusammen mit Holger diskutiert er in der Podcast-Episode die möglichen Rechtsgrundlagen und schätzt die momentane Lage ein. Den beiden kompetent zur Seite steht Dr. Michael Koch. Michael ist Mitarbeiter von Joerg in der Rechtsabteilung des Verlags und vertiefte diese Themen zusammen mit ihm viele Male in Webinaren des Verlags. Außerdem ist er Datenschutzmentor für Start-Ups in Hannover und Referent und Fachautor zu den Themengebieten IT-Recht und Datenschutz.

Die drei erörtern, wo beim Einsatz von generativer KI welche personenbezogenen Daten verarbeitet werden können - und wo Probleme entstehen. Ein Disput entsteht in der Diskussion, als es um das "Scraping" öffentlich zugänglicher Daten im Web zu Trainingszwecken geht, wie es beispielsweise OpenAI betreibt: Muss man damit rechnen, dass alle veröffentlichten Informationen potenziell als Trainingsmaterial für Sprach-KIs oder Bildgeneratoren fungieren?

Michael erläutert, wie eine betriebliche Nutzung von Chatbots mit einer Richtlinie geregelt werden könnte, etwa mit Compliance-Vorschriften und gemeinsam genutzten Funktions-Accounts. Ausführlicher besprechen die Drei außerdem die "Checkliste zum Einsatz LLM-basierter Chatbots", die der Hamburgische Landesdatenschutzbeauftragte öffentlich bereitgestellt hat. Wer sich daran halte, habe schon sehr viel dafür getan, um auf der rechtssicheren Seite zu sein, ist sich Joerg sicher.

LfDI Hamburg: Checkliste zum Einsatz LLM-basierter Chatbots LfDI Baden Württemberg: Rechtsgrundlagen im Datenschutz beim Einsatz von Künstlicher Intelligenz

LfDI Baden-Württemberg: Kurz gesagt – LfDI erklärts: Rechtsgrundlagen im Datenschutz beim Einsatz von Künstlicher Intelligenz, offene Online-Veranstaltung am 23.1.24, ab 16 Uhr

Kapitel

1. Begrüßung (00:00:00)

2. Vorstellung Dr. Michael Koch (00:01:42)

3. Bußgeld der Woche (00:04:38)

4. Schwerpunkt Datenschutz bei generativer KI (00:11:26)

5. Ausklang (01:00:19)