ChatGPT und der Datenschutz

Was ist ChatGPT?

ChatGPT ist ein von OpenAI in den USA entwickelter Sprachsoftware-Textbot für künstliche Intelligenz (KI) und ist derzeit in aller Munde.

In einem Chat-Fenster kann man der Software Fragen stellen und bekommt in wenigen Augenblicken eine Antwort. Ein weiteres Feature ist, dass ChatGPT Arbeitsanweisungen befolgt, wie zum Beispiel das Schreiben eines Briefes oder Aufsatzes. Die Antworten von ChatGPT erfolgen auf Basis des Trainings im Dialogformat. Es stellt auch Rückfragen, wenn die Angabe noch konkretisiert werden soll.

Was sagt ChatGPT?

Welche Datenschutzlücken gibt es?

ChatGPT wurde entwickelt, um Text basierend auf Benutzer:inneneingaben zu verarbeiten und zu generieren. Um effektive Ergebnisse zu liefern und die Software zu trainieren, sammelt und verarbeitet ChatGPT große Datenmengen. Die von Nutzer:innen bereitgestellten Daten werden von ChatGPT gespeichert. Die Software nutzt diese um die Effektivität des Dienstes zu analysieren und einen Einblick in typisches Verhalten und Charakteristiken der Nutzer:innen zu erhalten. Die Daten können unter anderem mit Hilfe von Cookies gesammelt werden.

ChatGPT und OpenAI haben Datenschutzrichtlinien, die beschreiben, wie Daten verwendet werden. Sie sind allerdings, da das kalifornische Recht es so erlaubt, sehr vage formuliert. Darüber hinaus befinden sich weder auf der Registrierungsseite, noch auf der tatsächlichen Seite Datenschutzerklärungen oder Einwilligungsfenster. Es bleibt allerdings unklar, zu welchem Zweck das Unternehmen im Rahmen des Chatbots Daten verarbeitet.

Der Hauptteil der Datensammlung erfolgt bei der Nutzung der Dienste. Dazu zählen IP-Adresse, Browsertyp sowie Version und Einstellungen, Datum und Uhrzeit des Zugriffs sowie Nutzungsinformationen über die Interaktion mit dem System. Zu den erhobenen Nutzungsdaten gehören nach Angaben des Dienstanbieters Zeitzone, Herkunftsland und Informationen darüber, wann und wie lange sie verwendet werden, User Agent und dessen Version sowie Gerätetyp. ChatGPT behält sich auch das Recht vor, Cookies und Analysen zu verwenden. Ziel ist die Bereitstellung und Verbesserung von Dienstleistungen. Es wird nichts darüber gesagt, welche Cookies und welche Analysetools oder Anbieter verwendet werden.

Bei der Registrierung müssen Nutzer:innen ihre E-Mail-Adresse und Handynummer angeben und diese auch bestätigen. Dies geschieht allerdings ohne ersichtlichen Grund und werden Nutzer:innen dabei auch nicht über den Zweck der Datensammlung sowie der Konsequenzen informiert. Außerdem ist unklar wohin diese Daten in weiterer Folge dann übertragen werden. Cyberkriminelle sind besonders interessiert an solch verifizierten E-Mail-Adressen mit bestätigten Mobilfunknummern. Wenn ein:e Mitarbeiter:in einer Organisation diese Informationen im beruflichen Kontext an OpenAI weitergibt, ist der Arbeitgeber nicht nur Cybersicherheitsrisiken ausgesetzt, sondern haftet auch für die daraus resultierende Verletzung des Mitarbeiter:innendatenschutzes.

Ein weiteres Problem ist, dass sich alle Server in den USA befinden. Wenn man ChatGPT verwendet, stimmt man zu, dass persönliche Informationen direkt an die Server in den USA weitergeleitet werden. Im Hinblick auf die allgemeine rechtliche Problematik hinsichtlich des Transfers der Daten in die USA ist daher auch die Verwendung von ChatGPT datenschutzrechtlich bedenklich. Darüber hinaus gibt es keinen Vertreter in der EU (Art. 27 DSGVO). Die Verarbeitung personenbezogener Daten von EU-Bürger:innen ist daher nicht rechtens. Die Einforderung der Rechte wie eine Auskunft nach Art. 15 DSGVO oder Löschung der Daten nach Art.17 DSGVO läuft daher ins Leere.

Zusätzliche Schwachstellen der künstlichen Intelligenz

Die Antworten erscheinen schnell, leicht verständlich und intelligent. Dahinter liegt aber das Problem, dass sie zum Teil schlichtweg erfunden sind, wie Forscher der TU Darmstadt herausgefunden haben. Außerdem greift ChatGPT auf Trainingsdaten aus dem Jahr 2021 zurück, die Ergebnisse sind daher keineswegs aktuell. Das zeigt sich auch daran, dass das System noch keine Informationen zum Ukraine-Krieg bereitstellen kann.

Darüber hinaus zeigt ChatGPT Schwachstellen bei antisemitischen und rassistischen Äußerungen und falscher bzw. nicht vorhandener Angaben von Quellen. Daraus ergibt sich ein weiteres Problem, da nicht nachvollzogen werden kann, welche Quellen für die Beiträge genutzt werden. Es kann daher nicht die Richtigkeit dieser gewährleistet werden, was wiederum zu einer Verbreitung von nicht geprüften Inhalten führt.

Es gibt zwar Sicherheitsmaßnahmen, um etwa kriminelle Inhalte zu verhindern. Diese sind allerdings einfach zu umgehen. Die Software kann beispielsweise Tipps geben, um betrügerische Inhalte zu generieren.

Ist es ratsam ChatGPT zu nutzen?

Es bleiben Bedenken hinsichtlich Datensicherheit und Datenschutz. Die Daten können sensible Informationen erhalten, wie z.B. persönliche Angaben, Finanzdaten etc. Wie bei jeder Technologie, die personenbezogene Daten speichert, besteht das Risiko von Datenschutzverletzungen oder anderen Sicherheitsproblemen.

Die Nutzung der künstlichen Intelligenz im privaten Rahmen ist vermutlich oftmals eher eine Spielerei, die unbedenklich sein wird. Unternehmen hingegen sollten sich gut überlegen, ob sie ChatGPT tatsächlich nutzen möchten.

Datenschutz ist Ihnen ein Anliegen? Bei einem kostenlosen Ersttermin können wir Sie über Maßnahmen informieren, wie Sie Ihre Kund:innendaten optimal schützen können.