ChatGPT im Visier der EU-Datenschützer: Die KI ist nicht DSGVO-konform
Zuletzt aktualisiert am 13. September 2024 von Lars Weidmann
Die Europäische Datenschutzbehörde (EDPB) hat ihren ersten Fortschrittsbericht zur „GPT-Arbeitsgruppe“ veröffentlicht. Das Ergebnis ist für OpenAIs ChatGPT ernüchternd: Die Bemühungen des Unternehmens, die Anforderungen der Datenschutz-Grundverordnung (DSGVO) zu erfüllen, werden als unzureichend bewertet.
EDPB: Transparenzmaßnahmen nicht ausreichend
Trotz der Maßnahmen von OpenAI zur Einhaltung der Transparenzanforderungen stellt die EDPB fest, dass diese nicht ausreichen, um die DSGVO vollständig zu erfüllen. „Die getroffenen Maßnahmen sind nützlich, um Fehlinterpretationen der ChatGPT-Ausgaben zu vermeiden, genügen aber nicht den gesetzlichen Anforderungen“, heißt es im Bericht.
Anhaltende Datenschutzprobleme
Die Veröffentlichung des Berichts erfolgt zu einer Zeit, in der OpenAI in Europa mit mehreren vorübergehenden Stopps konfrontiert ist. Bereits im Januar gab es Berichte, dass die italienische Datenschutzbehörde festgestellt hatte, dass ChatGPT trotz vorheriger Verwarnungen und eines Verbots im März 2023 weiterhin gegen Datenschutzgesetze verstößt. Laut EDPB hat OpenAI seitdem nicht genug getan, um diese Probleme zu beheben.
Ein zentrales Problem ist die Tendenz von ChatGPT, ungenaue Informationen zu liefern. „Aufgrund der probabilistischen Natur des Systems kann das derzeitige Trainingsmodell auch voreingenommene oder erfundene Ergebnisse produzieren“, warnt die EDPB. Es bestehe die Gefahr, dass Nutzer die von ChatGPT gelieferten Informationen als wahr betrachten, obwohl diese möglicherweise fehlerhaft sind.
Technische Hürden bleiben bestehen
Wie OpenAI die Konformität mit den europäischen Datenschutzvorschriften erreichen soll, bleibt unklar. Das GPT-4-Modell besteht aus Milliarden von Datenpunkten und etwa einer Billion Parametern. Eine manuelle Überprüfung der Daten auf ihre Richtigkeit erscheint praktisch unmöglich. Die EDPB stellt jedoch klar, dass „technische Unmöglichkeiten nicht als Ausrede für die Nichterfüllung der Anforderungen geltend gemacht werden können.“
Die Herausforderungen für OpenAI bleiben erheblich. Es bleibt abzuwarten, welche Schritte das Unternehmen als nächstes unternimmt, um die Einhaltung der europäischen Datenschutzgesetze sicherzustellen.
