Online-KI-Generatoren bearbeiten Personendaten
Die Datenschutzbeauftragte beantwortete im Jahr 2023 häufig Fragen zum Einsatz von Online-KI-Generatoren. Sie bearbeiten Personendaten über die Nutzerinnen und Nutzer. Zudem können auch Personendaten in den Prompts vorkommen.
Online-KI-Generatoren wie ChatGPT werden normalerweise von Dritten betrieben. Ihr Einsatz ist deshalb eine Auslagerung beziehungsweise eine Datenbearbeitung im Auftrag. Datenschutzrechtliche Probleme liegen etwa vor, wenn Anbieter von Online-KI-Generatoren Personendaten des öffentlichen Organs verwenden, oder bei der Erfüllung der vertraglichen Anforderungen. Zu den vertraglichen Anforderungen gehören das geltende Recht, der Gerichtsstand sowie die Zweckbindung. Auch der Anbieter der Plattform darf die Daten ausschliesslich für die Zwecke verwenden, die durch die gesetzlichen Aufgaben des auftraggebenden öffentlichen Organs erlaubt sind.
Bei der Beratung weist die Datenschutzbeauftragte darauf hin, dass die Informationen von Online-KI-Generatoren nicht notwendigerweise richtig sind, da sie auf Wahrscheinlichkeitsrechnungen basieren. Die Richtigkeit der bearbeiteten Daten ist jedoch ein Grundsatz des Datenschutzes.
Zu den vertraglichen Anforderungen gehören das geltende Recht, der Gerichtsstand sowie die Zweckbindung.
Merkblatt zur Nutzung von Online-KI-Generatoren
Die Staatskanzlei hat für die kantonale Verwaltung ein Merkblatt zur Nutzung von Online-KI-Generatoren publiziert. Die Datenschutzbeauftragte lieferte Inputs. Das Merkblatt definiert, wie ein sehr reduzierter Einsatz von Online-KI-Generatoren für öffentliche Organe möglich ist.
Die Online-KI-Generatoren sind kein behördliches Arbeitsmittel. So dürfen keine behördlichen Personendaten und keine Informationen zum öffentlichen Organ in den Prompts verwendet werden. Diese und weitere Anforderungen schränken zwar die Verwendung von Online-KI-Generatoren stark ein, trotzdem können sie für zahlreiche Aufgaben verwendet werden. Sie können beispielsweise genutzt werden für Zusammenfassungen von öffentlich zugänglichen Informationen, Brainstormings zu allgemeinen Themen oder als Formulierungshilfe für allgemeine Texte.
Experimente zum erweiterten Einsatz von Online-KI-Generatoren
Bereits gibt es Experimente für einen weitergehenden Einsatz von Online-KI-Generatoren. Die Datenschutzbeauftragte beriet öffentliche Organe im Schulbereich, die eine anonymisierte Nutzung von Online-KI-Generatoren ermöglichen wollen. Ebenso haben sich Gemeinden bei der Datenschutzbeauftragten gemeldet. Sie wollen angepasste KI-Generatoren einsetzen, um ihre öffentlich verfügbaren Informationen personalisiert zugänglich zu machen.
Die Datenschutzbeauftragte als Partnerin beim KI-Einsatz
Die Datenschutzbeauftragte folgt den technologischen Entwicklungen und lässt Erkenntnisse sofort in ihre Beratung einfliessen. Sie ist eine Partnerin für die öffentlichen Organe bei der Digitalisierung und hilft beim datenschutzkonformen Einsatz von KI.