Einsatz von KI in Schulen
Schülerinnen und Schüler können mit KI-Generatoren den Umgang mit Künstlicher Intelligenz als Unterrichtsmittel erlernen. Lehrpersonen oder weitere Angestellte können diese Technologie bei der Ausübung ihres Berufs als Arbeitsmittel nutzen. Bei der Nutzung von KI-Generatoren werden regelmässig Personendaten bearbeitet. Personendaten bleiben schützenswert, auch wenn sie öffentlich zugänglich und etwa auf Websites veröffentlicht sind.
Bei den Anfragen aus dem Bildungsbereich zu Microsoft-Produkten stand der Umgang mit künstlicher Intelligenz im Fokus. Die Datenschutzbeauftragte hat zum Gebrauch von sogenannten Power Apps beraten, die Microsoft Copilot benutzen. Diese KI-Generatoren ermöglichen umfangreiche Recherchen und Abklärungen. Zudem können sie grammatikalisch korrekte sowie stilsichere Zusammenfassungen formulieren. Dafür werden einfache Fragen als Texte eingegeben, wonach wissenschaftliche Ausgabetexte oder Grafiken generiert werden.
Die Nutzung von KI-Generatoren durch Schülerinnen und Schüler muss separat von der Nutzung durch Lehrpersonen und andere Mitarbeitende von Schulen beurteilt werden. Im Bereich der gesetzlichen Grundlage und der Informationsverwaltung ergeben sich Unterschiede.
Dazu kommt, dass in Schulen Personendaten bearbeitet werden, die Kinder betreffen. Schon die Verwendung eines KI-Generators zur Erstellung von Texten durch eine Schülerin oder einen Schüler ist ein Personendatum – meistens bereits aufgrund der Verknüpfung mit den Nutzerdaten. Es können aber auch Personendaten in den Texten selbst vorhanden sein, die dann mit dem KI-Generator bearbeitet werden.
Aus der Art und der Häufigkeit der Nutzung sowie den abgefragten Inhalten kann ein Persönlichkeitsprofil eines Schulkindes entstehen.
Schulen können KI-Generatoren zur Bearbeitung von Personendaten verwenden, wenn dafür eine rechtliche Grundlage vorliegt. Der Bildungsauftrag kann die Verwendung des KI-Generators als Unterrichtsmittel rechtfertigen. Die Schule bleibt in jedem Fall verantwortlich für die Datenbearbeitung. Aus Transparenzgründen sind die Erziehungsberechtigten über den Einsatz von KI-Generatoren und die damit verbundenen Datenbearbeitungen zu informieren.
Biometrische Daten und Persönlichkeitsprofile der Kinder
Gewisse KI-Tools beruhen auf der technischen Analyse von Handschriften oder Stimmerkennungen. Dies sind biometrische Daten und damit besondere Personendaten. Aus der Art und der Häufigkeit der Nutzung sowie den abgefragten Inhalten kann ein Persönlichkeitsprofil eines Schulkindes entstehen. Auch Persönlichkeitsprofile sind besondere Personendaten. Die Bearbeitung besonderer Personendaten bedeutet eine hohe Gefährdung für die Grundrechte der betroffenen Person. Deshalb sind höhere Schutzvorkehrungen notwendig.
Die Verwendung eines KI-Generators stellt eine neue Datenbearbeitung unter Verwendung neuer Technologien dar. Die Datenschutzbeauftragte wies auf die Pflicht der Schulen hin, vor dem Einsatz von neuen Technologien Datenschutz-Folgenabschätzungen zu erstellen. Darin sollen die Risiken der Datenbearbeitungen bestimmt und technische sowie organisatorische Massnahmen zur Minderung der Gefahren definiert werden. Aufgrund des Schulumfelds kann eine Vielzahl von Personen betroffen sein. Solche Projekte müssen der Datenschutzbeauftragten zur Vorabkontrolle vorgelegt werden.
Idealerweise können Schulen die bearbeiteten Personendaten anonymisieren, bevor Anbieterinnen und Anbieter von KI-Dienstleistungen sie einsehen und für eigene Zwecke nutzen können.