Fragen zur KI-Nutzung im Bereich Schule
Es werden keine Empfehlungen für KI Systeme ausgesprochen. Das Land NRW bietet Schulen jedoch einen kostenfreien Zugang zum KI-Chatbot AIS.chat an. Weitere Informationen erhalten Sie unter www.lernen-digital.nrw. Außerdem bietet auch die Kultusministerkonferenz der Länder (KMK) Handlungsempfehlungen zum Gebrauch von KI Systemen im Unterricht, diese finden Sie unter: https://www.kmk.org/fileadmin/veroeffentlichungen_beschluesse/2024/2024_10_10-Handlungsempfehlung-KI.pdf.
Der Gebrauch von KI Systemen in der Schule ist für verschiedene Bereiche denkbar, in welchen keinerlei personenbezogene Daten verarbeitet werden. Exemplarisch erscheinen hier die Unterrichtsvorbereitung, die Erstellung differenzierter Lernangebote sowie die eigene Weiterbildung, Recherchearbeit und Erkundung neuer Interessensgebiete als mögliche Einsatzzwecke geeignet. Angesichts der vielfältigen Möglichkeiten von KI ist allerdings immer zu berücksichtigen, dass nicht alles, was softwaretechnisch möglich ist, in Deutschland auch rechtlich zulässig ist.
Soweit der Einsatz von KI Auswirkungen auf einzelne Lernende haben kann (wie z.B. im Bereich der Lernüberprüfung und Leistungsbewertung) ist immer zu prüfen, ob dabei die rechtlichen Rahmenbedingungen eingehalten werden. Aus diesem Grund ist von der Nutzung personenbezogener Daten (wie z.B. Namen von Lernenden) im Rahmen von KI derzeit grundsätzlich abzusehen.
Hinweise zu weiteren Einsatzzwecken gibt der Handlungsleitfaden des Ministeriums für Schule und Bildung, diesen finden Sie unter:
https://www.schulministerium.nrw/system/files/media/document/file/handlungsleitfaden_ki_msb_nrw_230223.pdf.
KI Systeme können Lehrkräfte beispielsweise bei der inhaltlichen Recherche zu Lernthemen, der Erstellung von Unterrichtsmaterialien, der Unterrichtsvorbereitung und der Entwicklung von differenzierten Lernangeboten sowie bei Organisation und Kommunikation unterstützen. Dies setzt immer voraus, dass keine personenbezogenen Daten mit KI verarbeitet werden. Hinweise zu weiteren Einsatzzwecken gibt der Handlungsleitfaden des Ministeriums für Schule und Bildung, diesen finden Sie unter: https://www.schulministerium.nrw/system/files/media/document/file/handlungsleitfaden_ki_msb_nrw_230223.pdf.
KI kann aber auch falsche Ergebnisse liefern. Es ist daher in jedem Falle wichtig, dass KI stets nur ergänzend und vorbereitend eingesetzt wird und alle von KI Systemen gelieferten Arbeitsergebnisse von der Lehrkraft auf deren Richtigkeit überprüft werden.
Soweit Lernende über deren private Endgeräte KI-basierte Dienste nutzen, liegt die Zulässigkeit der Nutzung – wie die gesamte Online-Nutzung – grundsätzlich im Verantwortungsbereich der Lernenden bzw. der Erziehungsberechtigten. Dies gilt auch für einen Einsatz mit schulischem Bezug. KI darf in den Unterricht aber nicht dergestalt eingebunden werden, dass die Nutzung solcher Systeme über ein privates Account Voraussetzung für die Teilnahme am Unterricht ist bzw. von den Lehrkräften angeregt, empfohlen oder unterstützt wird.
Bei der Nutzung von Daten im Rahmen von KI Systemen – unabhängig davon, ob es sich dabei um dienstliche oder private Endgeräte handelt – ist zu berücksichtigen, dass es zum Teil unklar ist, in welchen Ländern die Daten von dem KI Anbieter verarbeitet werden, und zum anderen die Daten in der Regel auch zum weiteren Training der KI genutzt werden.
Personenbezogene Daten sollten daher im Rahmen von KI grundsätzlich weder auf dienstlichen noch zum dienstlichen Gebrauch genehmigten privaten Endgeräten verarbeitet werden. Wichtig ist es daher auch, sicherzustellen, dass auf dem Endgerät installierte Apps oder sonstige Software keinen Zugriff auf personenbezogene Daten haben (z.B. Adressbuch und Kontakte), die auf dem betreffenden Gerät gespeichert sind.
Es ist zu bedenken, dass KI Systeme eingegebene Daten nicht nur zur Bearbeitung einer konkreten Anfrage oder Aufgabe verarbeiten, sondern diese in der Regel auch nutzen, um die KI weiterzuentwickeln, also zu trainieren. KI Systeme unterscheiden dabei nicht, ob es sich um personenbezogene Daten handelt, die dem Datenschutzrecht unterfallen, oder um sonstige Daten. Mit Hilfe von KI verarbeitete Daten können daher unter Umständen nicht mehr vollständig gelöscht werden.
Der Einsatz von KI Systemen zur Verarbeitung von Daten in der Schule ist daher nur in Bereichen denkbar, in denen keine personenbezogenen Daten verarbeitet werden. Hierbei ist zu beachten, dass auch pseudonymisierte Daten personenbezogene Daten sein können und daher nicht verarbeitet werden dürfen. Von einer Pseudonymisierung ist immer dann auszugehen, wenn ein Personenbezug zwar auf den ersten Blick nicht vorliegt (z.B. Austausch des Namens gegen eine Schülernummer), es aber weiterhin realistische Möglichkeiten gibt, den Personenbezug wieder herzustellen. In diesem Falle bleiben die Vorgaben der DSGVO weiter anwendbar.
Zudem ist zu berücksichtigen, dass das KI System ggf. Zugriff auf zusätzliche Daten hat und damit eine Person auch dann identifizieren kann, wenn die vom Nutzer eingegebenen Daten an sich nicht personenbezogen sind.
Bereits die Durchführung der Anonymisierung stellt einen Verarbeitungsvorgang dar, für den sämtliche Vorgaben der DSGVO gelten (z.B. Vorliegen einer Rechtsgrundlage). Zudem erlangt die KI vor der Durchführung der Anonymisierung zwangsläufig Kenntnis von den personenbezogenen Daten. Da der Umfang der Verarbeitung persönlicher Daten durch KI Systeme nicht sicher vorhersehbar ist, ist der Einsatz von KI bei der Anonymisierung generell abzuraten. Der Einsatz von KI Systemen zur Datenverarbeitung in der Schule ist daher nur in Bereichen denkbar, in denen keine personenbezogenen Daten verarbeitet werden.
Soweit Daten keinen Personenbezug haben, unterfallen diese nicht der DSGVO.
Die Verarbeitung personenbezogener Daten ist hingegen nur zulässig, wenn sämtliche Anforderungen der DSGVO erfüllt sind. So muss insbesondere eine Rechtsgrundlage für die Verarbeitung gegeben sein (z.B. Einwilligung des Betroffenen, Erfüllung einer rechtlichen Verpflichtung oder Wahrnehmung einer Aufgabe, die im öffentlichen Interesse liegt oder in Ausübung öffentlicher Gewalt erfolgt). Die Verarbeitung muss für den verfolgten Zweck erforderlich sein und der Betroffene muss im Rahmen einer Datenschutzerklärung über die Verarbeitung informiert werden.
Da bei der Verarbeitung von Daten im Rahmen von KI Systemen zum Teil unklar ist, in welchen Ländern die Daten von dem KI Anbieter verarbeitet werden, und zum anderen die Daten in der Regel auch zum weiteren Training der KI genutzt werden, sollten personenbezogene Daten grundsätzlich nicht im Rahmen von KI System verarbeitet werden.
Die Kommunikation mit Erziehungsberechtigen kann auch unter Einsatz Künstlicher Intelligenz erfolgen, sofern es sich hierbei nur um generelle Informationen handelt, in welcher keinerlei personenbezogene Daten verarbeitet werden, beispielsweise zur Kommunikation beweglicher Ferientage oder von Veranstaltungsterminen der Schule.
Das Erstellen von Foto- und Videoaufnahmen, auf denen Personen erkennbar sind, sowie die Bearbeitung solcher Aufnahmen stellt eine Datenverarbeitung gemäß DSGVO dar und bedarf daher grundsätzlich der Einwilligung der betroffenen Personen und/oder der Erziehungsberechtigten. Gleiches gilt für die Bearbeitung solcher Aufnahmen mit Hilfe von KI. Bitte beachten Sie hierzu auch die Hinweise der Landesdatenschutzbeauftragten NRW, diese finden Sie unter:https://www.ldi.nrw.de/Bildaufnahmen-in-der-Schule.