Darf ich ein KI-Bild veröffentlichen? Wer haftet bei KI-Hausaufgaben? Was muss ich beim Datenschutz beachten? Die Antworten aus dem Vortrag von Rechtsanwältin Antonia Dufeu und der Handreichung des Landes, kurz und sortiert.
Wichtig: Das ist eine Zusammenfassung der Vortragsfolien (Oktober 2024) und der Handreichung des Landes, keine Rechtsberatung. Die Rechtslage rund um KI entwickelt sich schnell. Im Zweifel fragt die Schulleitung oder die Datenschutzbeauftragte.
Urheberrecht
Wem gehört ein KI-generiertes Bild?
Niemandem, es ist gemeinfrei. Urheber kann nur eine Person sein, die eine persönliche geistige Schöpfung erbringt (§§ 2, 7 UrhG). Die Person, die den Prompt eingibt, erreicht dafür keine Schöpfungshöhe, die KI ist keine Person, und auch die Entwickler der KI sind am einzelnen Bild nicht Schöpfer.
Darf ich es veröffentlichen, auch auf der Schulhomepage oder in sozialen Medien?
Gemeinfreie Bilder darf grundsätzlich jede:r verwenden. Beachten muss man aber die Nutzungsbedingungen (AGB) des KI-Anbieters: Verbietet er eine Veröffentlichung, ist sie nicht erlaubt. Bei vielen Anbietern gelten außerdem Regeln wie „keine Hassreden, keine illegalen oder schädigenden Inhalte“.
Wann entsteht doch ein Urheberrecht?
Wenn eine Person etwas Individuelles, Schöpferisches schafft. Das kann etwa die Zusammenstellung oder Konzeption mehrerer KI-Bilder sein (Gesamtwerk) oder eine so starke Bearbeitung, dass das KI-Werk kaum noch zu erkennen ist (§ 23 UrhG).
Kann die KI fremde Werke verletzen?
Möglich bei sogenannten Doppelschöpfungen, wenn etwa ein bekanntes Motiv eines lebenden Künstlers fast identisch nachgebildet wird. Ein bloßer Malstil ist nicht geschützt. Für diese Fälle gibt es laut Vortrag noch kaum Gesetze oder Rechtsprechung.
Hausaufgaben, Leistungen und Kennzeichnung
Ein Schüler gibt einen KI-Aufsatz als Hausaufgabe ab. Was gilt?
Urheberrechtlich ist nichts verletzt (gemeinfrei), aber es kann ein Täuschungsversuch vorliegen. Das Land schreibt dazu: Eine eigenständige Leistung liegt vor, wenn die KI nur als Hilfsmittel oder Impuls dient (wie ein Lexikon). Wird der KI-Text ohne überwiegend eigenen Beitrag übernommen, ist es keine eigenständige Leistung. Die bloße Eingabe eines Arbeitsbefehls genügt nicht.
Wie können Lehrkräfte damit umgehen?
- Mündliche Überprüfung der Hausaufgabe: Oberflächliches Wissen ist ein Indiz
- Keine reinen Copy-Paste-Aufgaben stellen
- Klare Regeln aufstellen: Grundsatz „keine KI für Hausaufgaben“, Ausnahmen (z. B. pädagogische Nutzung) festlegen
- Mögliche Folgen bei Verstößen laut Vortrag: Herabstufung der Note, Hausaufgabe nachholen, Gespräch mit den Eltern, bei schweren Fällen schriftlicher Verweis oder Ausschluss vom Unterricht
Dazu passt auch: Es gibt keine rechtssicheren KI-Detektoren, die Nutzung ist rechtssicher kaum nachweisbar (siehe Prüfen & Aufgaben).
Wie kennzeichnen Lernende KI-Inhalte?
Als Quelle angeben, zum Beispiel „OpenAI’s ChatGPT, 2024“ oder „Copilot; Prompt: …“, oder nach einem eigenen Zitierstil (z. B. APA). Das Land schlägt diese Formulierung vor: „Bei der Erstellung dieses Textes wurde (Name des KI-Tools) eingesetzt. Folgende Prompts wurden gestellt: 1. … 2. …“ So kann die Lehrkraft den Anteil der KI beurteilen.
Darf eine KI Schülerleistungen bewerten?
Nein. Die Bewertung muss eine persönliche Eigenleistung der Lehrkraft sein (§ 16 Abs. 2 SchulG, Handreichung des Landes). Auch nach der EU-KI-Verordnung gilt die KI-gestützte Analyse von Schülerleistungen als Hochrisiko-Anwendung mit strengen Anforderungen; die finale Entscheidung muss bei der Lehrkraft bleiben.
Datenschutz und KI-Verordnung
Welche Grundsätze gelten im Unterricht?
- Keine personenbezogenen Daten von Schüler:innen in KI-Systeme eingeben
- Keine Pflicht zur Nutzung für Lernende und Lehrkräfte, keine Nachteile bei Nichtnutzung
- Keine personalisierten Anmeldungen bei frei verfügbaren KI-Anwendungen
- Verantwortlich ist die Schulleitung (mit dem Datenschutzbeauftragten), aber jede Lehrkraft muss in ihrem Bereich den Schutz der Daten gewährleisten
Darf ich mich bei ChatGPT & Co. anmelden?
Die Handreichung des Landes: Bei ChatGPT sind E-Mail-Adresse und Mobilnummer nötig, damit werden personenbezogene Daten beim Anbieter verarbeitet. Individuelle Konten für Schüler:innen sind deshalb (noch) nicht möglich. Zu Demonstrationszwecken können sich Lehrkräfte freiwillig mit der dienstlichen Adresse oder einer Funktionsadresse anmelden. Anbieter wie fobizz lösen das Problem für Schulen.
Was regelt die EU-KI-Verordnung (seit 1. August 2024)?
- KI-Systeme wie Chatbots müssen als KI erkennbar sein („Ich bin ein KI-basiertes System, das dir bei deinen Aufgaben hilft“)
- Hochrisiko-Anwendungen (z. B. Leistungsanalyse) müssen strenge Anforderungen erfüllen
- Lehrkräfte sollen im technischen, rechtlichen und ethischen Umgang mit dem System geschult sein (Art. 4)
- Zusätzlich gilt die DS-GVO: Rechtsgrundlage oder Einwilligung, Transparenz, Auskunft, Löschung, Widerspruch
Leitfaden für den Umgang mit KI-Systemen in der Schule
Die Referentin empfiehlt, daraus eine Nutzungsordnung zu entwerfen und sie mit den Jugendlichen zu besprechen:
Bewusst und sicher nutzen
- Bewusstsein: KI als solche kennen, Fehler einkalkulieren
- Datenschutz: keine persönlichen Daten, eigener pseudonymisierter Zugang, nach der Sitzung abmelden
- Verantwortungsvoll nur für Lernzwecke
- Transparenz: wichtige Interaktionen dokumentieren, Nutzung bei Hausaufgaben offenlegen
- Kritisches Denken: Antworten hinterfragen, KI als Unterstützung, nicht als Ersatz
- Fairness: Verzerrungen beachten, keine unfairen Vorteile
Rahmen und Austausch
- Urheberrecht: KI-Inhalte kennzeichnen
- Feedback: Rückmeldungen zur KI-Nutzung an Lehrkräfte geben
- Grenzen der Schule respektieren, keine KI in Prüfungen ohne Erlaubnis
- Kontinuierlich lernen: Information über Neuerungen, Schulungen
- Menschliche Interaktion: KI ergänzt den Austausch, ersetzt ihn nicht
Die Materialien
KI im Unterricht: Was muss ich aus rechtlicher Sicht beachten?
Ein Vortrag voller Fallbeispiele („Schulleiter Busch lässt ein Bild generieren …“) mit jeweils einer Lösung. Er führt von Urheberrecht über Hausaufgaben bis zu Datenschutz und KI-Verordnung.
- Fälle zu KI-Bildern, Bearbeitungen, Veröffentlichung, Doppelschöpfungen
- Hausaufgaben, Sanktionen, Kennzeichnung von KI-Inhalten
- Datenschutz, DS-GVO und KI-Verordnung mit Fällen (Lernplattform, Chatbot, Lernassistent)
- Leitfaden mit 11 Punkten und Empfehlung einer Nutzungsordnung
👁 Direkt hier lesen
Außerdem lesenswert: die Handreichung „KI@Schule“ des Landes mit dem Kapitel zu Datenschutz- und schulrechtlichen Aspekten.
Die Zusammenfassungen fassen die verlinkten Dokumente sinngemäß zusammen; maßgeblich sind die Originale. Prozessverantwortlich: Dennis Clausen, dennis.clausen@bbz-rd-eck.de