TU digit | Das Wiki zu digitalen Kompetenzen und Medienproduktion an der TU Berlin

Diese Seite ist nicht editierbar. Sie können den Quelltext sehen, jedoch nicht verändern. Kontaktieren Sie den Administrator, wenn Sie glauben, dass hier ein Fehler vorliegt.
===== "Lebende" KI-Leitlinien =====

Generative KI bietet vielfältige Chancen für die Hochschullehre, gleichzeitig entstehen einige Herausforderungen, vor allem rechtlicher und ethischer Art.// 
**Wie wollen wir an der TU Berlin mit generativer KI umgehen?**// Die bisherigen Überlegungen sind im Folgenden dargestellt. 
<WRAP important>

Wir freuen uns über Rückmeldungen und Beiträge im [[https://isis.tu-berlin.de/course/view.php?id=37075|Forum]] oder per Mail an [[teamdigit@zewk.tu-berlin.de|teamdigit@zewk.tu-berlin.de]].

</WRAP>


==== Prüfungsrecht & erforderliche Maßnahmen ====
💬 //"Was sollte aus prüfungsrechtlicher Sicht beim Einsatz von generativer KI beachtet werden?"//

<wrap em>Chancengleichheit sicherstellen.</wrap> Trotz neuer technischer Möglichkeiten gelten weiterhin die Prinzipien der Fairness und Chancengleichheit. Beispielsweise darf die Nutzung eines (besseren) KI-Tools keinen wesentlichen Einfluss auf die Prüfungsleistung haben. Die Prüfung muss deshalb so konzipiert werden, dass für alle Studierenden **vergleichbare Prüfungsbedingungen** bestehen.

<wrap em>Eigenständigkeit gewährleisten.</wrap> Hochschulprüfungen sollen die Leistungen der Studierenden bewerten und nicht (versehentlich) die von der KI ausgegebenen Ergebnisse. In Hinblick auf die Lernziele müssen die Studierenden also eine **signifikante Eigenleistung** zeigen können. Wenn KI genutzt wird, liegt die Verantwortung für das Produkt nicht bei der KI, sondern bei den Nutzenden, z.B. den Studierenden oder Forschenden.  
Aktualisieren Sie Ihre Einverständniserklärung bzw. nutzen Sie die neue [[https://www.static.tu.berlin/fileadmin/www/10002461/Pruefungsamt/Formulare_Bescheide/Abschlussarbeit_Hinweise.pdf|Vorlage]] des Referat Prüfungen.

<wrap em>Transparenz herstellen.</wrap> Informieren Sie in der Lehrveranstaltung rechtzeitig, ob und zu welchen Zwecken, die Nutzung von KI als Hilfsmittel erlaubt ist. Machen Sie die Studierenden im Vorfeld mit den Tools vertraut. Erklären Sie den **Sinn von Regeln und Verboten** und weisen Sie auf mögliche Folgen bei Verstößen hin. Diese können von Punktabzug oder Nichtbestehen der Prüfung bis zur Exmatrikulation bei wiederholter Täuschung reichen.

<wrap em>Täuschungsversuche unterbinden.</wrap> Wenn Studierende KI-Ergebnisse unverändert übernehmen und diese weder kennzeichnen noch wesentlich weiter bearbeiten, kann dies analog zu Ghostwriting bzw. Unterstützung durch Dritte einen Täuschungsversuch über die Eigenständigkeit darstellen. Die **Konzeption der Prüfung** und der Rahmenbedingungen sollte u.a. darauf ausgerichtet sein, Täuschungsversuche unwahrscheinlich zu machen.

<wrap em>Prüfungen anpassen.</wrap> Aus dem Vorherigen ergibt sich, dass einige Prüfungen verändert werden müssen, um weiterhin sinnvoll und valide zu sein. **Mögliche Maßnahmen**: \\ 
Rahmenbedingungen: engere Betreuung, Kioskbrowser, Aufsicht\\ 
Prüfung: Aufgabenstellung ändern, Bewertungskriterien aktualisieren\\ 
Prüfungsform: größerer Anteil mündlicher Studien- und Prüfungsleistungen, beaufsichtigte Essays statt Hausarbeiten, Verteidigung bei Abschlussarbeiten 

Manches davon erfordert eine **Änderung der fachspezifischen StuPO**. Regen Sie diese bei Bedarf frühzeitig in Ihrem Referat Studium und Lehre bzw. im Fakultätsrat an.


==== Datenschutz & Urheberrecht ====
💬 //"Was sollte aus datenschutzrechtlicher Sicht beim Einsatz von generativer KI beachtet werden?"//

<wrap em>Regeln beachten.</wrap> Zeitgemäße Lehre, Forschung und Verwaltung sollte das Thema KI nicht aussparen. Jedoch dürfen personenbezogene Daten nur in generative KI-Tools eingegeben werden, wenn die Softwarebetreiber diese Daten **weder Dritten zugänglich machen noch als Trainingsdaten nutzen**.
Über den Datenschutz hinaus ist auch die Eingabe vertraulicher Informationen, sensibler Forschungsdaten oder interner Dokumente nicht zulässig.
 
<wrap em>Tools auswählen und konfigurieren.</wrap> Datensparsame KI-Tools sollten bevorzugt werden. Manche Tools können so eingestellt werden, dass die **Chatverläufe** nicht als Trainingsdaten weiterverwendet werden. Dies ist oft mit nur einem Klick möglich, vgl. die [[https://blogs.tu-berlin.de/datenschutz_notizen/2023/09/29/datenschutzaspekte-bei-chatgpt/|Empfehlungen zu ChatGPT]] vom Datenschutz-Team. Vor der verpflichtenden Einführung in der Lehre müssen die Tools datenschutzrechtlich geprüft werden.

💬 //"Was sollte aus urheberrechtlicher Sicht beim Einsatz von KI beachtet werden?"//

<wrap em>KI ist kein Urheber.</wrap> Nach aktueller Rechtslage können generative KI-Tools nicht Urheber sein, denn „Urheber ist der Schöpfer des Werkes“ und muss somit eine natürliche Person sein (§ 7 Urhg). Demnach wäre also der **KI-Output urheberrechtlich nicht geschützt**.  

<wrap em>Abstand zum Werk.</wrap> Jedoch könnten die **ursprünglichen Trainingsdaten geschützt** sein. Eine Eins-zu-Eins-Ausgabe ist aufgrund der Funktionsweise von generativer KI meist unwahrscheinlich. Es gibt jedoch Tools, bei denen bspw. durch den Zugriff auf das Internet Ergebnisse ausgegeben werden, die "einen hinreichenden Abstand zum benutzten Werk" (§ 32 Abs. 1 UrhG) vermissen lassen. Die Nutzung dieses Outputs könnte eine Urheberrechtsverletzung darstellen und wäre zu vermeiden.

<wrap em>Urheberrechte beachten.</wrap> Für die Nutzer*innen ist es meist nicht möglich, die von der KI ggf. unrechtmäßig übernommenen Inhalte und deren Urheber*innen zu identifizieren. Dennoch können die Urheber*innen die Löschung verlangen, wenn KI-Ergebnisse mit ihren Inhalten öffentlich zugänglich gemacht werden. Sie hätten bei Vorsatz oder Fahrlässigkeit ggf. sogar Anspruch auf Schadenersatz. Bei der Eingabe von Inhalten sollten Sie daher **keine urheberrechtlich geschützten Inhalte verwenden** (z.B. Texte, Bilder, Videos etc.), um die Rechte der Urheber*innen nicht zu verletzen.
\\
==== Wissenschaftliche Arbeiten ====

💬 //"Können die Ergebnisse von KI-Tools in wissenschaftlichen Arbeiten zitiert werden?"//
 
<wrap em>Zitation.</wrap> KI-Tools generieren ihre Ergebnisse auf Basis einer sehr großen Anzahl von Trainingsdaten nach einer bestimmten statistischen Logik. Dieser Output kann inhaltlich falsch „zusammengewürfelt“ sein und bspw. fiktive ("halluzinierte") Literaturverweise oder fehlerhafte Grafiken enthalten. Die Informationsquellen sind für die Rezipienten oft nicht nachvollziehbar und **nicht verifizierbar**, da der gleiche Prompt in der Regel nicht wieder zum gleichen Ergebnis führt. KI-Systeme sind analog zu Wikipedia & Co. zudem keine geeigneten wissenschaftlichen Quellen. Daher ist das Zitieren von KI-Ergebnissen in wissenschaftlichen Arbeiten in den meisten Fällen nicht sinnvoll und zudem forschungsethisch problematisch. 

<wrap em>Kennzeichnung.</wrap> Wenn jedoch KI-Ergebnisse übernommen werden sollen, müssen diese **inhaltlich geprüft, überarbeitet und gekennzeichnet** werden. Nur so kann im Sinne guter wissenschaftlicher Praxis und auch prüfungsrechtlich unterschieden werden, welche Teile eigenständig und welche durch eine generative KI erstellt worden sind. Bei unveränderten Übernahmen könnte per permanent link auf den spezifischen KI-Output verwiesen werden (wenn vorhanden). Im Methodenteil o.ä. sollten die genutzten KI-Tools und deren Einsatzzwecke aufgeführt werden, z.B. Nutzung von Llama für das Ausformulieren von Stichpunkten in der Einleitung.\\ 
**KI-Nutzungen ohne Relevanz** (kein Lernziel bzw. epistemisch irrelevant) müssen meistens nicht angegeben werden ("beispielsweise Grammatik-, Stil-, Rechtschreibprüfung, Übersetzungsprogramme" - vgl. DFG: [[https://www.dfg.de/de/formulare-4-04-387672|Leitlinie zur Nutzung von Künstlicher Intelligenz in der Begutachtung]])


<wrap em>Zitierempfehlung.</wrap> 
Hier zwei Varianten zum Zitieren von KI-Systemen, erstellt im [[https://apastyle.apa.org/blog/cite-generative-ai-references|APA Style]] (generelle Zitation vs. Verweis auf Chat-URL):\\

OpenAI. (2029). //ChatGPT// [Large language model]. https://chatgpt.com\\ 

Google. (2025, 22. Mai). //Chat-Titel// [Generative AI chat]. Gemini 3 Flash. https://g.co/gemini/share/1234567891011\\

Weitere Empfehlungen siehe Informationen und [[https://www.tu.berlin/wm/bibliothek/lernen-arbeiten/kuenstliche-intelligenz-tools-und-wissenschaftliches-arbeiten|Leitfaden der DBWM]] zum "Einsatz von künstlichen Intelligenzen in Abschlussarbeiten"


==== Konzeption & Didaktik ====

💬 //"Was sollte aus didaktischer Sicht beachtet werden?"//

<wrap em>Lernziele neu definieren.</wrap> Der Einsatz von KI in Lehre und Prüfungen ist nur sinnvoll, wenn die angestrebten Lernziele trotz KI-Nutzung erreicht und eigenständige Leistungen der Studierenden geprüft werden können bzw. wenn der Einsatz von KI Inhalt der Prüfung ist. Welche Kompetenzen sowohl wegen aber auch trotz der Verfügbarkeit von KI-Tools vermittelt werden sollen, sollte **für das jeweilige Fach** diskutiert und definiert werden. Passen Sie basierend darauf Prüfungen bzw. Curricula entsprechend an, um "[[https://hochschulforumdigitalisierung.de/news/diskussionspapier-deskilling-durch-kuenstliche-intelligenz/|Deskilling]]" zu vermeiden.

<wrap em>Kompetenzorientierte Prüfungsfragen.</wrap> Vor allem für unbeaufsichtigte schriftliche Prüfungs- und Studienleistungen stellt sich die Frage, wie diese Formate noch sinnvoll genutzt werden können - wahrscheinlich nur mit KI.
Allenfalls funktionieren noch kompetenzorientierte Aufgaben, die kritisches Denken, Meinungen oder Reflexionen **in Bezug zur Lehrveranstaltung** erfordern. Auch ein Wechsel von einer großen summativen Distanzprüfung am Semesterende (z.B. Hausarbeit) zu mehreren semesterbegleitenden Leistungsnachweisen könnte hilfreich sein, allerdings nehmen die Fähigkeiten der KI-Tools stetig zu. Probieren Sie daher vorher aus, ob die KI Ihre Prüfungsfragen lösen kann. 

<wrap em>Aufklärung leisten.</wrap> Soweit möglich, **sensibilisieren** Sie die Studierenden für die Risiken von KI-Tools. Fördern Sie einen **kritischen und reflektierten Umgang** mit generativen KI-Tools, vor allem hinsichtlich „halluzinierter“ Quellenangaben, inhaltlichen Fehlern, Bias/Vorurteilen etc. 

Schauen Sie sich dazu gern auch unsere Tipps [[konzept:schritte_ki_lehre|"In 8 Schritten Lehren mit KI"]] an.

💬 //"Eignet sich generative KI zur Formulierung von Prüfungsaufgaben?"//

Bei der **Erstellung von Prüfungs- oder Übungsaufgaben** können KI-Tools hilfreich sein. Der Output muss jedoch hinsichtlich der inhaltlichen Richtigkeit und der Passung zu den Lernzielen kritisch überprüft und angepasst werden. 

💬 //"Eignet sich generative KI zur Bewertung von studentischen Leistungen?"//

<wrap em>Keine automatisierte Bewertung.</wrap> Eine vollständig automatisierte Bewertung von Studien- oder Prüfungsleistungen ist nicht zulässig (basierend auf Art. 22 DSGVO). Das heißt, der Output darf nicht eins zu eins übernommen werden, sondern digitale Tools wie KI dürfen **nur als Hilfsmittel** dienen. Zum Beispiel könnte KI zum Ausformulieren von Stichpunkten für ein Feedback genutzt werden.

==== Welche KI-Tools gibt es? ====

Eine KI-Nutzung ohne Anmeldung bei kommerziellen Angeboten wie ChatGPT, Gemini oder Copilot bietet die [[https://academiccloud.de/de/services/chatai/|Chat AI]] der Academic Cloud, auf die kostenlos und datensparsam mit TU-Account per [[https://www.unidigital.news/academic-cloud-hochschulmitarbeiter-koennen-mit-ihrem-login-kostenlos-open-source-modelle-nutzen/|föderierter Anmeldung]] zugegriffen werden kann. 

Wir haben darüber hinaus eine Übersicht über weitere Tools und [[ki:einsatz|Einsatzmöglichkeiten]] zusammengestellt. 


==== Links & weiterführende Ressourcen ====
=== 🏫 Statements aus der TU Berlin ===
  * [[https://www.tu.berlin/nachrichtendetails/ki-gestuetzte-werkzeuge-werden-das-akademische-schreiben-veraendern|Christian Schröder (Vizepräsident für Studium und Lehre) im Interview]] über den Umgang mit KI-gestützten Werkzeugen im akademischen Schreiben
  * [[https://www.tu.berlin/personalrat/nachrichtendetails/was-ist-chatgpt-und-warum-ist-das-fuer-den-personalrat-und-fuer-sie-von-interesse|Perspektive des Personalrats auf ChatGPT - Chancen und Risiken]] Bewertung von ChatGPT aus der Sicht des Personalrats mit Fokus auf potentielle Herausforderungen

=== 📚 Kurse & Materialien ===
  * [[https://programm.zewk.tu-berlin.de/s/KI-TUB|Unsere Kursreihe KI@TUB]] - Kurse an der ZEWK zu Künstlicher Intelligenz in Lehre und Forschung an der TU Berlin
  * [[https://www.tu.berlin/bzhl/ressourcen-fuer-ihre-lehre/ressourcen-nach-themenbereichen/ki-in-der-hochschullehre|KI-Kurse & Materialien des BZHL]] Umfassende Sammlung von Materialien und Gedanken vom Berliner Zentrum für Hochschullehre (BZHL) zum Einsatz von KI in Lehre und Wissenschaft
  * [[https://ki-campus.org/videos/chatgpt-erklaert|Videoreihe des KI-Campus: „ChatGPT – kurz erklärt“]] Sammlung von kurzen und knackigen Videos, die grundlegende Konzepte und Anwendungen von ChatGPT vermitteln
  *[[https://www.tu.berlin/wm/bibliothek/lernen-arbeiten/kuenstliche-intelligenz-tools-und-wissenschaftliches-arbeiten| Einsatz von künstlichen Intelligenzen in Abschlussarbeiten]] Handreichung der DBWM (Die Bibliothek Wirtschaft & Management) der Fak VII der TU Berlin 
  *[[https://www.berlin-universities-publishing.de/aktuelles/2024-05-02_ki-leitlinie.html|Zitation von KI-Tools]] Leitlinien und Handreichung der Berlin Universities Publishing

=== 📘 Weitere Ressourcen ===
  * [[https://github.com/dunkelmunkel/scientific-work/blob/main/rulesfortools/rulesfortools.pdf|Spannagel, C. (2023). Rules for Tools]] Kurze Zusammenfassung (1 Seite jeweils Deutsch/Englisch) zu Regeln und Richtlinien für den Einsatz von KI-Werkzeugen für Lehrende und Studierende 
  * [[https://hochschulforumdigitalisierung.de/news/diskussionspapier-deskilling-durch-kuenstliche-intelligenz/|Reinmann, G. (2023). Diskussionspapier: Deskilling durch Künstliche Intelligenz?]] Eine kritische Auseinandersetzung mit den Auswirkungen von KI auf die Kompetenzentwicklung (insbes. Abschnitte 4, 5 und 6).
  * [[https://www.dfg.de/de/aktuelles/neuigkeiten-themen/info-wissenschaft/2023/info-wissenschaft-23-72|Leitlinien der DFG (Deutschen Forschungsgemeinschaft)]] für den Umgang mit generativen Modellen für die Text- und Bilderstellung bei der Antragserstellung
  * [[https://portal.kobv.de/uid.do?query=b3kat_BV047604800&index=internal&plv=2|Standardwerk zum Prüfungsrecht]]: Fischer, E., Jeremias, C. & Dieterich, P. (2022): Prüfungsrecht (8. Aufl.): NJW Praxis, Band 27/2. Beck
=== 🦸‍♀️ Beratung ===
  * Buchen Sie einen [[https://programm.zewk.tu-berlin.de/e/IMPULS-KI-LEHRE|Beratungstermin für einen Impulsworkshop zu "KI in der Lehre"]] für Ihr Fachgebiet/Institut!
  * [[https://www.tu.berlin/zewk/arbeitsbereiche/wissenschaftliche-weiterbildung/medienproduktion#c869314|Individuelle Beratung durch das Team digit der ZEWK]] Sprechen Sie uns gern an!

<WRAP info 100%>
Falls Sie Fragen oder Kommentare zu den KI-Richtlinien haben, kontaktieren Sie gerne das Team digit unter [[teamdigit@zewk.tu-berlin.de|teamdigit@zewk.tu-berlin.de]]
</WRAP>