# data[].attributes.attachment_link.authors[].name
»school is open« 4.0, Kölnischen Gesellschaft für Christlich-Jüdische Zusammenarbeit, Laura Franke, Silke Bettina Kargl

# data[].attributes.attachment_link.description
Diese Kategorie bündelt Lernmodule zu Grundlagen der Digitalisierung und Förderung digitalisierungsbezogener Kompetenzen. Die Kategorie kann Sammlungen von zusammenhängenden Lernmodulen oder einzelne Lernmodule enthalten.

# data[].attributes.headline
Umgang der Universität zu Köln mit ChatGPT

# data[].attributes.subject
Umgang der Universität zu Köln mit ChatGPT

# data[].attributes.body
Erklärt gut den im Moment gängigen Prozess

# data[].attributes.attachment_link.readable_text
Grundvoraussetzung einer zutreffenden Leistungsbewertung ist, dass ein Prüfling die Prüfungsleistung persönlich ohne fremde Hilfe erbringt (Niehues/Fischer/Jeremias, Prüfungsrecht 2018, Rn. 223). Werden die gesamte Prüfung oder bedeutende Teile davon vollständig mittels KI generiert, handelt es sich nicht um eine selbstständige Leistung (ähnlich wie beim Ghostwriting durch eine andere Person) und ist somit verboten. Es liegt eine Täuschung vor. Es handelt sich zwar nicht um ein Plagiat, da der Text nicht von einer Person, sondern von einer Software erstellt wurde, jedoch wird über die Selbstständigkeit der Leistungserbringung getäuscht.

Wird KI hingegen so genutzt, dass noch eine eigene Leistung erbracht wird, spricht prüfungsrechtlich nichts gegen eine Nutzung von KI in Prüfungen. Hier sind zahlreiche erlaubte Einsatzmöglichkeiten denkbar:

als bessere Suchmaschine z. B. zur Fachliteraturrecherche,

als Ausgangsideengeber für die Themenfindung, die Einleitung etc., solange daraus ein eigener Text entwickelt wird,

zur Verbesserung der eigenen Formulierungen (ähnlich wie eine Rechtschreibprüfung oder Synonymvorschläge),

als Übersetzungshilfe für das eigene Verständnis.

Möglich ist es jedoch auch die Verwendung von KI als unzulässiges Hilfsmittel in einer bestimmten Prüfung zu verbieten. Unabhängig davon, ob noch eine selbstständige Leistung vorliegt, wäre in diesem Fall die Verwendung von KI eine Täuschungshandlung. Ein Verbot ist aber nur zielführend, wenn die unberechtigte Verwendung der KI auch nachgewiesen und geahndet werden kann (vgl. dazu unter 2.).

1.1 Verwendung in Klausuren

In Präsenzklausuren sind technische Hilfsmittel wie Smartphones oder -watches typischerweise verboten. Dies muss vor Prüfungsbeginn entsprechend mitgeteilt werden. Ist dies der Fall, ist damit auch die Verwendung der darüber genutzten Software verboten. Bereits die Mitführung eines mobilen Endgerätes stellt eine Täuschungshandlung dar (OVG NRW, Beschluss vom 16.02.2021, Az.: 6 B 1868/20). Es bedarf darüber hinaus keines expliziten Verbots von ChatGPT oder anderen KI-Anwendungen.

Etwas Anderes würde nur für Open-book-Klausuren (in Präsenz oder online-basiert) gelten, sofern alle Hilfsmittel generell zugelassen wurden. Hier wäre die Nutzung einer KI zulässig, sofern noch eine eigenständige Leistung erbracht wird.

1.2 Verwendung in Haus- und Abschlussarbeiten, Take-Home-Exams, Paper etc.

In Haus- und Abschlussarbeiten ist die Nutzung nach den oben ausgeführten Grundsätzen ebenfalls grundsätzlich möglich, solange noch eine eigenständige Leistung erbracht wird. Ebenfalls erlaubt ist die Nutzung als Quelle sofern diese offengelegt wird. Je nach Einsatz der KI kann durch die Prüfenden verlangt werden, dass nicht nur die Verwendung, sondern auch die zugehörigen Abfragebefehle (Prompts) offengelegt werden. Eine mögliche Quellenangabe könnte z. B. lauten: „OpenAIs ChatGPT Sprachmodell, Antwort auf die Frage ..., abgerufen am 14.06.2023."

1.3 Regelungsnotwendigkeit in Prüfungsordnungen

Das Erfordernis der selbstständigen Leistungserbringung ist ein Grundprinzip des Prüfungsrechts und auch bereits durch die bestehende Regelung in den Prüfungsordnungen abgedeckt (vgl. § 24 der Muster-Prüfungsordnung für die Bachelor- und Masterstudiengänge der Universität zu Köln). Die Prüfungsordnungen schreiben zudem vor, dass bei Haus- und Abschlussarbeiten eine Eigenständigkeitserklärung abzugeben ist mit folgendem Wortlaut: „Hiermit versichere ich, dass ich die vorliegende Arbeit selbstständig und ohne die Benutzung anderer als der angegebenen Hilfsmittel angefertigt habe. Alle Stellen, die wörtlich oder sinngemäß aus veröffentlichten und nicht veröffentlichten fremden Schriften entnommen wurden, sind als solche kenntlich gemacht. "

Eine Anpassung der Prüfungs- und Promotionsordnungen oder der Eigenständigkeitserklärung ist folglich nicht erforderlich, um das Verbot der Verwendung von KI zu regeln. Als Hinweis- und Warnfunktion könnte aber beispielsweise in die Eigenständigkeitserklärung ein klarstellender Zusatz aufgenommen werden:

„...dass ich die vorliegende Arbeit selbstständig, insbesondere auch nicht mittels einer KI-Software, und ohne die Benutzung anderer als der angegebenen Hilfsmittel angefertigt habe."

2. Nachweis von Täuschungen

Wie bei allen anderen Täuschungen auch, ist für die Sanktionierung im Falle der unzulässigen Verwendung einer KI in einer Prüfung der jeweilige Prüfungsausschuss zuständig. Lehrende müssen also ihren Verdacht auf das Vorliegen einer Täuschung mit der entsprechenden Begründung dort melden. Es ist nicht zulässig, dass Lehrende im Falle des Verdachts auf das Vorliegen einer Täuschung die in der Prüfungsordnung festgelegte Prüfungsform etwa in eine (ergänzende) mündliche Prüfung ändern.

Melden Lehrende einen Verdacht auf das Vorliegen einer Täuschung an den Prüfungsausschuss, muss der Prüfungsausschuss die Täuschung nachweisen.

Aktuell gibt es jedoch keine verlässliche Methode KI-generierte Texte nachzuweisen. Zwar existieren Software-Anwendungen mit denen sich Texte dahingehend überprüfen lassen, ob sie von Menschen oder von einer KI geschrieben wurden (insbesondere AI Text Classifier oder ChatGPT Zero). Diese stellen aber keinen ausreichenden Beleg für eine Täuschungshandlung dar.

Für den Nachweis einer Täuschungshandlung müssen daher weitere Umstände hinzukommen, die für eine Verwendung von KI sprechen.

Bei Täuschungshandlungen kann dabei der sogenannte Anscheinsbeweis geführt werden (VG München, Urteil vom 25.02.2021, Az.: M 3 K 20.4723). Für die Anwendung des Beweises des ersten Anscheins muss zum einen die nachzuweisende Tatsache auf einen typischen Sachverhalt gestützt werden können, der aufgrund allgemeinen Erfahrungswissens zu dem Schluss berechtigt, dass die Tatsache vorliegt. Zum anderen dürfen keine tatsächlichen Umstände gegeben sein, die ein atypisches Geschehen im Einzelfall ernsthaft möglich erscheinen lassen (BVerwG, Beschluss vom 23.01.2018, Az.: 6 B 67/17). Spricht ein Anscheinsbeweis für einen Täuschungsversuch, muss die*der Prüfungskandidat*in nicht das Gegenteil beweisen, aber den Anscheinsbeweis entkräften. Dazu genügt nicht schon der Hinweis auf einen möglichen anderen, typischen Geschehensablauf. Vielmehr muss sie*er auch dartun, dass dieser andere Geschehensablauf ernsthaft in Betracht kommt (OVG NRW, Beschluss vom 11.10.2011, Az.: 14 A 2726/09).

Da es sich bei KI um eine relativ neue Technologie handelt, fehlen hier jedoch noch typische Sachverhalte oder auch Rechtsprechung zu der Thematik.

Denkbar wäre als typischer Sachverhalt, der grundsätzlich für eine Täuschungshandlung spricht z. B., dass in der Prüfung erfundene Quellen verwendet wurden. Dies ist ein typisches Phänomen des sogenannten Halluzinierens von ChatGPT, wohingegen dies bei Täuschungen durch Menschen eher nicht vorkommt, da die Verwendung erfundener Quellen sehr leicht überprüfbar ist.

Letztlich wird in der Praxis der Nachweis, dass eine Prüfung oder Teile davon durch eine KI erstellt wurden, nach dem aktuellen Stand der Technik kaum gelingen.

Besteht jedoch ein begründeter Verdacht der unzulässigen Verwendung von KI in einer Prüfung können (und müssen) die betroffenen Studierenden mit den Vorwürfen konfrontiert werden. In diesem Rahmen wäre es beispielsweise zulässig, die Studierenden zu einem Gespräch zu bitten, in welchem sie inhaltliche Fragen zu der Prüfung beantworten müssen. So kann überprüft werden, ob die abgegebene Leistung von ihnen selbst stammt. Die Studierenden sind allerdings nicht zur Mitwirkung verpflichtet und die fehlende Mitwirkung kann nicht zu ihren Lasten gewertet werden. Der Verdacht einer Täuschung kann durch eine ergänzende mündliche Überprüfung nur ausgeräumt, nicht belegt werden.

3. Präventionsmaßnahmen

Zur Überprüfung, ob die Leistung tatsächlich von den Studierenden erstellt wurde, kann die Prüfungsform von einer rein schriftlichen Prüfung in eine kombinierte Prüfung mit mündlichen Anteil (etwa Referate mit schriftlicher Ausarbeitung, Paper mit Vortrag, Posterpräsentationen) geändert werden. Da die Prüfungsformen in den Prüfungsordnungen festgelegt sind, ist vor der Umstellung einer Prüfungsform jedoch eine formelle Änderung der Prüfungsordnung erforderlich.

Eine andere Möglichkeit wäre es, Prüfungsaufgaben so zu stellen, dass individuelle Erfahrungen oder Erkenntnisse der Studierenden abgeprüft werden, die eine KI nicht ohne weiteres generieren kann.

Die Prüfenden können die Nutzung von Chat-GPT aber auch ausdrücklich in die Aufgabenstellung einbauen. Dann müssten Prompts und Ergebnisse durch die Studierenden aber als solche (ähnlich wie andere Quellen, z. B. Interviews) offengelegt, gekennzeichnet und der Prüfung beigefügt werden.

Weitere Informationen:

Handlungsleitfaden des Ministerium für Schule und Bildung des Landes Nordrhein-Westfalen (MSB): „Umgang mit textgenerierenden KI-Systemen"

Leitfaden: Unlocking the Power of Generative AI Models and Systems such as GPT-4 and ChatGPT for Higher Education - A Guide for Students and Lecturers

Hochschulforum Digitalisierung: ChatGPT im Hochschulkontext - eine kommentierte Linksammlung

Gutachten des des Projekts KI:edu.nrw der Ruhr-Universität Bochum und der WWU Münster: Didaktische und rechtliche Perspektiven auf KI-gestütztes Schreiben in der Hochschulbildung

# data[].attributes.attachment_link.description
Grundvoraussetzung einer zutreffenden Leistungsbewertung ist, dass ein Prüfling die Prüfungsleistung persönlich ohne fremde Hilfe erbringt (Niehues/Fischer/Jeremias, Prüfungsrecht 2018, Rn. 223). Werden die gesamte Prüfung oder bedeutende Teile davon vollständig mittels KI generiert, handelt es sich nicht um eine selbstständige Leistung (ähnlich wie beim Ghostwriting durch eine andere Person) und ist somit verboten.

# data[].attributes.attachment_link.description
Technische Hochschule Mittelhessen - University of Applied Sciences

# data[].attributes.attachment_link.title
Eigenständigkeitserklärung mit erlaubter KI (1)

# data[].attributes.headline
selbst bei Bewertungsbogen gibt es subjektive Einschätzungen

# data[].attributes.subject
selbst bei Bewertungsbogen gibt es subjektive Einschätzungen

# data[].attributes.body
Zeitmanagement

# data[].attributes.headline
Richiges Maß an Selbstständigkeit erwarten

# data[].attributes.subject
Richiges Maß an Selbstständigkeit erwarten

# data[].attributes.attachment_link.title
ChatGPT - Wissenschaftliche Thesen optimieren v3

# data[].attributes.attachment_link.description
gibt ausführliches Feedback zu wissenschaftlichen Thesen

# data[].attributes.body
Studierende können ihre gesamte Arbeit in ein CustomGPT hochladen und Feedback dazu erhalten. Es gibt Feedback auf Struktur, Argumentation, Quellenangaben, Sprachstil und weiteres.

# data[].attributes.headline
Unklarer Umgang mit KI in Seminar- und Abschlussarbeiten

# data[].attributes.subject
Unklarer Umgang mit KI in Seminar- und Abschlussarbeiten

# data[].attributes.headline
"Checkliste" mit klaren Angaben zu Erwartungen an die Arbeit

# data[].attributes.subject
"Checkliste" mit klaren Angaben zu Erwartungen an die Arbeit

# data[].attributes.headline
Wichtige Informationen zum passenden Zeitpunkt geben

# data[].attributes.subject
Wichtige Informationen zum passenden Zeitpunkt geben

# data[].attributes.headline
Objektivität wird davon beeinflusst wie gut man sich mit dem Thema der Abschlussarbeit auskennt

# data[].attributes.subject
Objektivität wird davon beeinflusst wie gut man sich mit dem Thema der Abschlussarbeit auskennt

# data[].attributes.headline
Bewertungsbogen nicht an Seminarform angepasst

# data[].attributes.subject
Bewertungsbogen nicht an Seminarform angepasst

# data[].attributes.headline
Merkblatt zum Umgang mit KI in der Geschichtswissenschaft

# data[].attributes.subject
Merkblatt zum Umgang mit KI in der Geschichtswissenschaft

# data[].attributes.headline
Merkblatt zum Umgang mit KI in der Geschichtswissenschaft

# data[].attributes.subject
Merkblatt zum Umgang mit KI in der Geschichtswissenschaft

# data[].attributes.headline
Merkblatt zum Umgang mit KI im Kirchenrecht

# data[].attributes.subject
Merkblatt zum Umgang mit KI im Kirchenrecht