Künstliche Intelligenz im Studium

Generative KI-Tools erzeugen auf Basis künstlicher Intelligenz neue Inhalte wie Texte, Bilder oder Musik. KI-Tools wie ChatGPT liegen Sprachmodelle (Large Language Models) zugrunde, die aus großen Textsammlungen (Korpora) trainiert wurden. Klassische generative Modelle wie GPT-3 oder GPT-4 (Basisversion) erzeugen Texte, indem sie statistisch vorhersagen, welches Wort am wahrscheinlichsten auf das vorherige folgt. Die Inhalte entstehen also aus den Mustern und Strukturen, die während des Trainings aus bestehenden Texten gelernt wurden.

Neuere Entwicklungen verbinden Sprachmodelle zusätzlich mit Echtzeitzugriffen auf externe Datenquellen, etwa durch Webanbindungen. Solche Systeme (z. B. GPT-4 mit Internetzugriff) können beim Erstellen von Texten aktuelle Informationen aus dem Internet abrufen und integrieren. Der Kernprozess bleibt jedoch gleich: Auch hier basiert die eigentliche Textgenerierung auf der statistischen Berechnung wahrscheinlicher Wortfolgen. Der Zugriff auf aktuelle Quellen erweitert zwar die Möglichkeiten der KI, aktuellere und kontextgenauere Antworten zu liefern, dennoch kann auch hier keine faktische Richtigkeit der Antworten gewährleistet werden.

KI-Modelle können Fehler machen, Informationen falsch zusammenfassen oder erfinden. Etwa, wenn Sprachmodelle wissenschaftliche Literatur angeben, die es so gar nicht gibt. Auch beim Abrufen von Webseiten oder aktuellen Quellen können Inhalte falsch interpretiert, verkürzt oder verzerrt werden. KI-Modelle haben kein kontextuelles Verständnis von Inhalten. Sie arbeiten mit Mustern und Wahrscheinlichkeiten, nicht mit echtem Faktenwissen oder einem tieferen inhaltlichen Verständnis. 

Deshalb bleibt es bei KI-gestütztem Arbeiten zwingend notwendig, Antworten kritisch zu prüfen und Quellen sorgfältig nachzuverfolgen. Das gilt insbesondere für wissenschaftliches Arbeiten: KI-Ausgaben dürfen nicht einfach in den eigenen Text übernommen werden. Die sorgfältige Überprüfung gilt aber auch für alle anderen Anwendungsfälle.

Es gilt Vorsicht bei der Eingabe persönlicher und sensibler Daten. Oft haben KI-Tools wie ChatGPT Server in den USA, der Datenschutz kann nicht sichergestellt werden. Neben den großen Anbietern von Sprachmodellen wie OpenAI gibt es auch datenschutzkonformere Nutzungsmöglichkeiten. 

ChatAI als Alternative zu ChatGPT & Co.

Eine Alternative ist der Zugriff auf Modelle über den Dienst ChatAI, die über die GWDG auf Servern in Deutschland gehostet wird. Die Academic Cloud gewährleistet hohe Datenschutzstandards. Studierende können über ChatAI verschiedene Open-Source-Modelle nutzen. Bei der Nutzung interner LLMs werden persönliche Daten lokal gespeichert und nach Beenden der Sitzung gelöscht. Dennoch sollten keine sensiblen Daten in den Anfragen eingegeben werden. Ein Login ist über den Uni-Zugang möglich.

Academic Cloud

Eingaben in ein KI-Tool sowie übernommene Inhalte sollten keine Urheberrechte verletzen. Grundsätzlich sind Ausgaben eines Sprachmodells nicht urheberrechtlich geschützt, da ein KI-Modell keine natürliche Person ist. Es ist allerdings nicht auszuschließen, dass sich eine KI auf urheberrechtlich geschützte Inhalte bezieht bzw. Ausgaben erzeugt, die urheberrechtlich geschützten Texten ähneln. Diese Fragen werden relevant, wenn man KI-generierte Inhalte veröffentlichen möchte. 

Auch die Daten, die man selbst an eine KI gibt, können urheberrechtlich geschützt sein. Texte aus lizenzierten Datenbanken oder Bibliotheken dürfen in der Regel nicht in KI-Tools eingegeben werden, da sie urheberrechtlich geschützt sein können und die Lizenzbedingungen eine Weitergabe an Dritte untersagen können.

Ein Plagiat ist nicht auszuschließen. Es liegt vor, wenn fremdes geistiges Eigentum ohne Kennzeichnung unrechtmäßig übernommen wird. Beim Einsatz generativer KI besteht diese Gefahr also, wenn Inhalte übernommen werden, ohne ihre Herkunft offenzulegen oder korrekt zu zitieren. Das betrifft also Textteile oder Ideen aus fremden Texten, die durch generative Modelle reproduziert werden können. 

Zur Zeit gibt es keine hochschulweiten Richtlinien zur Kennzeichnungspflicht von KI in Prüfungsleistungen. Dennoch haben einige Institute an der Universität Leipzig schon Handreichungen oder Richlinien erarbeitet. Bringen Sie in Erfahrung, ob das an Ihrem Institut der Fall ist. Generell muss in jedem Fall mit den verantwortlichen Dozierenden abgesprochen werden, in welchem Rahmen die Nutzung von generativen KI-Tools erlaubt ist und wie diese zu dokumentieren ist.