zu „Qualitätsentwicklung”

Nutzung von generativer Künstlicher Intelligenz

Mit der Veröffentlichung des Textgenerators und Chatbots ChatGPT 2022 durch das US-amerikanische Softwareunternehmen OpenAI hat sich generative Künstliche Intelligenz (gKI) weltweit rasend verbreitet. Auch andere frei verfügbare Programme wie Midjourney, Gemini oder Sora, zur Generierung fotorealistischer Bilder und Videos, haben die Popularität von gKI angeheizt.

Was ist generative Künstliche Intelligenz (gKI)?

Unter „generativer KI“ verstehen wir Computermodelle, die in der Lage sind, neue Inhalte wie Bilder, Texte oder Musik autonom unter Berücksichtigung einer durch Menschen oder maschinell erfolgten Eingabe zu generieren, nachdem sie Muster und Strukturen aus einem Trainingsdatensatz erlernt haben (FSU 2024). Grundlage von gKI ist die Kapazität, auf Basis erlernter Muster aus vielfältigen Daten verschiedenster Herkunft und Qualität neue sprachliche oder visuelle Produkte zu erstellen. Dies geschieht auf der Basis von Wahrscheinlichkeiten, nicht aber auf Grundlage eines echten Verständnisses (Leopoldina 2024: 4-5). 

Was gilt es zu bedenken bei der Nutzung von gKI?

ChatGPT ist ein sogenanntes Large Language Model, das mit riesigen Textmengen trainiert wird: Webseiten, Bücher, Artikel, Songtexte, Posts, Tweets, Kommentare oder andere Meinungsäußerungen – letztlich mit allen im Internet verfügbaren Texten. Das Training besteht darin, basierend auf Sprachmustern, welche aus diesen Daten gelernt wurden, für vorgegebene Satzfragmente jeweils das nächste Wort vorherzusagen. Dadurch kann ChatGPT Fragen Wort für Wort statistisch plausibel beantworten und neue Texte produzieren. Eine entsprechend generierte Aussage kann korrekt sein, sie muss es aber nicht – und oft sind Antworten des Chatbots tatsächlich falsch. ChatGPT kreiert dann sinnvoll klingende Sätze, die inhaltlich jedoch frei erfunden („halluziniert“) sind (Leopoldina 2024: 4).

Zusammengefasst bedeutet das, dass uns bei jeder Nutzung von gKI bewusst sein muss, dass eine gKI zwar anhand statistischer Wahrscheinlichkeiten wohlformulierte Texte bzw. schöne Bilder erzeugen mag, dabei im Grunde jedoch nicht deren Bedeutung erkennt oder deren Sinn bzw. inhaltliche Richtigkeit bewertet (FSU 2024). 

Neben der Frage, ob die Antworten der gKI richtig oder falsch sind, müssen die Nutzer:innen sich weitere Aspekte bewusst machen: zum einen wird das Material, was der/die Nutzerin in der gKI eingibt oder hochlädt auch zu Trainingszwecken verwendet. Das ist insbesondere bei sensiblen Daten ein großes Problem, egal ob es sich um personenbezogene Daten oder noch nicht veröffentlichte Forschungsergebnisse handelt. Meist gibt es jedoch die Option, der Verwendung der eingegebenen Daten zu Trainingszwecken zu widersprechen. Ist dies nicht der Fall sollten die Tools im universitären Kontext nicht genutzt werden (FSU 2024).

Zum anderen reproduziert die gKI die in den Texten vorhandenen Wertvorstellungen, Vorurteile, Verzerrungen und Limitierungen. Dadurch kann gKI bestehende Bias und Vorurteile weiter verstärken (Leopoldina 2024).

Die gKI bietet gleichzeitig Vorteile und Anwendungsszenarien, die (Stand heute) unproblematisch sind. Dazu gehören z.B.: 

  • Kreative Arbeit (z. B. Generierung neuer Ideen)

  • Recherche (z. B. Auffinden neuer Quellen) 

  • Schreibprozess (z. B. Briefe, E-Mails, Protokolle, Publikationen, Anträge etc.) 

  • Text-Analyse von Materialien, Literatursynthese oder Datenaufbereitung

  • Übersetzungen 

  • Lehrmaterialien und Prüfungsaufgaben (z. B. Unterstützung bei der Ausgestaltung von Lehrmaterial) 

  • Generieren von Bildmaterial (z. B. für interne Präsentationen, Berichte oder Referate) 

  • Beurteilungen und Begutachtungen (z. B. Unterstützung bei Formulierungen) 

  • Verwaltungsaufgaben (FSU 2024) 

Was bedeutet das für die Nutzung von gKI an der Universität Leipzig? 

Bislang gibt es an der Universität Leipzig keine übergeordnete Empfehlung oder Handlungsleitlinien für die Nutzung von gKI für Forschung, Lehre, Studium, Promotion bzw. Verwaltung. Das heißt aber nicht, dass gKI kein Thema ist oder beliebig und ohne Kennzeichnung genutzt werden sollte. 

Vor dem Hintergrund der oben genannten Merkmale von gKI sollte diese in folgenden Bereichen nicht eingesetzt werden: 

  • Verarbeitung personenbezogener Daten (außer es liegt eine entsprechende Einwilligung der betroffenen Personen vor) 

  • Ungeprüfte Übernahme eines kompletten Ideenkonzepts oder dessen Ausarbeitung durch KI 

  • Ungeprüfte Übernahme einer Zusammenfassung oder Analyse in einen Bericht oder eine Publikation 

  • Vollständige und ungeprüfte Übernahme der Übersetzung ganzer Texte z. B. im Prüfungskontext oder in Berichten ( 

  • Einsatz bei Prüfungen ohne Nennung als Hilfsmittel und ohne Erlaubnis des Prüfenden (Hinweis: Entscheidung zum KI-Einsatz bei Prüfungen erfolgt durch die prüfende Person) 

  • Einsatz eines KI-Tools als Hilfsmittel in einer Lehrveranstaltung ohne vorherige Abstimmung mit der Lehrperson 

  • Bewertung von Prüfungen (Hausarbeit oder andere Prüfungsleistungen) oder Einschätzung von anderen Leistungen einer Person 

  • Bewertung von Bewerbern oder andere Auswahlentscheidungen, die sich auf Personen beziehen 

  • Analyse von Anträgen bzw. Begutachtungen (z. B. von Promotionen) (FSU 2024)

 

In einige Promotions- und Studienordnungen  bzw. die Satzung für gute wissenschaftliche Praxis (GWP) der UL hat das Thema Eingang gefunden. Dort ist geregelt, wie mit (g)KI umzugehen ist. 

Des Weiteren gibt es übergreifende Arbeitsgruppen, die sich z. B. für den Bereich Lehre mit den Auswirkungen von KI beschäftigen (KI in der Lehre). Auch die Universitätsbibliothek hat ihr Angebot für die Nutzer:innen entsprechend angepasst.

In der Graduiertenakademie bieten wir unseren Mitgliedern Workshops zum Thema an (z. B. Academic Writing using ChatGPT), planen eine AI-Week für 2025 (Workshops, Keynotes, Fishbowl-Diskussion etc.) und sind im Austausch mit anderen Graduierteneinrichtungen in Deutschland zum Umgang mit (g)KI in der Promotion.

 

Wo finde ich weiterführende Informationen, Links und Literatur?

 

Andere Universitäten:

gKI Tools:

 

FAQ Künstliche Intelligenz und gute wissenschaftliche Praxis.
Zusammenstellung des Ombudsgremiums für wissenschaftliche Integrität in Deutschland: https://ombudsgremium.de/13211/faq-kuenstliche-intelligenz-und-gute-wissenschaftliche-praxis/ -> inkl. Download-Möglichkeit des FAQ