Künstliche Intelligenz in der Promotion

Einstieg

Künstliche Intelligenz kann eine große Unterstützung beim wissenschaftlichen Arbeiten sein, birgt aber auch Risiken. Promovierende erhalten hier einen Überblick über hilfreiche Tools und Weiterbildungsangebote sowie rechtliche und ethische Aspekte der Nutzung.

Unter „generativer KI“ verstehen wir Computermodelle, die in der Lage sind, neue Inhalte wie Bilder, Texte oder Musik autonom unter Berücksichtigung einer durch Menschen oder maschinell erfolgten Eingabe zu generieren, nachdem sie Muster und Strukturen aus einem Trainingsdatensatz erlernt haben (nach FSU 2024). 

Grundlage von gKI ist die Kapazität, auf Basis erlernter Muster aus vielfältigen Daten verschiedenster Herkunft und Qualität neue sprachliche oder visuelle Produkte zu erstellen. Dies geschieht auf der Basis von Wahrscheinlichkeiten, nicht aber auf Grundlage eines echten Verständnisses. Eine von ChatGPT generierte Aussage kann korrekt sein, sie muss es aber nicht – und oft sind Antworten des Chatbots tatsächlich falsch. ChatGPT kreiert dann sinnvoll klingende Sätze, die inhaltlich jedoch frei erfunden („halluziniert“) sind (nach Leopoldina 2024: 4-5).

Der Output sollte immer überprüft werden!

Bislang gibt es an der Universität Leipzig keine übergeordnete Empfehlung oder Handlungsleitlinien für die Nutzung von gKI für Forschung, Lehre, Studium, Promotion bzw. Verwaltung. Das heißt aber nicht, dass gKI kein Thema ist oder beliebig und ohne Kennzeichnung genutzt werden sollte.
In einige Promotions- und Studienordnungen und die überarbeitete Satzung für gute wissenschaftliche Praxis der Universität Leipzig hat das Thema Eingang gefunden. 

Informieren Sie sich in Ihrer Promotionsordnung und sprechen Sie mit Ihrer Betreuungsperson über die Nutzung von künstlicher Intelligenz für Ihre Promotion und die Kennzeichnung!

Wissenschaftliches Arbeiten mit KI

Künstliche Intelligenz kann das wissenschaftliche Arbeiten in verschiedenen Bereichen unterstützen. Rechtliche und ethische Grenzen müssen jedoch immer beachtet und der Output sorgfältig überprüft werden!

Empfehlungen zur verantwortungsvollen Nutzung von KI

Die Europäische Kommission empfiehlt in ihren “Living guidelines on the responsible use of generative AI in research” Forscher:innen folgendes zu beachten, um künstliche Intelligenz verantwortungsvoll zu nutzen:

  • Forschende bleiben verantwortlich für die wissenschaftlichen Ergebnisse. Sie sind für die Integrität der Inhalte verantwortlich und sind sich der Grenzen (Verzerrungen, Halluzinationen und Ungenauigkeiten) bewusst.
  • Forschende machen die Nutzung generativer KI transparent und legen die Grenzen der verwendeten generativen KI-Tools offen oder erörtern diese.
  • Forschende achten besonders auf Fragen des Datenschutzes, der Vertraulichkeit und der Rechte an geistigem Eigentum, wenn sie sensible oder geschützte Informationen mit KI-Tools austauschen.
  • Forschende beachten die geltenden nationalen, EU- und internationalen Rechtsvorschriften. Insbesondere der durch generative KI erzeugte Output kann in Bezug auf den Schutz der Rechte des geistigen Eigentums und personenbezogener Daten besonders sensibel sein.
  • Forschende lernen kontinuierlich, wie man generative KI-Tools richtig und effizient einsetzt.
  • Forschende verzichten darauf, generative KI-Werkzeuge bei sensiblen Tätigkeiten einzusetzen, die sich auf andere Forscher oder Organisationen auswirken könnten (z. B. Peer Review, Bewertung von Forschungsvorschlägen usw.).

 

 

Nutzungsmöglichkeiten von KI

Generative künstliche Intelligenz bietet Vorteile und Anwendungsszenarien, die (Stand heute) unproblematisch sind. Dazu gehören z.B.: 

  • Kreative Arbeit (z. B. Generierung neuer Ideen)

  • Recherche (z. B. Auffinden neuer Quellen) 

  • Schreibprozess (z. B. Briefe, E-Mails, Protokolle, Publikationen, Anträge etc.) 

  • Text-Analyse von Materialien, Literatursynthese oder Datenaufbereitung

  • Übersetzungen 

  • Lehrmaterialien und Prüfungsaufgaben (z. B. Unterstützung bei der Ausgestaltung von Lehrmaterial) 

  • Generieren von Bildmaterial (z. B. für interne Präsentationen, Berichte oder Referate) 

  • Beurteilungen und Begutachtungen (z. B. Unterstützung bei Formulierungen) 

  • Verwaltungsaufgaben

Der KI-generierte Output muss immer sorgfältig überprüft werden!

Übernommen aus der Handreichung zum Umgang mit generativen KI-Tools an der Universität Jena

Don'ts

Vor dem Hintergrund der Merkmale von generativer künstlicher Intelligenz sollte diese in folgenden Bereichen nicht eingesetzt werden: 

  • Verarbeitung personenbezogener Daten (außer es liegt eine entsprechende Einwilligung der betroffenen Personen vor) 

  • Ungeprüfte Übernahme eines kompletten Ideenkonzepts oder dessen Ausarbeitung durch KI 

  • Ungeprüfte Übernahme einer Zusammenfassung oder Analyse in einen Bericht oder eine Publikation 

  • Vollständige und ungeprüfte Übernahme der Übersetzung ganzer Texte z.B. im Prüfungskontext oder in Berichten

  • Einsatz bei Prüfungen ohne Nennung als Hilfsmittel und ohne Erlaubnis des Prüfenden - Die Entscheidung zum KI-Einsatz bei Prüfungen erfolgt durch die prüfende Person!

  • Einsatz eines KI-Tools als Hilfsmittel in einer Lehrveranstaltung ohne vorherige Abstimmung mit der Lehrperson 

  • Bewertung von Prüfungen (Hausarbeit oder anderen Prüfungsleistungen) oder Einschätzung von anderen Leistungen einer Person 

  • Bewertung von Bewerbern oder andere Auswahlentscheidungen, die sich auf Personen beziehen 

  • Analyse von Anträgen bzw. Begutachtungen (z.B. von Promotionen)

Übernommen aus der Handreichung zum Umgang mit generativen KI-Tools an der Universität Jena

KI im Forschungsprozess

In den vielen Bereichen des Forschungsprozesses kann künstliche Intelligenz unterstützend zum Einsatz kommen. 
Folgende Leitfragen können bei der eigenen Nutzungsentscheidung helfen:

  • Ist es wahrscheinlich, dass der Trainingsdatensatz des Chatbots gute, passende Informationen enthält?
  • Wie relevant ist eine inhaltlich korrekte Antwort des Chatbots?
  • Kann ich die Qualität der Antwort des Chatbots beurteilen?
  • Oder habe ich andere Möglichkeiten, die Qualität zu prüfen?
  • Bin ich bereit, die Verantwortung für die Ergebnisse zu übernehmen?
  • Verstoße ich bei der Nutzung gegen Urheber- oder Datenschutzrecht?

KI in der Lehre

Im Bereich der Hochschullehre gibt es eine Vielzahl an unterstützenden Materialien, um KI als Arbeitshilfe für Lehrende, im Prüfungskontext und als Lern- und Arbeitsmittel für Studierende zu nutzen.

Weiterbildung und Vernetzung

An der Universität Leipzig können sich Promovierende zum Umgang mit Künstlicher Intelligenz weiterbilden und vernetzen.