KI-Tools

Mit den folgenden Informationen gibt die BTU Cottbus-Senftenberg wissenschaftlich Tätigen eine Orientierung bei der Nutzung von generativen KI-Tools im Rahmen des wissenschaftlichen Arbeitens. Die BTU Cottbus-Senftenberg lehnt den Einsatz von KI-Tools im Hochschulkontext nicht grundsätzlich ab, sondern unterstützt den sinnvollen, kritisch-reflexiven und verantwortungsvollen Einsatz ohne dabei problematische Implikationen wie urheber- und datenschutzrechtliche sowie forschungsethische Fragen zu vernachlässigen. Sie folgt den Leitlinien der DFG für den Umgang mit generativen Modellen zur Text- und Bilderstellung sowie den generellen Grundsätzen guter wissenschaftlicher Praxis, insbesondere dem Transparenzgebot als wissenschaftliches Redlichkeitsprinzip.

Die Nutzung generativer KI-Tools sollte auf Basis fachlich-methodischer Reflexion erfolgen und Risiken sowie ethische und rechtliche Aspekte sollten angemessen berücksichtigt werden. Aufgrund der aktuell großen Dynamik in dem Themenfeld werden die nachfolgenden Hinweise regelmäßig aktualisiert und es wird zunächst auf die Erstellung einer hochschulspezifischen Leitlinie mit starren Vorgaben und Regelungen verzichtet. Die BTU prüft außerdem derzeit eine rechtskonforme Bereitstellung von generativen KI-Tools für Lehrende und Mitarbeitende der BTU.

Rechtliche Aspekte bei der Nutzung von KI-Tools

m Umgang mit personenbezogenen Daten Dritter im Zusammenhang mit KI-basierten Tools ist die Wahrung des Datenschutzrechts, insbesondere der Datenschutz-Grundverordnung (DSGVO), des Bundesdatenschutzgesetzes (BDSG) sowie des Brandenburgischen Datenschutzgesetzes (BbgDSG), sicherzustellen. Dies betrifft sowohl den Upload von Informationen in KI-basierte Tools als auch die durch diese erzeugten Inhalte. Personenbezogene Daten dürfen nur in generative KI-Tools eingegeben werden, wenn die Softwarebetreiber diese Daten weder Dritten zugänglich machen noch als Trainingsdaten nutzen. Über den Datenschutz hinaus ist auch die Eingabe vertraulicher Informationen, sensibler Forschungsdaten oder interner Dokumente nicht zulässig.

Es wird empfohlen, bevorzugt datensparsame KI-Tools zu verwenden und wenn möglich die Datenschutzeinstellungen anzupassen, so dass bspw. Chats nicht gespeichert und die Chatverläufe nicht als Trainingsdaten weiterverwendet werden.

Sofern wissenschaftlich tätige Personen die Ergebnisse KI-basierter Tools nach inhaltlicher Prüfung in eigenen Arbeiten verwenden, tragen die Nutzenden die Verantwortung für eventuell durch die KI generierte fehlerhafte oder verzerrte Inhalte, fehlerhafte Referenzen, Verstöße gegen das Urheberrecht oder Plagiate.

Urheberschaft an KI-generiertem Output

KI-gestützte Programme zur Textproduktion können im Sinne des Gesetzes über Urheberrecht und verwandte Schutzrechte (UrhG) nicht als Autor*innen bzw. Urheber*innen des von ihnen generierten Textes gelten; Nutzer*innen derartiger Programme schon. Entscheidend ist dabei ein signifikantes Maß an geistiger Eigenleistung.1

Wissenschaftliches Arbeiten mit KI-basierten Tools

Beim wissenschaftlichen Arbeiten können KI-Tools auf vielfältige Weise eingesetzt werden. Sie können z. B. helfen, wissenschaftliche Arbeitsprozesse zu optimieren, komplexe Probleme effizienter zu lösen, neue Erkenntnisse zu gewinnen, innovative Lösungen zu entwickeln und Forschungsergebnisse zu verbessern. Mittlerweile gibt es neben kommerziellen Tools immer mehr Open-Source-Angebote (u. a. lokal nutzbar). Die Wahl eines KI-Tools hängt auch vom Einsatzzweck ab. Eine Übersicht über KI-Tools bieten Seiten wie www.futurepedia.io, www.hcilab.org/ai-tools-directory/, www.advanced-innovation.io/ki-tools und theresanaiforthat.com. Bei den vorgestellten KI-Tools können jedoch Fehler, Oberflächlichkeiten, Bias und sogenannte Halluzinationen nie ausgeschlossen werden, sodass die Ergebnisse immer kritisch geprüft werden sollten. Zudem entwickelt sich das Gebiet sehr schnell, so dass immer wieder neue KI-Tools und Möglichkeiten eingeführt werden. Vor der Nutzung der unverbindlich vorgestellten KI-Tools empfiehlt sich zudem eine Prüfung über Kosten, Nutzungsbedingungen und Datenschutz.

Möglichkeiten zum Einsatz von KI-Tools beim wissenschaftlichen Arbeiten:

  • Literaturrecherche und -analyse: Hilfe bei der Identifizierung, dem Sammeln und Analysieren relevanter wissenschaftlicher Literatur zur Darstellung des Stands der Forschung zu einem bestimmten Thema und der Formulierung neuer Forschungsfragen
  • Beispiele für KI-Tools: Elicit, Research Rabbit, Perplexity, Semantic Scholar, SciSpace, Consensus, Iris.ai, Keenious, ChatPDF
  • Experimentelles Design und Durchführung: KI-gestützte Simulationen und Modellierungstools können dabei helfen, Experimente zu planen, durchzuführen und zu analysieren, um Hypothesen zu testen und neue Erkenntnisse zu gewinnen
  • Beispiele: Algorithmus "AlphaFold" von Google DeepMind; Deep-Learning-Modelle, um die Aktivität und Toxizität neuer Verbindungen in der Arzneimittelforschung vorherzusagen
  • Datenanalyse und -interpretation: Analyse großer Datenmengen, Automatisieren repetitiver Aufgaben, Erkennen von Mustern und Trends sowie Ableiten von Erkenntnissen, Hilfe beim Überprüfen von Hypothesen und Aufdecken von Zusammenhängen
  • Beispiele für KI-Tools: Formula Bot, IBM Watson Analytics, DataRobot, RapidMiner, Julius, TensorFlow, H2O.ai, KNIME