Umgang mit generativen KI-Tools an der Universität Jena

Unter „generativer KI“ verstehen wir hier Computermodelle, die in der Lage sind, neue Inhalte wie Bilder, Texte oder Musik autonom unter Berücksichtigung einer durch Menschen oder maschinell erfolgten Eingabe zu generieren, nachdem sie Muster und Strukturen aus einem Trainingsdatensatz erlernt haben.

KI-basierte Werkzeuge besitzen ein immenses Potential für die Steigerung der Effizienz und Effektivität unserer Arbeit. Dort wo generative KI gewinnbringend und ohne Risiken angewendet werden kann, soll eine Nutzung daher möglich sein. Als Anleitung und Sensibilisierung zum verantwortungsbewussten, reflektierten und rechtskonformen Einsatz haben wir im Kapitel „Was muss bei der Nutzung von generativen KI-Tools beachtet werden?“ relevante Eckpunkte zusammengetragen.

Bei der Nutzung müssen wir stets im Blick behalten, dass eine textgenerierende KI zwar anhand statistischer Wahrscheinlichkeiten wohlformulierte Texte erzeugen mag, dabei im Grunde jedoch nicht deren Bedeutung erkennt oder deren Sinn bzw. inhaltliche Richtigkeit bewertet.

Zur Beschaffung von kommerziellen KI-Tools wenden Sie sich per ServiceportalExterner Link an den Software-Service des URZ.

Für die Verwendung der Produkte von OpenAI (ChatGPT Plus und API) wird folgendes Vorgehen etabliert:

Die Verrechnung der Kosten erfolgt durch Sammelbuchung auf das im Serviceportal angegebene PSP-Element. Die Kosten werden in der jeweiligen Abrechnungsperiode über alle Nutzerinnen und Nutzer gemittelt, um Wechselkursschwankungen und Fremdwährungsgebühren fair zu verteilen. Um die Abrechnung durchführen zu können, muss das URZ die Abrechnungsinformationen aus dem OpenAI Webportal erhalten. Das genaue Vorgehen unterscheidet je nach Art des verwendeten Produkts.

Für die ChatGPT Plus Nutzerinnen und Nutzer wird ein Abonnement i. H. v. 20,00 $ pro Monat zuzüglich Transaktionskosten (Wechselkursschwankungen und Fremdwährungsgebühren i. H. v. ca. 4,00 $) abgeschlossen. Alle Nutzerinnen und Nutzer sind verpflichtet, die von OpenAI im Webportal für ihr Konto bereitgestellten Abrechnungsdokumente monatlich herunterzuladen und dem URZ zur Verfügung zu stellen (via Serviceportal im gleichen Vorgang, in dem der Zugang beantragt wurde).

ChatGPT API: Bei der API-Nutzung sind die Kosten in Abhängigkeit von der tatsächlichen Nutzung variabel. Für die Finanzbuchhaltung ist eine Schätzung der monatlich oder jährlich zu erwartenden Kosten hilfreich. In jedem API-Zugang (Organisation) können mehrere Mitglieder berechtigt werden („Mannschaft“). Um dem URZ Zugriff auf die Abrechnungsinformationen zu ermöglichen, muss softwarebeschaffung@uni-jena.de als Nutzender hinzugefügt und als Eigentümer berechtigt werden.

Daten bzw. Informationen, die im Kontext der beruflichen Tätigkeit verarbeitet werden, sollten nicht in das Training einer KI einfließen. Dies gilt insbesondere für urheberrechtlich geschützte Werke, z. B. wissenschaftliche Hausarbeiten von Studierenden, und personenbezogene Daten. Achten Sie vor einer Nutzung bitte auf die Einstellungen im KI-Tool. Meist gibt es eine Option, um der Verwendung zu Trainingszwecken zu widersprechen. Ist dies nicht der Fall raten wir von der Nutzung des Tools im universitären Kontext ab. Nach Möglichkeit sollte in den Einstellungen auch die Eingabe-Historie und, falls vorhanden, die Memory-Funktion abgewählt werden.

Bitte achten Sie bei Ihren Eingaben in ein KI-Tool darauf, dass keine Daten, die sich auf eine Person beziehen oder sensible Informationen der Universität darstellen, eingegeben oder hochgeladen werden. Dies betrifft auch urheberrechtlich geschützte Werke und als vertraulich deklarierte Unterlagen sowie Informationen, die gegebenenfalls über Umwege Rückschlüsse auf Personen erlauben. Es ist empfehlenswert, personenbezogene Daten vor der Eingabe zu verfremden (z. B. statt Verwendung des Namens ein Synonym verwenden).

Auch bei Angaben zur eigenen Person in KI-Tools ist zu bedenken, dass ggf. Nutzerprofile mit persönlichen Informationen angelegt und Dritten überlassen werden.

Generative KI-Tools dürfen nicht als Grundlage oder gar Letztentscheidung für personenbezogene Entscheidungen herangezogen werden (vgl. Art. 22 Datenschutz-Grundverordnung). Zum Beispiel sollte keine KI zum Einsatz kommen bei der Auswahl von Bewerberinnen und Bewerbern, bei der Bewertung von Prüfungsleistungen von Studierenden oder Drittmittelanträgen von Forschenden. Die Verarbeitung von Daten in einer KI auf deren Grundlage bestimmte persönliche Aspekte „bewertet“ werden, darf nicht erfolgen.

Bitte behalten Sie hierbei stets im Blick, dass eine KI weder den Sinn bzw. die Bedeutung noch die Implikationen der von ihr erstellten Texte erkennt.

Das Ergebnis einer generativen KI sollte mit Vorsicht behandelt und genau evaluiert werden. Die vom System erzeugten Informationen können fehlerhaft sein, und Zusammenhänge werden möglicherweise nicht richtig dargestellt (Phänomen der Konfabulation). Auch Quellenangaben sollten von Nutzerinnen und Nutzern abschließend auf ihre Richtigkeit überprüft werden. Es sollte außerdem auf Diskriminierung und Ungleichheit im KI-generierten Werk geprüft werden, so dass keine Benachteiligung bestimmter Gruppen erfolgt und bestehende gesellschaftliche Ungerechtigkeiten nicht verstärkt werden, denn durch KI können Verzerrungen oder Voreingenommenheit (Bias) erzeugt bzw. verstärkt werden. Die Nutzerinnen und Nutzer tragen letztendlich die Verantwortung dafür, den generierten Inhalt kritisch zu hinterfragen und sicherzustellen, dass er korrekt und ethisch akzeptabel ist.

Beachtet werden muss außerdem, dass es zu keiner Reproduktion geschützter Werke oder Teilen dieser kommt. Die Rechte des Urhebers oder der Urheberin bestehen fort, auch wenn die KI das Ergebnis daraus erzeugt hat.

Gehen Sie offen mit dem Einsatz einer generativen KI um. Der Einsatz sollte klar gekennzeichnet sein und deren Verwendung und die zugrundeliegenden Zwecke offen kommuniziert werden. Es ist zudem ratsam zum Beispiel bei der Arbeit an größeren Texten, eine Dokumentation über den Einsatz zu führen. Außerdem sollte bei KI-generierten Bildern die KI auch als Quelle benannt werden. Zum Beispiel kann im Multimediabereich unseres Contentmanagementsystems für Bilddokumente im Feld „Urheber“ auch der Wert „KI-generiert“ ausgewählt werden.