Künstliche Aufregung oder Disruption? KI in der Hochschulbildung: Zwischen Hoffnung, Hype und Risiko

-- Veranstaltung mit Impulsen, Podiumsdiskussion und Barcamp --

27. Februar 2023, 10-14 Uhr,

hybrid an/aus der Johannes Gutenberg-Universität Mainz, Alte Mensa

Seit seiner Veröffentlichung im November 2022 befeuert OpenAI's Dialogdienst ChatGPT weltweit Diskussionen über den Einfluss von KI auf unser Leben - besonders im Bildungsbereich laufen die Diskussionen heiß: Was kann das System wirklich leisten? Mit welchen Prüfungen kann man Lernleistung noch wirklich beurteilen? Und: Welchen Umgang mit solchen System müssen Schüler:innen, Studierende und Lehrende jetzt lernen?

Nach zwei Impulsvorträgen, die das Phänomen KI (insb. textbasierte Dialogsysteme) technisch und didaktisch einordneten, und einer breit besetzten Podiumsdiskussion, blickten die Teilnehmenden in einem Barcamp über den Hype hinaus. Gemeinsam wurden offene Fragen diskutiert, Handlungsansätze skizziert und Impulse weitergedacht.

Die Veranstaltung fand unter Schirmherrschaft des Vizepräsidenten für Studium und Lehre der JGU statt und wurde durch die Koordinierungsstelle digitales Lehren und Lernen (Dezernat Hochschulentwicklung) sowie die Kompetenzstelle Akademische Integrität (Universitätsbibliothek Mainz) organisiert.

Im folgenden können Sie auf die Aufzeichnungen und Ergebnisse der Veranstaltung zugreifen.

Sie haben Fragen zur Veranstaltung oder zum Einsatz von KI-Werkzeugen in der Hochschullehre an der JGU? Wir stehen gerne für den Austausch zur Verfügung: kodi@uni-mainz.de

Der Vizepräsident für Studium und Lehre der JGU, Prof. Dr. Stephan Jolie, begrüßt alle Teilnehmer:innen zur Veranstaltung und lädt ein, gemeinsam zu reflektieren welche Herausforderung text- und bildgenerierende KI-Tools für die Hochschulbildung darstellen:

Der Staatssekretär Dr. Denis Alt begrüßt im Namen des Ministeriums für Wissenschaft und Gesundheit des Landes Rheinland-Pfalz. Dabei betont er die Vermittlung von digitalen Kompetenzen sowohl an Lehrende als auch Lernende und den "trust in artificial intelligence".

Im ersten Impulsvortrag erläutert Prof. Dr. Andreas Hildebrandt (Bioinformatics, Institut für Informatik, JGU Mainz) die Funktionsweise und den technischen Hintergrund von ChatGPT und KI-basierten Schreibwerkzeugen im Allgemeinen. Dabei klärt er Begriffe wie statistische Sprachmodelle, modellbasiertes Lernverfahren, Word Embedding, Tiefe Neuronale Netwerke und Transformer.
Textgenerierende-KI-in-der-Hochschulbildung
Im zweiten Impulsvotrag stellt Dr. Peter Salden (Ruhr-Universität Bochum, Zentrum für Wissenschaftsdidaktik, KI:edu.nrw) einige Grundannahmen zu KI-basierten Schreibwerkzeugen dar und geht danach auf rechtliche und didaktische Aspekte ein. Insbesondere beleuchtet er Herausforderungen und Potenziale von KI-Tools in Bezug auf Lernziele, Schreibschwierigkeiten, dem Schreiben als Denk- und Lernwerkzeug sowie Prüfungen.

Unter der Leitung von Eva Wolfangel diskutierten auf dem Podium Prof. Dr. Stephan Jolie (Vizepräsident für Studium und Lehre, JGU), Prof. Dr. Andreas Hildebrandt (Bioinformatics und KI@JGU), Dr. Peter Salden (Ruhr-Universität Bochum, KI:edu.nrw), Prof. Dr. Silvia Hansen-Schirra (Englische Sprach- und Übersetzungswissenschaft), Franziska Lutz (Master Digital Humanities) und Markus Vieth (Fachschaft Informatik) die Chancen und Risiken von KI-Tools in der Hochschulbildung.

Franziska Lutz zog den Vergleich zu Wikipedia als neues Werkzeug, das mittlerweile vollkommen integriert und akzeptiert ist. Sie betonte stark die Chancen, aber auch die Notwendigkeit der Vermittlung von (digitalen) Kompetenzen zum kritisch reflektierten Umgang mit KI-Tools.
Prof. Dr. Silvia Hansen-Schirra berichtete von ihren Erfahrungen im Bereich der Translationswissenschaften und plädierte für eine Integration von KI-Tools in Berufen und Bereichen der Textgenerierung. Gleichzeitig betonte auch sie die Wichtigkeit von technischen und digitalen Kompetenzen und des kritischen Reflektierens.
Prof. Dr. Andreas Hildebrandt zeigte die Grenzen von KI-Tools auf, indem er erläuterte, dass sie zwar gut zur Bilderkennung und Textgenerierung einsetzbar sind, jedoch kaum abstrakt und kreativ denken oder (neue) Theorien aufstellen und beweisen können. KI-Tools seien immer nur so gut wie ihre Trainingsdaten.
Dr. Peter Salden ging auf die Veränderungen in der Lehre durch den Einsatz von KI-Tools ein und sprach sich für mehr kompetenzorientiertes Prüfenmit komplexen Fragestellungen und Situationen.
Markus Vieth betonte ebenfalls die benötigten Kompetenzen sowohl bei Studierenden insbesondere aber bei Lehrenden. Außerdem sah er textgenerierende KI-Tools als Chance für Studierende mit Schreibschwierigkeiten.
Prof. Dr. Stephan Jolie stellte fest, dass die Angst vor technischen Möglichkeiten und Neuerungen wohl immer da sein wird und auch berechtigt ist, wir als Wissenschaftler:innen aber auch den Fokus darauf legen sollten, was KI-Tools eben nicht können (werden). Die spannende Frage sei doch, wo die Differenz zwischen human- und maschinengenerierten Texten liegt.

Die jeweiligen Barcamp-Gruppen kamen zu folgenden Ergebnissen:

1. Wie wirkt sich KI auf Berufsbilder aus und wie können wir darauf reagieren?

Chancen/Herausforderungen: KI könnte in Zukunft eine Schnittstelle zwischen verschiedenen Tätigkeitsfeldern schaffen, z.B. dadurch, dass eine Grundlage für schnelle Textanalysen und Erfassung geschaffen wird. Bestimmte Prozesse in der Arbeitswelt (etwa im juristischen Bereich) könnten beschleunigt werden. Dabei besteht auch das Risiko, dass der Einsatz von KI zu Pfadabhängigkeiten führt und Entscheidungswege unflexibler macht und vorprägt. Neue Berufsfelder können entstehen, die auf das "Management" von KI ausgerichtet sind, z.B. das Lektorieren und Fact-Checking KI-generierter Texte. Weitere Risiken: Ganze Berufsfelder, z. B. im kreativen Bereich, könnten durch KI infrage gestellt werden. Es besteht die Gefahr, dass die mangelnde Akzeptanz von KI-gestützten Anwendungen dazu führt, dass ganz Bevölkerungsgruppen von der Entwicklung ausgeschlossen werden (Bsp. Generationenfrage).

Zentrale Akteur:innen: Gesamtgesellschaftlicher Prozess, in dem Akteur:innen aus der Politik und Weiterbildung, Expert:innen, Journalist:innen und Berater:innen moderieren können.

Forderungen/Empfehlungen: Im Bereich KI muss die Verfügbarkeit eines ergänzenden Open Source-Angebots gewährleistet bleiben. Die technische Abhängigkeit in Bezug auf best. Anbieter/Produkte muss reduziert, Zugänge zu der Technologie müssen geschaffen und aufgezeigt werden. Die Nutzung von KI-Anwendungen (wie, wann wozu) sollte intensiv durch die Forschung begleitet werden. Beim Einsatz von KI gilt es Diskriminierung zu vermeiden, sowohl im Hinblick auf die Nutzung entspr. Systeme als auch in Bezug auf KI-generierte Inhalte. Dbzgl. stellt sich auch die Frage nach möglichen Prüfinstanzen.

2. Welche Kenntnisse und Fertigkeiten brauchen Studierende und Lehrende jetzt?

Chancen/Herausforderungen: Medien- und Digitalkompetenz sollten sowohl fachübergreifend als auch fachspezifisch vermittelt werden. Dies setzt eine interdisziplinäre Herangehensweise und eine interdisziplinäre Zusammenarbeit von Lehrenden voraus. Die konkreten Lernziele sollten reflektiert und der Fokus mehr auf die Begleitung des Lernprozesses (Diagnostik, akademisches Mentorat) als auf den Output wie z.B. Hausarbeiten gelegt werden. Für die Umsetzung sind gute Weiterbildungen für Lehrende notwendig. Die Entwicklung von Zertifikaten könnte als Anreiz für Studierende dienen, entsprechende Lernangebote in Anspruch zu nehmen.

Zentrale Akteur:innen: Schulen, Hochschullehrende und Fächer, Hochschuldidaktik, Studierende, Politik (zuständige Ministerien)

Forderungen/Empfehlungen: Die Bereitschaft zur interdisziplinären Zusammenarbeit sollte gestärkt werden. Von den verantwortlichen Institutionen sollten ausreichende Ressourcen für die Entwicklung von Lernangeboten für Studierende und für Weiterbildungen von Lehrenden zur Verfügung für gestellt werden.

3. Wie können KI-Tools kompetenzorientiert in der Lehre eingesetzt werden?

Chancen/Herausforderungen: digitale Kompetenzen müssen insgesamt stärker gefördert werden, gerade der kritische Umgang mit diesen sollte hier in den Fokus gerückt werden. Um textgenerierende Software kompetenzorientiert einzusetzen, muss erlernt werden die richtigen Fragen bzw. Aufforderungen zu stellen bzw. zu formulieren.

Zentrale Akteur:innen: Lehrende, Lernende, Hochschulleitung

Forderungen/Empfehlungen: Um digitale Kompetenzen zu erwerben, müssen diese zunächst an Lehrende vermittelt werden, damit man KI-Tools in der Lehre einsetzen kann. Gleiche technische Voraussetzungen müssen bei den Studierenden hierfür gewährleistet sein. Lernen für eine digitale Welt, lehren in einer digitalen Welt.

4. Welche Herausforderungen stellen sich für Prüfungsformen und Bewertung?

Chancen/Herausforderungen: Prüfungen sollten motivierend und feedbackorientiert gestaltet sein und deren Nutzen/Hintergrund den Studierenden transparent erklärt werden. Zudem sollte überprüft werden, welche Prüfungen (und Prüfungsformate) tatsächlich sinnvoll sind und welche evtl. (ersatzlos) gestrichen werden könnten.

Zentrale Akteur:innen: Lehrende, Hochschulleitungen

Forderungen/Empfehlungen: Hochschuldidaktische Ausbildung sollte gefördert und eingefordert werden. Insb. vor dem ersten Einsatz in der Lehre sollten Dozierende verpflichtend Fortbildungen, z.B. zu Prüfungsgestaltungen besuchen. Lehrenden sollte vermittelt werden (z.B. durch Awareness-Kampagnen), dass solche Fortbildungen für sie einen langfristigen Nutzen haben und Zeitersparnis mit sich bringen. Generell sollte die Lehre einen höheren Stellenwert bei Berufungen einnehmen.

5. Welche urheberrechtlichen Fragen stellen sich und wie können wir mit ihnen umgehen?

Unsicherheiten und Risiken:
- Wer ist Autor:in und wer ist Urheber:in?
- Wie wird mit den Rechten der Quellenschöpfer:innen umgegangen?
- Was heißt das wettbewerblich, wenn Digitalmonopolisten durchgreifen?

Eine Chance:
Druck zur Veränderung, zur Diskussion dessen, was rechtlich und sozial Urheberschaft und Originalität eigentlich bedeutet

In der Pflicht / Akteur:innen:
• Die EU wo es um Wettbewerbsrecht und Limitierung der Konzerne geht
• Die Universitäten wo es um Klärung des Prüfungsrechtlichen geht
Etwa in Form von whitelists für zulässige Hilfsmittel

Graphic Recording der Veranstaltung von Franziska Ruflair: https://franziskaruflair.com/