Regelung zur Nutzung von KI-Anwendungen am UKER
Richtlinie definiert Vorgaben zur sicheren und verantwortungsvollen Nutzung von KI
Das Arbeiten mit „Künstlicher Intelligenz“ (KI) gehört in allen Bereichen des Klinikums mehr und mehr zum Alltag und wird diesen in den nächsten Jahren umfassend verändern. Vor dem Hintergrund der dynamischen Entwicklungen hat der Klinikumsvorstand eine Richtlinie zur Einführung und Nutzung von KI-Systemen am UKER beschlossen. Die Richtlinie definiert verbindliche Vorgaben zur sicheren und verantwortungsvollen Nutzung von KI-Systemen am UKER und gilt für alle Beschäftigten, die KI-Systeme im UKER-Netz nutzen.
Der Klinikumsvorstand hat eine Richtlinie zur Einführung und Nutzung von KI-Systemen am UKER beschlossen. Gemäß dieser für alle Bereiche des Klinikums geltenden Richtlinie dürfen KI-Systeme ausschließlich dienstlich genutzt werden. Ihr Einsatz zur Überwachung oder Beurteilung von Beschäftigten ohne Einbindung des Personalrats ist untersagt. Mit Inkrafttreten der Verordnung über Künstliche Intelligenz (KI-VO) der Europäischen Union ergeben sich für die Nutzung von KI-Systemen am UKER gemäß Art. 5 KI-VO weitere Ausschlüsse. Besondere Berücksichtigung finden hierbei die klinische Versorgung sowie Forschungs- und Entwicklungsaktivitäten am UKER.
Die KI-Richtlinie gliedert Anwendungen am UKER in drei Regelungskontexte:
- KI-Systeme mit allgemeinem Verwendungszweck (engl. General Purpose AI),
- KI-Systeme für den Einsatz in der klinischen Versorgung (Medizinprodukte) und
- KI-Systeme für den Einsatz in Forschungsprojekten.
Für alle KI-Regelungskontexte erfolgt eine Gliederung in:
- Definition
- Beispiele
- Charakteristik
- Konsequenzen
Für die Beschaffung von KI-Systemen gilt der IT-Hardware-/Software-Anforderungsprozess des Klinikums unter Einbeziehung von (1) Datenschutz, (2) IT-Sicherheit, (3) Anforderungs- und Portfoliomanagement des MIK und (4) ggf. des Lenkungsausschusses IT des UKER. Für die Beschaffung von KI-Anwendungen in der klinischen Versorgung oder zum Einsatz in Forschungsprojekten wurde die KI-Richtlinie erweitert um eine KI-Checkliste, die als Hilfestellung bei der Beschaffung von KI-Systemen zu beachten ist. Forschungs- und Entwicklungsaktivitäten sind auch künftig einzelfallabhängig am UKER zu betrachten.
Die KI-Richtlinie und die KI-Checkliste verstehen sich als „lernende Systeme“, die das UKER gemäß den regulatorischen Vorgaben, der sich weiterentwickelnden Systeme und der praktischen Nützlichkeit für die Anwender fortschreibt.
(Bildnachweis: Gerd Altmann auf Pixabay)
Weitere Informationen:
Dr. Annika Clarner
Telefon: +49 9131 85-46404
Mail: Annika.Clarner(at)uk-erlangen.de
Prof. Dr. Hans-Ulrich Prokosch
Telefon: +49 9131 85-67781
Mail: hans-ulrich.prokosch(at)fau.de
Downloads
Checkliste für KI in der Medizin
Richtlinie des UKER zur KI (Stand 20.01.2025)
