Künstliche Intelligenz (KI) hält zunehmend Einzug in den medizinischen Alltag – unter anderem in Form von Entscheidungsunterstützungssystemen für Ärztinnen und Ärzte. Doch wie stehen Patientinnen und Patienten zu dieser Entwicklung? Diese Frage stand im Zentrum einer qualitativen Studie, die in dem BMBF-geförderten Verbundforschungsvorhaben DESIREE unter Beteiligung des Instituts für Medizinische Informatik am Uniklinikum RWTH Aachen durchgeführt wurde. Die Projektleitung hatten Dr. Wenke Liedke und Prof. Dr. Martin Langanke von der Evangelischen Hochschule Rheinland-Westfalen-Lippe (Bochum).
Hintergrund und Problemstellung:
Medizinische KI-Systeme können Ärztinnen und Ärzte bei Diagnosen und Therapieentscheidungen unterstützen. Trotzdem ist wenig darüber bekannt, wie Patientinnen und Patienten die Nutzung solcher Systeme bewerten – insbesondere im Hinblick auf Vertrauen, Verantwortung und Mitbestimmung.
Was wurde erforscht?
Zwischen April 2021 und April 2022 wurden in drei Fokusgruppen 18 Patient:innen aus Deutschland befragt. Diskutiert wurden konkrete Anwendungsbeispiele aus der Chirurgie, Nephrologie und der häuslichen Beatmungspflege. Ziel war es, ein besseres Verständnis für die Einstellungen und Bedenken der Teilnehmenden zu gewinnen.
Die wichtigsten Ergebnisse:
Die Patient:innen sehen KI-basierte Systeme vor allem als zusätzliche Orientierung – eine Art „zweite Meinung“. Gleichzeitig äußerten viele eine grundlegende Unsicherheit und Sorge um den Verlust von Vertrauen und Selbstbestimmung. Besonders sensibel zeigte sich das Verhältnis zwischen menschlicher Verantwortung und maschineller Empfehlung.
Was bedeutet das?
Die Studie zeigt: Damit KI-Anwendungen in der Medizin erfolgreich und verantwortungsvoll integriert werden können, müssen Patient:innen frühzeitig einbezogen und verständlich informiert werden. Nur so kann Vertrauen aufgebaut und ein selbstbestimmter Umgang mit digitalen Technologien gefördert werden. Die Ergebnisse liefern wichtige Impulse für die ethisch informierte Weiterentwicklung von KI in der medizinischen Praxis.
Zu der Publikation: Schneider D, Liedtke W, Klausen AD, Lipprandt M, Funer F, Bratan T, Heyen NB, Aichinger H, Langanke M. Indecision on the use of artificial intelligence in healthcare—A qualitative study of patient perspectives on trust, responsibility and self-determination using AI-CDSS. DIGITAL HEALTH. 2025;11. doi:10.1177/20552076251339522
Das Projekt DESIREE wurde vom BMBF gefördert. (Förderkennzeichen: 01GP1911D)
Zu dem Projekt DESIREE: https://desiree-forschung.de/desiree/teilprojekte/
