Kommentar zu „Künstliche Intelligenz im Gesundheitswesen wird positiv bewertet“

*** Die rasant ansteigende Anzahl von Publikationen zum Einsatz Künstlicher Intelligenz (KI) im Gesundheitswesen spiegelt das große Interesse und den entsprechend hohen Forschungsbedarf wider. In der hier vorliegenden Befragungsstudie untersuchen Fritsch et al. die Haltung unserer Patienten und deren Angehöriger bezüglich eines zunehmenden Einsatzes der KI im Rahmen der Krankenversorgung.

Die Verteilung von Alter und Geschlecht der Befragten innerhalb der Studienkohorte entspricht in etwa der gesamtdeutschen Population. 90 % der Befragten gaben an, bereits von KI in der Medizin gehört zu haben und jeder 2. Befragte wertete deren Einsatz als positiv. Allerdings kenne sich nur jeder 4. wirklich damit aus. Der Einsatz von KI könnte die Behandlung unserer Patienten verbessern. Beispielsweise ermöglicht der Einsatz von KI die Integration von Genom-, Proteom- und Radiomdaten zur erfolgreichen Vorhersage von Krebserkrankungen [1].

Ältere, weibliche oder weniger gebildete Personen sowie Personen mit geringer Technikaffinität standen der KI im Gesundheitswesen skeptischer gegenüber. Die Entscheidung des Arztes ist nach wie vor für den Patienten wichtiger als eine rein KI-basierte Behandlung. Darüber hinaus sollte der Arzt eine KI-basierte Medizin jederzeit überwachen [2]. Ist das aber wirklich möglich und notwendig? Die hier deutlich werdende Skepsis veranschaulicht unserer Meinung nach eine entscheidende und grundsätzlich zu klärende Frage in Bezug auf die Implementierung von KI in der Medizin: Wer trägt letztendlich die Verantwortung für eine KI-basierte Behandlung unserer Patienten? Dieses ethische Dilemma wurde bereits mehrfach kontrovers diskutiert, ohne allerdings die Frage letztlich beantworten zu können [3].

Vorausgesetzt wir entwickeln KI-basierte Therapiestrategien, liegt es doch in der Natur der Sache, dass diese dann eben nicht mehr durch den einfachen Menschenverstand kontrollierbar wäre. Schon gar nicht durch die Auffassungsgabe eines einzelnen Arztes. Die Ausbildung der Ärzte zielt auf die Vermittlung von fundiertem Wissen über Physiologie, Biochemie, Anatomie, Krankheitslehre und die korrekte körperliche Untersuchung unserer Patienten ab. KI-basierte Diagnostik- & Therapieansätze stellen für Mediziner einen komplett neuen Ansatz dar, der aufgrund der komplexen mathematischen und statistischen Hintergründe für viele eine Art Black Box ist. Demgegenüber könnten Informatiker oder Softwareentwickler möglicherweise die zugrunde liegenden KI-Algorithmen verstehen. Die wenigsten Patienten wollen allerdings, dass Informatiker oder Softwareentwickler und nicht mehr wir Ärzte die Therapiehoheit innehaben. Zukünftig werden wir uns somit mit der schwierigen Frage auseinandersetzen müssen, ob die Medizin als reine Naturwissenschaft durch KI-basierte Algorithmen und die Auswertung von unzähligen Variablen letztendlich besser und zuverlässiger ist als eine rein menschliche, ärztliche Entscheidung. Der interdisziplinäre Austausch, wie z. B. im Rahmen von Tumorkonferenzen, würde überflüssig werden. Aber was bedeutet der Faktor Arzt dann überhaupt noch in der Medizin? Will bzw. kann ein Arzt für die KI-basierte Medizin überhaupt noch die Verantwortung übernehmen, wenn er sie gar nicht mehr versteht?

Diese Fragen werden zwar nicht durch Fritsch et al. in der hier vorliegenden Arbeit beantwortet, allerdings regt sie zum intensiven Nachdenken über eine zukünftige KI-basierte Medizin an. Der Wunsch nach einer sicheren, effektiven, modernen aber eben auch menschlichen Medizin wird dabei deutlich. Diese mit Hilfe der KI weiterzuentwickeln und gleichzeitig den Bedürfnissen unserer Patienten sowie dem Anspruch auf ärztliche Therapiehoheit zu entsprechen, stellt eine enorm große Herausforderung dar.

Publication History

Article published online:
02 April 2024

• Literatur

• 1 Noorbakhsh-Sabet N, Zand R, Zhang Y. et al. Artificial Intelligence Transforms the Future of Health Care. Am J Med 2019; 132: 795-801 DOI: 10.1016/j.amjmed.2019.01.017. (PMID: 30710543)
• 2 Richardson JP, Smith C, Curtis S. et al. Patient Apprehensions about the Use of Artificial Intelligence in Healthcare. Npj Digit Med 2021; 4: 1-6 DOI: 10.1038/s41746-021-00509-1.
• 3 Bærøe K, Gunderse T, Henden E. et al. Can Medical Algorithms Be Fair? Three Ethical Quandaries and One Dilemma. BMJ Health Care Inform 2022; 29: e100445 DOI: 10.1136/bmjhci-2021-100445.