Brave New Psychiatry? Oder: Wohin führt die Künstliche Intelligenz die Psychiatrie?

Zusammenfassung

Ein kritischer Überblick über Publikationen zur Anwendung von „lernenden Algorithmen“ und „künstlichen neuronalen Netzen“ in der Psychiatrie führt in ein dystopisches Zukunftszenario. Dem Ansatz einer Nosologie auf molekularbiologischer Basis wird ein aus der kritischen Auseinandersetzung mit der Geschichte und im Dialog mit den Betroffenen entwickeltes ökologisches Störungskonzept der Psychiatrie gegenübergestellt.

Abstract

The article summarizes various publications on the application of “learning algorithms” and “artificial neural networks” in psychiatry to describe a dystopian future scenario. The draft of a nosology based on molecular biology is opposed to the ecological disturbance concept of psychiatry developed from the critical examination of history and in dialogue with the stakeholders.

Schlüsselwörter

Psychiatrie - Künstliche Intelligenz - Dystopie - Ökologie

Keywords

psychiatry - artificial intelligence - dystopia - ecology

Publikationsverlauf

Artikel online veröffentlicht:
02. März 2021

• Literatur

• 1 Lem S. Solaris. Kraków: Wydawnictwo Literackie; 1969. Deutsch: Solaris. Düsseldorf: Claassen; 1981
• 2 Virtual Reality Animation. Mutter trifft verstorbene Tochter. (14.02.2020). Im Internet: (Stand: 13.03.2020) https://www.spiegel.de/wissenschaft/technik/virtual-reality-in-suedkorea-mutter-trifft-verstorbenes-kind-a-afa81293-5369-4b5f-8f63-c78ba39ef1f2
• 3 Dumbill E. What is Big Data? An introduction to the big data landscape. Im Internet: (Stand: 13.03.2020) https://web.archive.org/web/20140423230830/http://strata.oreilly.com/2012/01/what-is-big-data.html
• 4 Meyer-Lindenberg A. Künstliche Intelligenz in der Psychiatrie – ein Überblick. Nervenarzt 2018; 89: 861-868
• 5 Bzdok D, Karrer TM, Habel U. et al. Big-Data-Ansätze in der Psychiatrie: Beispiele aus der Depressionsforschung. Nervenarzt 2018; 89: 869-874
• 6 Alhanai T, Ghassemi M, Glass J. Detecting Depression with Audio/Text Sequence Modeling of Interviews. Interspeech 2018. 2–6 September 2018. Hyderabad. Im Internet: (Stand: 10.07.2020) https://pdfs.semanticscholar.org/2f75/2916c7dd74a3b7e44a3a4c21bce8d57b0fc4.pdf
• 7 Matheson R. Model can more naturally detect depression in conversations. Neural network learns speech patterns that predict depression in clinical interviews. Im Internet: (Stand: 10.07.2020) http://news.mit.edu/2018/neural-network-model-detect-depression-conversations-0830
• 8 Insel TR. Digital phenotyping: a global tool for psychiatry. World Psychiatry 2018; 17: 276-277
• 9 Fraser H, Coiera E, Wong D. Safety of patient-facing digital symptom checkers. Lancet 2018; 392: 2263-2264 DOI: 10.1016/S0140-6736(18)32819-8.
• 10 Nagendran M, Chen Y, Lovejoy CA. et al. Artificial intelligence versus clinicians: systematic review of design, reporting standards, and claims of deep learning studies. BMJ 2020; 368: m689 DOI: 10.1136/bmj.m689.
• 11 Meier-Borst H. Diese App sollte den Arztbesuch überflüssig machen – doch die Nutzer bewirkten das Gegenteil. (17.12.2017). Im Internet: (Stand: 13.03.2020) https://t3n.de/news/arzttermin-gedaddelt-babylon-health-884972/
• 12 Greene T. MIT’s depression-detecting AI might be its scariest creation yet. Im Internet: (Stand: 13.03.2020) https://thenextweb.com/artificial-intelligence/2018/09/05/mits-depression-detecting-ai-might-be-its-scariest-creation-yet/
• 13 Stumme W. Psychische Erkrankungen im Urteil der Bevölkerung. Eine Kritik der Vorurteilsforschung. München: Urban und Fischer; 1982
• 14 Sartorius N. Iatrogenic stigma of mental illness. BMJ 2002; 324: 1470-1471
• 15 Breneise R, Schäfer M, Schomerus G. et al. Werden besonders Patienten mit einer Persönlichkeitsstörung vom Borderline-Typ durch das psychiatrische Pflegepersonal stigmatisiert?. Psychiat Prax 2020; 47: 35-38
• 16 Schneider F. Psychiatrie im Nationalsozialismus. Erinnerung und Verantwortung. Rede auf dem DGPPN-Kongress am 23.11.2010. Im Internet: (Stand: 26.08.2020) https://www.dgppn.de/schwerpunkte/psychiatrie-im-nationalsozialismus/rede-schneider.html
• 17 Heinz A. Psychische Gesundheit. Begriff und Konzepte. Stuttgart: Kohlhammer; 2016. 45–46. 92
• 18 Bock T, Klapheck K, Ruppelt F. Sinnsuche und Genesung. Erfahrungen und Forschungen zum subjektiven Sinn von Psychosen. Köln: Psychiatrie Verlag; 2014: 36
• 19 Canales A. Can AI help diagnose depression? It’s a long shot. Massive Science. Im Internet: (Stand: 13.03.2020) https://massivesci.com/articles/depression-ai-machine-learning-diagnosis-treatment-mental-health/
• 20 Krüger-Brand HE. Den Gender-Bias vermeiden. Dtsch Arztebl 2020; 117: A-478-482
• 21 Gierlinger M. Rassismus und Algorithmen. Warum Tech-Konzerne der Gesichtserkennung abschwören. Im Internet: (Stand: 12.06.2020) https://www.sueddeutsche.de/digital/microsoft-gesichtserkennung-rassismus-1.4934730
• 22 Bormuth M, Brüne M, Deister A. et al. Zur Identität der Psychiatrie. Psyche im Focus 2020; 37-41
• 23 Fuchs T. Verteidigung des Menschen. Grundfragen einer verkörperten Anthropologie. Berlin: Suhrkamp; 2020: 272
• 24 Deutscher Ethikrat. Robotik für gute Pflege. Stellungnahme. Berlin: 2020: 49-53 Im Internet: (Stand: 19.01.2021) https://www.ethikrat.org/fileadmin/Publikationen/Stellungnahmen/deutsch/stellungnahme-robotik-fuer-gute-pflege.pdf