Rechtliche Aspekte des Einsatzes von KI und Robotik in Medizin und Pflege
Authors:
Open Access
- 17 April 2023
- journal article
- research article
- Published by Springer Nature in Ethik in der Medizin
- Vol. 35 (2) , 247-263
Abstract
Zusammenfassung: Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz und Robotik stellen nicht nur die Ethik, sondern auch das Recht vor neue Herausforderungen, gerade im Bereich der Medizin und Pflege. Grundsätzlich hat der Einsatz von KI dabei das Potenzial, sowohl die Heilbehandlungen als auch den adäquaten Umgang im Rahmen der Pflege zu erleichtern, wenn nicht sogar zu verbessern. Verwaltungsaufgaben, die Überwachung von Vitalfunktionen und deren Parameter sowie die Untersuchung von Gewebeproben etwa könnten autonom ablaufen. In Diagnostik und Therapie können Systeme die behandelnde Ärztin unterstützen. Intelligente Betten ermöglichen eine Frühmobilisierung der Patient:innen bei gleichzeitig geringerem Personalaufwand. Gleichwohl birgt der Einsatz der Systeme rechtliche Herausforderungen. So besteht das Risiko einer Verletzung der beteiligten Personen. Im Gegensatz zu herkömmlichen Technologien „leidet“ KI unter der „Black-Box-Problematik“: Die von den Systemen generierten Ergebnisse sind nicht mehr vollständig vorhersehbar und nachvollziehbar. Der Einsatz birgt unbekannte und unkalkulierbare Risiken, was sich insbesondere auf die zivilrechtliche Haftung und strafrechtliche Verantwortung auswirkt. Wem die Entscheidungen der Systeme normativ zuzurechnen sind, ist eine Kernfrage des juristischen Diskurses. Die aus praktikabilitätsgründen naheliegende Wahl, dem letztentscheidenden Menschen das Verhalten eines KI-Systems zuzurechnen, überzeugt nicht in allen Fällen, sondern degradiert ihn häufig zum symbolischen Haftungsknecht und legt ihm einseitig die Risiken der Technologien auf. Weiterhin ergeben sich im Bereich der Medizin und Pflege Fragen hinsichtlich der Zulassung von KI-Systemen, da die Maschinen während der Nutzung weiterlernen und so ihren strukturellen Aufbau kontinuierlich verändern. Es ist daher angebracht, sich frühzeitig mit dem Konfliktpotential aus ethischer und rechtlicher Sicht auseinander zu setzen, um einer potenziellen gesellschaftlichen Angst vor derartigen Systemen vorzubeugen und einen praxisgerechten Handlungsrahmen zu schaffen.Keywords
Funding Information
- Gottfried Wilhelm Leibniz Universität Hannover
This publication has 23 references indexed in Scilit:
- Künstliche Intelligenz in der Medizin – Holzweg oder Heilversprechen?HNO, 2019
- Big Data, E-Health, M-Health, KI und Robotik in der MedizinMedizinrecht, 2019
- Wird die ärztliche Aufklärung zur Fiktion? (Teil 2)Medizinrecht, 2019
- Wird die ärztliche Aufklärung zur Fiktion? (Teil 1)Medizinrecht, 2019
- Autonomy in surgical robots and its meaningful human controlPaladyn, 2019
- Zum Einsatz von Robotern im Palliativ- und HospizbereichMedizinrecht, 2018
- E-Health und Gesundheitsapps aus medizinethischer SichtBundesgesundheitsblatt - Gesundheitsforschung - Gesundheitsschutz, 2018
- Autonome Systeme im Krankenhaus2017
- The ethics of algorithms: Mapping the debateBig Data & Society, 2016
- Intelligente Agenten und das StrafrechtZeitschrift für die gesamte Strafrechtswissenschaft, 2014