key: cord-0698056-a07xk173 authors: Helle (née Rübsamen), Katrin title: Intelligente Medizinprodukte: Ist der geltende Rechtsrahmen noch aktuell? date: 2020-12-04 journal: Medizinrecht DOI: 10.1007/s00350-020-5726-5 sha: a8d4d9f8eadbfb754bc9794243223e69480a0976 doc_id: 698056 cord_uid: a07xk173 nan kürzlich ein Berichtsentwurf des Europäischen Parlaments über die zivilrechtliche Haftung beim Einsatz von KI 2 . Obwohl Medizinprodukte, die auf KI basieren, bereits für den Vertrieb durch die U. S. Food and Drug Administration (FDA) zugelassen wurden 3 , sind diverse rechtliche Fragen ungeklärt. Je größer das Entwicklungspotenzial intelligenter Medizinprodukte, Menschen in die Lage zu versetzen, noch nicht erreichte Intelligenz zu entwickeln und zur Lösung einiger der größten Herausforderungen der Menschheit beizutragen, beispielsweise der Vorhersage von Krankheitsausbrüchen und Virusverbreitung 4 , umso bedeutender wird die Evaluierung ihrer rechtlichen Rahmenbedingungen. Mit ihren Veröffentlichungen haben Kommission und Parlament einen wichtigen Diskurs der Interessenträger angestoßen, dessen Stand der nachfolgende Beitrag im Überblick aufzeigt. Hierbei wird unter KI eine Software verstanden, die in Bezug auf ein vorgegebenes Ziel Daten erfasst und interpretiert, Schlussfolgerungen daraus zieht oder abgeleitete Informationen verarbeitet und über das bestmögliche Handeln zur Erreichung des vorgegebenen Ziels entscheidet, wobei die Software in der Lage ist, die Auswirkungen früherer Handlungen auf die Umgebung zu analysieren und ihr Verhalten entsprechend anzupassen. Hierfür nutzt die Software große Mengen an Daten, die sie selbstständig auswertet 5 . KI ist zu abstrahierendem Denken im Wege des Vergleichens fähig und durch sog. Deep Learning in der Lage, sich unabhängig von ihrer menschlichen Programmierung zu entwickeln 6 . In der Medizin kann durch den Einsatz von KI zur Unterstützung ärztlicher Entscheidungen aus Hardware, Komponenten oder Software ein "intelligentes" Medizinprodukt werden. Die rechtlichen Rahmenbedingungen für intelligente Medizinprodukte finden sich insbesondere im Medizinprodukterecht, Haftungsrecht und Datenschutzrecht. Ob KI der medizinprodukterechtlichen Regulierung unterliegt, richtet sich gegenwärtig nach dem Medizinproduktegesetz (MPG) 7 . Mit Wirkung v. 26. 5. 2021 gelten anstelle dessen die Medizinprodukteverordnung (MDR) 8 und das Medizinprodukterecht-Durchführungsgesetz (MPDG). Ab dem 26. 5. 2022 wird ferner die In-vitro-Diagnostika Verordnung (IVDR) 9 gelten. Im Weiteren geht der Beitrag schwerpunktmäßig auf die künftige Rechtslage ein. Auslegungshilfen enthalten die rechtlich unverbindlichen Leitlinien der Koordinierungsgruppe Medizinprodukte zur Qualifizierung und Klassifizierung von Software gemäß MDR und IVDR 10 Entspricht die Verwendung eines intelligenten Medizinprodukts nicht dem medizinischen Standard, kann das im Schadensfall haftungsbegründend wirken. Zum Standard wird eine Behandlungsmethode, wenn sie an einer ausreichend großen Patientenzahl erprobt, in der medizinischen Wissenschaft im Wesentlichen außer Streit steht und risikoärmer oder weniger belastend ist oder bessere Heilungschancen bietet 67 . KI hat durch ihre Fähigkeit zu lernen und sich stetig zu verbessern das Potenzial, präzisere Diagnosen und Therapieempfehlungen zu liefern als dies mit dem menschlichen Verstand möglich ist und wird deshalb voraussichtlich rasch zum medizinischen Standard avancieren 68 . Bis dahin würde die Verwendung intelligenter Medizinprodukte nicht zwangsläufig einen groben Behandlungsfehler bedeuten, sofern der Arzt dem strengen Sorgfaltsmaßstab für neue Methoden genügt 69 . Haftungsbegründende Fehler können in der Diagnosestellung, Therapieauswahl oder -durchführung, der Überwachung oder Nachsorge liegen, sofern der Behandler hierbei objektiv Falsches getan oder Richtiges unterlassen hat 70 . Im Rahmen seiner Sorgfaltspflicht hat der Arzt dafür Sorge zu tragen, dass die von einer KI gelieferten und seiner Diagnose oder Therapie zugrunde gelegten Informationen richtig sind. Liegen Indizien für eine Fehlerhaftigkeit von Informationen vor, darf der Arzt sie nicht verwenden. Je gefährlicher eine fehlerhafte Information für den Patienten wäre, desto kritischer muss die ärztliche Bewertung sein 71 Mit dem Gesetz für den Schutz vor Masern und zur Stärkung der Impfprävention (Masernschutzgesetz) wurden mit Wirkung zum 1. 3. 2020 1 Personen verpflichtet, die nach dem 31. 12. 1970 geboren sind und in einer Gemeinschaftseinrichtung 2 betreut 3 werden oder tätig sind 4 , einen ausreichenden Impfschutz gegen Masern oder ab der Vollendung des ersten Lebensjahres eine Immunität gegen Masern aufzuweisen ( § 20 Abs. 8 S. 1 IfSG) 5 . Eine Ausnahme gilt für Personen, die aufgrund einer medizinischen Kontraindikation nicht geimpft werden können ( § 20 Abs. 8 S. 4 IfSG). Die Reaktionen im Internet belegen, dass das Gesetz Wasser auf die Mühlen von Impfgegnern, Impf kritikern, Verteidigern der Menschenwürde und selbsternannten Medizinjournalisten war 6 . In Foren wird sich über Umgehungsstrategien ausgetauscht. In einem Eilverfahren hat das BVerfG 7 einen Antrag auf Erlass einer einstweiligen Anordnung 8 abgelehnt. Dies sagt noch nichts über die Vereinbarkeit mit dem Verfassungsrecht aus 9 , sondern stellt lediglich fest, dass das Interesse an einer vorläufigen Aussetzung des Gesetzes hinter den Interessen an einer vorläufigen Weitergeltung zurücktritt 10 . Die Corona-Pandemie hat auch zu Vorschriften zum Schutz von anderen geführt. In den Landesverordnungen finden sich Regelungen über das verpflichtende Tragen von Mund-Nasen-Bedeckungen in bestimmten Situationen (Fahrzeuge des öffentlichen Personennah-und -fernverkehrs, Verkaufsstätten und ähnliche Einrichtungen, etc.) 11 Kipker, Cybersecurity, Rechtshandbuch Bisher § 291 a Abs. 6 S. 3-5 SGB V a § 309 Abs. 1, Abs. 3 SGB V i. V. mit § 195 BGB Entwurf eines Berichts mit Empfehlungen an die Kommission zu zivilrechtlicher Haftung beim Einsatz künstlicher Intelligenz v fda-permits-marketing-artificial-intelligence-based-device-detect-certain-diabetes-related-eye, sowie eine Software, die Diagnosen von Handgelenksfrakturen unterstützt Zur Funktionsweise lernender Algorithmen in der Medizin näher Katzenmeier Das MPG setzt die Medizinprodukterichtlinie 93/42/EWG, geänd /745 über Medizinprodukte, geänd. durch Berichtigungen ABl. EU L 117 v. 3. 5. 2019, S. 9 und ABl. EU L 334 v /746 über In-vitro-Diagnostika, geänd MDCG 2019-11 Guidance on Qualification and Classification of Software in Regulation EU Manual on Borderline Classification in the Community Regulatory Framework for Medical Devices EuZW 2018, 166, 167 f., Rdnrn. 23 f., 28 ff Software driving or influencing the use of a device Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) § 2 ProdHaftG, Rdnrn. 64 ff.; Reusch NJW 2020, 2142, 2145 m. w. N und Fn. 35; Oechsler Rechtshandbuch Artificial Intelligence und Machine Learning Die Kommission erwägt, Anforderungen nur für KI-Systeme mit "hohem Risiko Rechtshandbuch Artificial Intelligence und Machine Learning Rechtshandbuch Artificial Intelligence und Machine Learning § 3 ProdHaftG, Rdnrn. 12 f.; Wagner Laufs/dies., Handbuch des Arztrechts, 5. Aufl. 2019, § 97, Rdnr. 50; Dierks BGHZ 168, 103, 105 f.; Katzenmeier, NJW Laufs/dies., Handbuch des Arztrechts, 5. Aufl. 2019, § 97, Rdnrn Die gesetzliche Vermutung hat nach § 292 S. 1 ZPO die Wirkung einer Beweislastumkehr Kaulartz/Braegelmann (Hrsg.), Rechtshandbuch Artificial Intelligence und Machine Learning, 2020, S. 141. Die Verrichtungsgehilfeneigenschaft bejaht etwa Denga Bericht zur Haftung, S. 6, Rdnrn. 9, 10. Hierfür plädiert auch Spindler Rechtshandbuch Artificial Intelligence und Machine Learning /679 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Auf hebung der Richtlinie Rechtshandbuch Artificial Intelligence und Machine Learning, 2020, S. 340 ff. und Paal, ebd Taeger/Gabel, DSGVO, 3. Aufl. 2019, Art. 4, Rdnrn Rechtshandbuch Artificial Intelligence und Machine Learning, 2020, S. 352 f. und Paal, ebd., S. 440 und Brink/Bäßler/Groß-Karreis, ebd Rechtshandbuch Artificial Intelligence und Machine Learning Kaulartz/Braegelmann (Hrsg.), Rechtshandbuch Artificial Intelligence und Machine Learning Zu Art. 22 ausführlich von Walter d aten schut z kon feren z -on l i ne.de/med i a / en/20190405_hambacher_erklaerung.pdf; Empfehlungen für eine datenschutzkonforme Gestaltung von KI-Systemen DSK Empfehlungen für eine datenschutzkonforme Gestaltung von KI-Systemen v. 6. 11 § 33 Nr. 1 bis 3 IfSG: Kindertageseinrichtungen und Kinderhorte, nach § 43 Abs. 1 SGB VIII erlaubnispflichtige Kindertagespflege Die Verpflichtung gilt auch für Personen, die bereits vier Wochen in einem Heim ( § 33 Nr. 4 IfSG) betreut werden oder in einer Einrichtungen zur gemeinschaftlichen Unterbringung von Asylbewerbern, vollziehbar Ausreisepflichtigen, Flüchtlingen und Spätaussiedlern ( § 36 Abs. 1 Nr. 4 IfSG) untergebracht sind Auch Tätige in weiteren Einrichtungen nach den § 23 Abs. 1 und § 36 Abs. 1 IfSG Quelle: Internet oder Youtube, um die Zitierung der selbsternannten "Experten" aufzugreifen Antrag und Verfassungsbeschwerde betreffen ein Elternpaar und ihre beiden ungeimpften Kinder, bei denen weder eine Kontraindikation noch eine Immunität vorliegen Die Verfassungsbeschwerde ist zumindest nicht von vornherein unzulässig oder offensichtlich unbegründet Zur Frage der Verfassungsmäßigkeit des § 20 Abs. 8 S. 3 IfSG: Schaks, MedR 2020 Beispielsweise: § 1 Abs. 6 S. 1 und § 3 Abs. 1 S. 1 Verordnung zur Beschränkung von sozialen Kontakten und des Betriebes von Einrichtungen und von Angeboten aufgrund der Corona-Pandemie (Corona-Kontakt-und Betriebsbeschränkungsverordnung) i. d. F. der am 6. 7. 2020 in Kraft tretenden Änderungen durch Art. 3 der Fünfzehnten Verordnung zur Anpassung der Verordnungen zur Bekämpfung des Corona-Virus Programm des deutschen Vorsitzes im Rat der EU, S. 5, abrufbar unter 90 . Zuversichtlich stimmt die Äußerung der DSK 91 , "dass der Einsatz von KI-Systemen und der Datenschutz keine zwingenden Gegensätze sind. Die Chancen und neuen Möglichkeiten des Einsatzes von KI-Systemen werden durch einen modernen Datenschutz nicht verhindert." Sollten Datenschutzvorgaben, die nicht unbedingt notwendig für den Schutz der Privatsphäre sind, die Entwicklung von KI-Anwendungen (doch) einschränken oder gar behindern, ist der europäische Gesetzgeber zu Nachbesserungen an der DSGVO oder der Schaffung spezialgesetzlicher Regelungen aufgerufen 92 . Die Diskussion zu der digitalen Zukunft und dem Rechtsrahmen für den Einsatz intelligenter Medizinprodukte ist angestoßen. Mit ihrem Weißbuch und dem begleitenden Bericht präsentierte die Kommission wichtige Impulse für den künftigen Umgang mit KI und stellte politische Optionen mit dem Ziel vor, die Entwicklung und Nutzung der KI in einem europäischen Regulierungsrahmen zu fördern. Auf Grundlage des Konsultationsverfahrens und