KI-gestützte Systeme, die in der Arztpraxis bei der Dokumentation mitlaufen, benötigen nach Auffassung der Kassenärztlichen Bundesvereinigung (KBV) nicht generell eine Einwilligung der Patienten. Sie müssen allerdings über die Datenverarbeitung informiert werden. Darauf hat KBV-Justiziar Dr. Christoph Weinrich am Mittwoch auf der Veranstaltung „KI erleben“ hingewiesen, die von KV Hamburg und KBV in der Hansestadt organisiert worden war.

©KBV Weinrich informierte am Mittowch in Hamburg über die rechtluche Seite von KI-Anwendungen. Die Verantstaltung ist Teil der "KI-Roadshow" der KBV.

„Wir sind der Auffassung, dass es hier reicht, die Patienten zu informieren“, sagte Weinrich mit Blick auf Systeme, die Gespräche erfassen und daraus die ärztliche Dokumentation unterstützen. Diese Rechtsauffassung sei bislang „unwidersprochen geblieben“. Die Information der Patienten sei allerdings erforderlich.

Damit adressierte der Jurist eine der Fragen, die sich für Praxen beim Einsatz von KI-gestützter Spracherkennung und automatisierter Dokumentation besonders häufig stellen: Muss jeder Patient vorab ausdrücklich zustimmen, wenn ein solches System während des Arzt-Patienten-Gesprächs eingesetzt wird?

Nach Auffassung der KBV lautet die Antwort grundsätzlich: nein.

Dokumentationspflicht als rechtlicher Anknüpfungspunkt

Weinrich begründete dies unter anderem mit der ohnehin bestehenden ärztlichen Dokumentationspflicht. Die Dokumentation sei kein Selbstzweck. Er verwies auf Artikel 9 DSGVO sowie auf die gesetzliche Pflicht des Arztes, die wesentlichen Schritte einer Behandlung zu dokumentieren.

Eine Einwilligung für jede KI-gestützte Dokumentation zu verlangen, hält der KBV-Jurist auch praktisch für problematisch. Denn dann müsste dem Patienten im Rahmen der Einwilligung erläutert werden, wie die entsprechende Datenverarbeitung funktioniert. Für die normale Unterstützung der Dokumentation sei stattdessen die Information über die Datenverarbeitung der entscheidende Punkt.

Eine Grenze zog Weinrich allerdings dort, wo medizinische Daten nicht lediglich zur Dokumentation verarbeitet, sondern zum Lernen eines Systems verwendet werden. Bei lernenden Systemen, die mit medizinischen Daten trainiert werden, könne eine Einwilligung erforderlich sein. Für die in der Praxis eingesetzten Dokumentationssysteme sei dies nach seiner Einschätzung jedoch nicht der Regelfall.

Datenschutz-Folgenabschätzung kann erforderlich sein

Mit der Patienteninformation allein sind die datenschutzrechtlichen Pflichten der Praxis allerdings nicht zwingend erledigt. In bestimmten Fällen könne eine Datenschutz-Folgenabschätzung erforderlich werden, erläuterte Weinricht. Das gelte insbesondere, wenn große Mengen an Daten verarbeitet würden – etwa bei Dokumentationssystemen, die während der Behandlung mitlaufen.

Praxen müssten dann prüfen, welche Daten verarbeitet werden, welche Risiken daraus entstehen und wie diese Risiken begrenzt werden können. Als Beispiel nannte Weinrich einen unbeabsichtigten Datenabfluss und dessen Absicherung durch entsprechend geschützte Server.

Er versuchte zugleich, den damit verbundenen Aufwand einzuordnen. Eine Datenschutz-Folgenabschätzung sei im Grunde eine strukturierte Aufstellung von Datenverarbeitung, möglichen Risiken und den Maßnahmen, mit denen diese Risiken minimiert werden. Gute Hersteller sollten Praxen dafür Muster zur Verfügung stellen.

Hersteller sollen Datenschutz-Unterlagen mitliefern

Auch einen gegebenenfalls notwendigen Auftragsverarbeitungsvertrag sprach Weinrich an. Ein solcher Vertrag komme insbesondere dann ins Spiel, wenn die Daten nicht unmittelbar auf Servern der Praxis verarbeitet beziehungsweise gehostet werden. Er soll sicherstellen, dass der beauftragte Anbieter den Schutz der Patientendaten entsprechend den datenschutzrechtlichen Vorgaben gewährleistet.

Die KBV sieht dabei ausdrücklich auch die Hersteller in der Verantwortung. Praxen sollten die für den rechtssicheren Einsatz benötigten Unterlagen nicht mühsam selbst erstellen müssen.

„Sie sind ja kein Bittsteller“, sagte Weinrich mit Blick auf das Verhältnis der Praxen zu den Softwareanbietern. Die Hersteller wollten mit ihren Systemen Geld verdienen und müssten deshalb nach seiner Auffassung auch die notwendigen Unterlagen liefern. Dazu zählte er beispielsweise Muster für eine Datenschutz-Folgenabschätzung und für die Patienteninformation. Auch die KBV wolle hierzu „zeitnah“ weitere Unterstützung anbieten.

„Ein ganz ermutigendes Ja“ zum KI-Einsatz

Grundsätzlich warb der KBV-Justiziar dafür, die rechtlichen Fragen rund um KI nicht als unüberwindbare Hürde für deren Einsatz in den Praxen zu betrachten. Auf die Frage, ob Ärzte KI überhaupt einsetzen dürften, gab er nach eigener Formulierung „ein ganz ermutigendes Ja“. „Selbstverständlich dürfen Sie das“, sagte Weinrich.

Notwendig seien allerdings Leitplanken. Weinrich verglich den Einsatz von KI mehrfach mit dem Autofahren: Dass eine Technik Risiken mit sich bringe, spreche nicht grundsätzlich gegen ihre Nutzung. Entscheidend sei, die Regeln zu kennen und die Technik entsprechend zu beherrschen.

Für Praxen ist dabei nach seiner Darstellung zunächst wichtig, zwischen administrativen und medizinischen Anwendungen zu unterscheiden. KI, die Verwaltungs- und Dokumentationsaufgaben übernimmt, ist rechtlich anders zu beurteilen als ein System, das unmittelbar im medizinischen Kontext eingesetzt wird – beispielsweise bei der Beurteilung radiologischer Aufnahmen.

Bei medizinischer KI muss der Mensch die Kontrolle behalten

Je näher eine KI an medizinische Entscheidungen heranrückt, desto wichtiger wird die menschliche Aufsicht. Ärzte dürften einem System die medizinische Beurteilung nicht einfach vollständig überlassen. Sie müssten überprüfen, ob das von der Maschine gelieferte Ergebnis tatsächlich richtig ist. Die „menschliche Aufsicht“ sei gerade bei medizinischen Anwendungen entscheidend, betonte Weinrich.

Hinzu kommt die Zweckbestimmung des jeweiligen Produkts. Praxen müssten darauf achten, wofür ein System vorgesehen und gegebenenfalls zertifiziert sei, und es innerhalb dieses Einsatzbereichs verwenden.

Weinrich appellierte deshalb an Praxisinhaber, sich vor einer Anschaffung intensiv mit der jeweiligen Software auseinanderzusetzen. Entscheidend sei, dass aus den Herstellerinformationen verständlich werde, „was das bringen kann und was es nicht“ und wofür ein System nicht eingesetzt werden sollte. Die Anschaffung einer KI-Lösung sei schließlich auch eine betriebswirtschaftlich wichtige Entscheidung.

Vorsicht bei KI-generierten Gutachten

Schwieriger wird die Abgrenzung, wenn ein KI-System nicht nur dokumentiert oder Texte strukturiert, sondern selbst medizinisch relevante Wertungen vornimmt. In der auf Weinrichs Vortrag folgenden Diskussion wurde dies insbesondere mit Blick auf Psychotherapie, Anamnese und Gutachten thematisiert.

Der Jurist räumte ein, dass hier Graubereiche entstehen. Wenn eine KI etwa Informationen aus einer Anamnese gewichte oder bei einer Analyse Wertungen vornehme, könne fraglich sein, ob noch von einer rein administrativen Anwendung gesprochen werden könne. Wo die fachlich sinnvollen Grenzen liegen, sei nicht allein von Juristen zu beantworten. Hier seien auch die medizinischen Fachgesellschaften gefragt. Eine relevante medizinische Bewertung dürfe jedenfalls nicht einfach vollautomatisiert erfolgen.

Bei Gutachten riet Weinrich derzeit zu besonderer Zurückhaltung. Ein System, das lediglich Textvorschläge liefert, die anschließend vom Arzt eigenständig bearbeitet werden, sei anders zu beurteilen als eine KI, der sämtliche Daten übergeben werden und die daraus autonom ein Gutachten erstellt.

„Ich würde diesen Bereich mit äußerster Vorsicht genießen“, sagte Weinrich. Sein Rat sei derzeit, sich beim Einsatz entsprechender Systeme im „klar grünen Bereich“ zu bewegen. Vollautonome Systeme zur Gutachtenerstellung, deren Einsatz er für unproblematisch halten würde, seien ihm gegenwärtig nicht bekannt.

KBV will Praxen weitere Hilfen geben

Aus dem Publikum kam schließlich die Frage, wer Praxen bei internen KI-Richtlinien und der Schulung ihrer Mitarbeiter unterstützt. Weinrich stellte hierzu weitere Hilfen der KBV in Aussicht. Dabei soll es unter anderem darum gehen, Praxisbeschäftigten vorzugeben, in welchem Rahmen bestimmte KI-Anwendungen eingesetzt werden dürfen.

„Auch da werden wir zeitnah was bereitstellen“, kündigte der KBV-Jurist an.