Seit Anfang August gelten die Transparenzregeln der europäischen KI-Verordnung. Auch Arztpraxen, in denen KI zunehmend zum Alltag gehört, müssen Patienten unter bestimmten Voraussetzungen über ihren Einsatz informieren. Wann ein Hinweis nötig ist und wo er stehen muss, hat Rechtsanwältin Angelika Diarra von der Kanzlei für Gesundheitsrecht in einem Webinar erläutert.

©Kanzlei für Gesundheitsrecht „Spricht oder schreibt die KI nach außen, braucht es einen Hinweis. Hilft sie nur intern, nicht," sagt Rechtsanwältin Angelika Diarra.

Wer KI in der Praxis einsetze, müsse zunächst klären, welche Funktion das System übernimmt, betonte Diarra. Sie unterscheidet zwischen Anwendungen ohne medizinischen Zweck und Systemen, die Ärzte bei Diagnose oder Therapie unterstützen. Zur ersten Gruppe gehören etwa Chatbots, Telefonassistenten, Terminmanagement oder Dokumentationshilfen. Die zweite umfasst beispielsweise Programme, die Bilder auswerten oder Befunde unterstützen.

Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 der KI-Verordnung. Besonders klar seien laut Diarra die Regeln dort, wo ein KI-System unmittelbar mit Patienten kommuniziere. Nehme etwa ein Sprachassistent Anrufe entgegen, müsse zu Beginn des Gesprächs deutlich werden, dass kein Mensch, sondern ein KI-System antworte. Dasselbe gelte für einen Chatbot auf der Praxiswebsite: Der Hinweis müsse vor oder spätestens bei der ersten Interaktion erscheinen.

Dabei reiche es nicht, die Information irgendwo im Kleingedruckten unterzubringen, betonte die Fachanwältin. Entscheidend sei, dass der Patient wahrnehmen könne, „dass er mit einem KI-System spricht“.

Auch bei automatisierten Terminbestätigungen oder Erinnerungen könne ein Hinweis erforderlich sein, wenn das KI-System die Nachricht selbstständig erzeuge und versende.

Die entsprechende Pflicht treffe nach Diarras Darstellung bei Chatbots und Sprachassistenten zunächst den Anbieter des Systems, also in der Regel den Hersteller. Die Arztpraxis sei dagegen meist Betreiberin. Dennoch solle sie vor dem Einsatz prüfen, ob das Tool die vorgeschriebenen Hinweise tatsächlich ausspiele. Sei das nicht der Fall, empfehle es sich, nach einem anderen Anbieter zu suchen.

Ein geprüfter KI-Entwurf muss nicht gekennzeichnet werden

Anders sei es, wenn KI lediglich intern unterstütze. Das könne etwa ein System sein, das einen Arztbrief vorbereite, ein Gespräch transkribiere oder einen Befundbericht entwerfe.

Prüfe der Arzt das Ergebnis anschließend, ändere es gegebenenfalls und gebe es selbst frei, müsse das fertige Dokument nach der KI-Verordnung nicht als KI-generiert gekennzeichnet werden, erklärte Diarra. In diesem Fall kommuniziere nicht die KI selbstständig nach außen.

Ähnliches gelte für Texte auf der Praxiswebsite oder in Newslettern. Werden Inhalte vollständig von einer KI erstellt und ohne menschliche Prüfung veröffentlicht, könne eine Kennzeichnung erforderlich sein. Prüft dagegen ein Mensch den Text und übernimmt die Verantwortung dafür, greift diese Pflicht nach Diarras Darstellung nicht.

Bei KI-generierten Texten, Bildern, Audio- oder Videoinhalten komme es darauf an, wie sie genutzt würden, erläuterte Diarra. Veröffentliche eine Praxis Inhalte, die vollständig von einer KI erstellt worden seien, könne ein Hinweis nötig sein, besonders bei sogenannten Deepfakes.

Medizinische KI folgt anderen Regeln

Weitere Vorgaben kommen ins Spiel, wenn ein KI-System einen medizinischen Zweck erfüllt. Dazu könnten etwa Anwendungen gehören, die Röntgen- oder Fundusbilder analysierten oder Ärzte bei Befunden und Therapieentscheidungen unterstützten.

Solche Systeme könnten Medizinprodukte sein und je nach Klassifizierung zugleich als Hochrisiko-KI unter die KI-Verordnung fallen, erläuterte die Rechtsanwältin. Für die Praxis würden sich daraus zusätzliche Pflichten ergeben. Sie müsse das System beispielsweise entsprechend der Gebrauchsanweisung einsetzen und für eine menschliche Kontrolle sorgen. „Die Hochrisiko-KI braucht immer noch eine menschliche Aufsicht“, betonte sie.

Eine generelle Pflicht, Patienten allein aufgrund des Einsatzes einer solchen medizinischen KI darüber zu informieren, ergebe sich aus der KI-Verordnung jedoch nicht, erklärte Diarra. Die entsprechende Informationspflicht für bestimmte Hochrisiko-Systeme erfasse die Medizinprodukte, um die es typischerweise in Arztpraxen gehe, nicht.

Das bedeute allerdings nicht, dass Ärzte Patienten in keinem Fall informieren müssten. Neben der KI-Verordnung seien weitere rechtliche Vorgaben zu beachten. Je nach Anwendung könnten sich etwa aus der Datenschutz-Grundverordnung oder dem Behandlungsvertrag Informations- oder Aufklärungspflichten ergeben.

Praxen sollten die Hinweise prüfen

Dass manche Transparenzpflichten rechtlich den Anbieter träfen, entlaste die Praxis nach Diarras Einschätzung nicht davon, bei der Auswahl eines Systems genau hinzuschauen.

Setze eine Praxis beispielsweise einen Chatbot ein, der die vorgeschriebenen Hinweise nicht anzeige, könne sich daraus ein wettbewerbsrechtliches Risiko ergeben. Ob Verstöße gegen die KI-Verordnung tatsächlich auf diesem Weg verfolgt werden könnten, sei allerdings noch nicht abschließend geklärt; entsprechende Rechtsprechung gebe es bislang nicht.

Checkliste: Das sollten Praxen jetzt prüfen

Welche KI läuft in der Praxis?

• Alle KI-Tools erfassen – auch KI-Funktionen, die bereits in anderer Software stecken.
• Klären, ob die Praxis Betreiberin oder in Ausnahmefällen selbst Anbieterin ist.
• Zweckbestimmung, CE-Kennzeichnung und Gebrauchsanweisung prüfen und ablegen.
• Festhalten, ob das Tool rein organisatorisch arbeitet oder medizinische Entscheidungen unterstützt.

Sind die nötigen Hinweise vorhanden?

• Prüfen, ob Chatbot und Telefonassistent vor der ersten Interaktion darauf hinweisen, dass Patienten mit KI kommunizieren.
• Prüfen, ob synthetisch erzeugte Inhalte technisch gekennzeichnet werden, soweit dies erforderlich ist.
• Bei veröffentlichten KI-Texten und -Bildern klären, ob eine Kennzeichnung nötig ist.
• Hinweise so formulieren und platzieren, dass Patienten sie tatsächlich wahrnehmen und verstehen.

Sind die Abläufe geregelt?

• Team im Umgang mit KI schulen und die erforderliche KI-Kompetenz nachweisen.
• Verantwortliche Person für die KI-Hinweise in der Praxis bestimmen.
• Hinweise auf Website, in Datenschutzinformationen, am Telefon und an der Anmeldung aufeinander abstimmen.
• Prüfen, ob die seit 2. August 2026 geltenden Vorgaben aus Artikel 50 bereits umgesetzt sind.