05400 KI-Regulierung

Dieser Beitrag untersucht die Herausforderungen, die mit der Implementierung von KI in vernetzte Systeme von Krankenhäusern einhergehen, insbesondere hinsichtlich Datenschutz, IT-Sicherheit und ethischen Aspekten. Es wird die Notwendigkeit einer klaren Regulierung hervorgehoben, um einen verantwortungsvollen Einsatz von KI zu gewährleisten, was die EU-KI-Verordnung und die EU-Medizinprodukteverordnung einschließt. Der Beitrag bietet Einblicke in den aktuellen Stand der Regulierung, erläutert die Anforderungen und Pflichten für Hochrisiko-KI-Systeme und beschreibt die damit verbundenen Möglichkeiten zur Haftungsminderung und Vertrauensbildung. Abschließend wird auf die Bedeutung einer zukunftssicheren KI-Strategie eingegangen, die sowohl die Entlastung der Mediziner als auch die Absicherung der Patientenrechte in den Fokus rückt.

von:

Jörg Schönfeld

Der wachsende Boom der Künstlichen Intelligenz (KI) im Krankenhaus eröffnet enorme Potenziale zur Beschleunigung von Diagnosen und zur Verbesserung der Behandlungsqualität. Gleichzeitig stellt der Einsatz von KI in vernetzten Systemen – von Magnetresonanztomografen (MRT) über Computertomografen (CT) bis hin zu zentralen Krankenhaus-IT-Systemen wie KIS, RIS, LIS, PACS und PDMS – Krankenhäuser vor große Herausforderungen. Ohne klare Regeln und Standards drohen Risiken in den Bereichen Datenschutz, IT-Sicherheit und ethische Fragen (z. B. Diskriminierung durch Algorithmen).

Im Sinne der Zielsetzungen des Bundesministeriums für Gesundheit (BMG) und der europäischen Vorgaben kann KI-Regulierung im Gesundheitswesen als die Schaffung geeigneter regulatorischer Rahmenbedingungen (insbesondere durch die EU-KI-Verordnung und die EU-Medizinprodukteverordnung – MDR) verstanden werden, die den verantwortungsvollen, gemeinwohlorientierten und sicheren Einsatz von KI-Systemen in der Gesundheitsversorgung gewährleisten. Sie zielt darauf ab, die Versorgungsqualität und die Patientensouveränität zu verbessern, indem sie die Sicherheit, Wirksamkeit, Datenschutzkonformität und die Einhaltung ethischer Grundsätze (wie Diskriminierungsfreiheit und Transparenz) bei der Anwendung von KI-Systemen in Diagnose, Therapie und Pflege in Krankenhäusern und Kliniken sicherstellt. Die Regulierung von KI steht dabei im Besonderen im Fokus der Patientensicherheit

1 Warum Regulierung und Zertifizierung?

Eine umsichtige Regulierung und Zertifizierung ist für Krankenhäuser mehr als nur KI-Compliance (s. Kap. 05409); sie ist ein fundamentaler Bestandteil der Einhaltung der Patientensicherheit und der Haftungsminimierung für Kliniken. KI-Systeme, die Mediziner bei komplexen Untersuchungen und der Behandlungsunterstützung einsetzen, können direkten Einfluss auf das Leben und die Gesundheit von Patienten nehmen (Beispiele):

•	Haftungsschutz: Klare regulatorische Vorgaben schützen Krankenhäuser und Kliniken vor Haftungsrisiken, indem sie einen rechtskonformen Einsatz der medizinischen Technologien vorschreiben.
•	Vertrauensbildung: Zertifizierungen und Transparenz stärken das Vertrauen bei Patienten, Ärzten und Pflegepersonal in die Zuverlässigkeit, Fairness und dem Anwendungsverständnis der eingesetzten medizinischen KI-Lösungen.
•	Qualitätssicherung: Gesetzliche Vorgaben und Normen dienen als Orientierung und definieren den aktuellen Stand der Technik, den Kliniken bei der Beschaffung und Anwendung von KI-Systemen einhalten müssen.

2 Der aktuelle Stand der Regulierung

Die Regulierung von KI im Krankenhaus baut auf zwei Säulen auf:

Die EU-Medizinprodukteverordnung (Verordnung EU 2017/745 – MDR) – Bestehender Standard

KI-basierte Software, die eine medizinische Zweckbestimmung hat (z. B. zur Diagnose oder Therapieunterstützung), wird nach der MDR als Medizinprodukt (oder nach der IVDR als In-vitro-Diagnostikum) eingestuft.

Beispiel Zertifizierung für die Anwendung am Patienten: Für diese Systeme gelten die strengen Vorgaben der MDR. Hersteller müssen ein Qualitätsmanagementsystem (In der Regel nach DIN EN ISO 13485) nachweisen und das Produkt muss eine Konformitätsbewertung durch eine Benannte Stelle durchlaufen. Erst dann erhält es die CE-Kennzeichnung, die die Zulassung für die Anwendung am Patienten signalisiert.

Der EU AI Act (Verordnung EU 2024/1689) – Die neuen Vorgaben

Der AI Act verfolgt einen risikobasierten Ansatz. Die meisten klinischen KI-Anwendungen, insbesondere jene, die unter die MDR/IVDR fallen, werden automatisch als Hochrisiko-KI-Systeme eingestuft. Für Krankenhäuser als Betreiber (und deren Anwender) treten die umfangreichsten Pflichten dafür erst ab dem 2. August 2027 in Kraft.

Beispiele für neue Anforderungen, die auf Krankenhäuser zukommen:

•	Datenqualität und -governance: Hochrisiko-KI-Systeme erfordern eine extrem hohe Qualität der Trainings-, Validierungs- und Testdatensätze (Art. 10). Krankenhäuser müssen sicherstellen, dass die verwendeten Patientendaten fair sind und keinen Bias enthalten, der zu Diskriminierung führt.
•	Transparenz und Erklärbarkeit (XAI): Es besteht eine Transparenzpflicht (Art. 13). Die Entscheidungswege der KI müssen für medizinisches Personal nachvollziehbar und erklärbar sein.
•	Risikomanagement und Cybersicherheit: Krankenhäuser müssen umfassende Risikomanagementsysteme für KI einrichten und die Cybersicherheit der KI-Systeme gewährleisten, um Angriffe auf sensible Daten oder Funktionsausfälle (Art. 15) zu verhindern.

3 Zukunftssichere KI-Strategie

Eine klare KI-Strategie muss mehrere Hürden meistern. Der Fokus einer zukunftssicheren KI-Strategie im Krankenhaus liegt darauf, die Entlastung der Mediziner durch KI mit der Absicherung der Patientenrechte zu vereinen (Risiken minimieren und Vertrauen gewinnen). Die Klinikleitungen müssen ein sogenanntes KI-Kompetenz-Konzept aufbauen, das sowohl die rechtlichen als auch die technischen Aspekte der Regulierung abdeckt. Die strategische Entscheidung muss dabei lauten: keine KI-Lösung ohne MDR-Zertifizierung und nachgewiesene AI-Act-Compliance.