05401 Künstliche Intelligenz in der Medizin

Der 129. Deutsche Ärztetag 2025 hat betont, dass Künstliche Intelligenz (KI) im Gesundheitswesen zwar längst Realität ist und viele Chancen bietet, aber klare Grenzen beachten muss. Die wichtigste Botschaft ist: KI darf nur als Entscheidungsassistenz dienen, niemals eigenständig über Diagnose, Indikation oder Therapie entscheiden. Die abschließende Verantwortung verbleibt immer bei der Ärztin oder dem Arzt.

In einem Summenzug für den Einsatz Künstlicher Intelligenz gibt es Kernforderungen, die als zentrale Punkte formuliert werden können.

Zur Umsetzung einer einheitlichen Roadmap beim Einsatz von KI in der Medizin spielen Forschung, Bildung und ein entsprechendes Marktumfeld entscheidende Rollen, zum Beispiel:

Stärkere Forschung: Es braucht mehr Forschung zur KI-Anwendung in der Medizin sowie den Auf- und Ausbau einer entsprechenden Forschungsinfrastruktur von denen auch kleine Gesundheitseinrichtungen und Krankenhäuser profitieren können (Forschung in der Fläche).

Förderung der Translation: Strukturen müssen geschaffen werden, um die Verbreitung evidenzbasierter KI-Anwendungen zu unterstützen, die auf den medizinethischen Werten der EU basieren. Evidenzbasierte KI-Anwendungen gehören in den Behandlungspfad eines Patienten.

Ärztliche Kompetenzentwicklung: Ärztinnen und Ärzte müssen in Aus-, Weiter- und Fortbildung lernen, wie KI-Systeme funktionieren, welche Risiken sie bergen, wie diese kritisch zu bewerten und Ergebnisse auf Plausibilität zu prüfen sind. KI-Kompetenz sollte im gesamten interprofessionellen Behandlungsteam verankert werden. Die Anwendung von KI in der Medizin folgt risikobasierten Ansätzen und wird Krankenhaus intern über das Risikomanagement und das Qualitätsmanagement überwacht und gesteuert.

Anbietervielfalt und europäische Förderung: Um Monopolbildungen durch globale Tech-Konzerne (wie: Google, Microsoft, META oder Apple) zu verhindern und faire Marktbedingungen zu schaffen, sind fördernde Rahmenbedingungen für eine Anbietervielfalt in Europa notwendig. Eine solide finanzielle Förderung ist dringlich für die Entwicklung europäischer KI-Lösungen. An dieser Stelle ist die Bundesregierung aufgefordert, nachhaltig und dauerhaft dem französischen Beispiel massiver KI-Förderung zu folgen. Seit 2021 fördern das BMBF und das französische Forschungsministerium 21 bilaterale Kooperationsprojekte zu Künstlicher Intelligenz (KI).

KI in der Verwaltung: Die ärztliche Selbstverwaltung prüft, wie KI sinnvoll und datenschutzkonform in den eigenen Verwaltungsprozessen eingesetzt werden kann, um die Effizienz zu steigern.

Künstliche Intelligenz (KI) wird zunehmend ein wichtiges Werkzeug in der medizinischen Versorgung und Pflege. Erste Anwendungen, besonders in der Radiologie, Pathologie und der klinischen Entscheidungsunterstützung durch große Sprachmodelle (LLMs), sind bereits in vielen Krankenhäusern in Erprobung oder im Einsatz. Dennoch bleiben grundlegende Fragen zur sicheren Integration von KI-Systemen in klinische Abläufe, zum tatsächlichen Nutzen für Patienten und Personal, sowie zur rechtlichen Verantwortung und Haftung offen.

AI Act
Mit der europäischen KI-Verordnung (Verordnung (EU) 2024/1689, sog. AI Act), die am 1. August 2024 in Kraft trat, entsteht ein verbindlicher europäischer Rechtsrahmen. Dieser soll die vertrauenswürdige Entwicklung und Anwendung von KI in den Mitgliedstaaten fördern. Auf EU-Ebene werden dafür unter anderem ein KI-Büro und ein KI-Ausschuss eingerichtet.

Die Europäische Union hat mit der KI-Verordnung den weltweit ersten Rechtsrahmen für Künstliche Intelligenz (KI) geschaffen. Dieses Gesetz ist ein wichtiger Schritt, um die Chancen der KI zu nutzen und gleichzeitig die damit verbundenen Risiken zu minimieren. Seit dem 1. August 2024 laufen nun alle Fristen für die Umsetzung der Vorgaben durch Staaten, Unternehmen und andere Organisationen.

Umsetzung in Deutschland
Ein Entwurf für ein nationales Durchführungsgesetz in Deutschland sieht zusätzlich die Schaffung von zentralen Stellen auf Bundesebene vor. Dazu gehören eine notifizierende Behörde, eine Marktüberwachungsinstanz und mindestens ein Reallabor. Eine mögliche Ansiedlung dieser Strukturen bei der Bundesnetzagentur wird derzeit geprüft.

Die Umsetzung der europäischen Regelungen wird weitreichende Folgen für Krankenhäuser haben, sowohl auf operativer als auch auf strategischer Ebene. Eine intensive Auseinandersetzung mit der Rolle und dem Einsatz von KI im Gesundheitswesen (Kliniken und Krankenhäuser) ist absehbar notwendig. Abbildung 1 stellt den Ablaufplan Umsetzung des europäischen AI (ACTS) dar.