Digitalisierte Medizin: modern, evidenzbasiert und verantwortungsvoll
Im IKIM werden KI-Systeme für die Patientenversorgung entwickelt, evaluiert und in klinischen Studien auf ihre Wirksamkeit geprüft. Anschließend unterstützen die Mitarbeitenden die Kliniken der Charité bei der Einführung, dem Betrieb und der Governance der Systeme. Damit setzt die Institution ein deutliches Zeichen für eine moderne, evidenzbasierte und verantwortungsvoll digitalisierte Medizin.
Geleitet wird das Institut von Prof. Dr. med. Alexander Meyer, Facharzt für Herzchirurgie, Chief Medical Information Officer (CMIO) am Deutschen Herzzentrum der Charité und erfahrener Wissenschaftler an der Schnittstelle von klinischer Medizin, Digital Health und KI-Translation. Seine Doppelqualifikation aus klinischer Expertise und datenwissenschaftlicher Forschung prägt den Ansatz des IKIM: praxisnah, strukturiert und konsequent auf Patientensicherheit ausgerichtet.
Mario Urbanek: Welchen Einfluss hatte Ihre ärztliche Weiterbildung auf Ihre Entwicklung hin zum Professor für Künstliche Intelligenz in der Medizin – und werden die zukünftigen KI-Schwerpunkte des IKIM auch von Ihrer herzchirurgischen Expertise geprägt sein?
Alexander Meyer: Meine ärztliche Weiterbildung war die Grundlage und zugleich der Kompass für meinen Weg in das Feld „Künstliche Intelligenz in der Medizin“. Ein entscheidender Hebel war das Clinician Scientist Program des Berlin Institute of Health (BIH) an der Charité, das auch von der Berliner Ärztekammer unterstützt wird: Es hat mir ermöglicht, wissenschaftliche Schwerpunkte strukturiert parallel zur Facharztweiterbildung aufzubauen.
KI ist ein Querschnittsfach, das Grundlagenmedizin, klinische Disziplinen und auch Versorgungsforschung sowie Gesundheitsökonomie verbindet. Meine klinische Heimat ist die Herzmedizin, deshalb werden wir dort selbstverständlich auch Schwerpunkte setzen. Gleichzeitig versteht sich das Institut für Künstliche Intelligenz in der Medizin als Querschnittseinheit, die alle Kliniken, Institute und Geschäftsbereiche bei Entwicklung, Einkauf, Evaluation und sicherer Implementierung unterstützt.
In der Vergangenheit betonten Sie, dass viele KI-Projekte in Kliniken weniger an der Technik als an fehlenden Strukturen, Prozessen und Evidenz scheitern. Welche Voraussetzungen müssen Ihrer Meinung nach erfüllt sein, damit KI im Klinikalltag zuverlässig funktioniert?
Die Algorithmik ist wichtig, für den erfolgreichen Einsatz im Alltag jedoch oft nicht der Engpass. Entscheidend sind fünf Voraussetzungen: Erstens verlässliche Datenflüsse mit Schnittstellen zu den Primärsystemen und eine gesicherte Datenqualität. Zweitens klare klinische Verantwortlichkeiten und eine tragfähige Governance. Drittens: Regulatorik, Datenschutz und IT-Sicherheit als „Design-Prinzip“, nicht erst als nachträglicher Prüfpunkt. Viertens eine saubere Integration in IT und Arbeitsprozesse inklusive Change-Management. Und fünftens Evidenz und Wirtschaftlichkeit: prospektive Evaluation, messbare klinische oder prozessuale Outcomes, sowie ein kontinuierliches Monitoring im Betrieb – inklusive Erkennen von Daten- und Kontextdrift.
Das IKIM hat die Aufgabe, KI-Lösungen systematisch in die praktische Versorgung zu überführen. Welche konkreten Strategien verfolgen Sie, um diesen Transfer nachhaltig und evidenzbasiert umzusetzen?
Unser Ziel ist es, KI nicht als Menge von Einzellösungen, sondern als reproduzierbaren Transferprozess in die Versorgung zu integrieren. An der Charité erarbeiten wir dazu aktuell gemeinsam mit anderen Bereichen eine übergreifende KI-Strategie. Ein Kernpunkt ist die klare Trennung zwischen Forschungsprototyp und produktivem Betrieb, da hier unterschiedliche Anforderungen an Regulatorik, Integration, Freigaben und Verantwortlichkeiten bestehen. Querschnittsaufgaben verankern wir zentral: Governance, Compliance und Datenschutz in den entsprechenden Verwaltungsstrukturen, die technische Plattform und der Betrieb in der IT.
Parallel dazu etablieren wir standardisierte Pfade von der Use-Case-Auswahl über Validierung und klinische Evaluation bis zum Roll-out, inklusive AI/ML-Operations (AI/MLOps) im Sinne eines kontrollierten Betriebs mit Monitoring. Zusätzlich initiieren wir begleitende Studien zu produktiv eingesetzten Systemen und bauen eine Serviceeinheit mit Sprechstunde, Beratung, Implementations- und Studienunterstützung auf. Für Translation und Skalierung arbeiten wir eng mit dem BIH und dem Technologietransfer zusammen.
Immer auf dem Laufenden bleiben. Melden Sie sich hier für unseren Newsletter an.
Mit x-cardiac haben Sie bereits ein KI-basiertes Medizinprodukt erfolgreich aus der Forschung in die Anwendung gebracht. Welche Erfahrungen aus dieser Translation prägen Ihre aktuelle Arbeit besonders?
Die wichtigste Erfahrung aus x-cardiac ist: Ein Forschungsergebnis ist noch lange kein Medizinprodukt. Zwischen einem vielversprechenden Ergebnis oder Prototyp und einem robusten, zugelassenen und klinisch wirksamen Produkt sind Qualitäts- und Risikomanagement, belastbares Software- und Datenengineering, Usability, Dokumentation sowie klinische Evidenz erforderlich – und im Anschluss ein Betriebskonzept mit Wartung und Überwachung.
Diese Perspektive prägt heute meine Arbeit besonders: Wir denken Translation von Beginn an mit, binden Klinik, IT, Datenschutz und regulatorische Expertise früh ein und planen Evaluation und Monitoring als festen Bestandteil. An der Charité gibt es dafür sehr gute Strukturen, die forschende Ärztinnen und Ärzte in der Translation gezielt unterstützen.
Ein weiterer wesentlicher Schwerpunkt des IKIM betrifft die Ausbildung. Welche Kompetenzen und Formate sollen künftig im Medizinstudium und in der ärztlichen Weiterbildung verankert werden, um KI sicher und verantwortungsvoll nutzen zu können?
KI-Kompetenz betrifft nicht nur Ärztinnen und Ärzte, sondern alle Berufsgruppen im Gesundheitswesen. Mit der EU-KI-Verordnung (AI Act) gewinnt organisationsweite KI-Kompetenz zusätzlich regulatorische Relevanz. Im Studium und in der Weiterbildung sollte deshalb weniger das „Programmieren“, als vielmehr das sichere Anwenden im Mittelpunkt stehen. Dazu gehören die Fähigkeiten und Grenzen von Systemen, die Interpretation von Ausgaben und Unsicherheit, typische Verzerrungen wie der Automation Bias, sowie das Erkennen von Daten- und Kontextdrift („Model Shift“) im Betrieb. Hinzu kommen Grundlagen zu Datenschutz, IT-Sicherheit und Verantwortlichkeiten. Eine gute Analogie ist das Autofahren: Man muss nicht den Motor konstruieren, aber die Regeln, Grenzen und Risiken muss man sicher beherrschen.
Wenn Sie auf die nächsten fünf bis zehn Jahre blicken: In welchen Bereichen der stationären oder ambulanten Medizin erwarten Sie den größten praktischen Nutzen durch KI und wo sehen Sie klare Grenzen oder Risiken?
Den größten praktischen Nutzen erwarte ich in drei Bereichen: Erstens in der longitudinalen Datennutzung – also der intelligenten Zusammenführung und Verdichtung multimodaler Informationen über die Zeit (Text, Labor, Bildgebung, Monitoring, etc.), sodass klinisch relevante Informationen schneller und robuster verfügbar werden. Zweitens in besserem Verständnis von Pathogenese und Pathophysiologie durch datengetriebene Mustererkennung – KI kann hier wie ein „Mikroskop“ für komplexe Verläufe wirken. Drittens in der Automatisierung klinisch-administrativer Prozesse wie Dokumentation, Kodierung oder Ressourcensteuerung, mit Potenzial für Effizienz, Qualität und Zufriedenheit von Mitarbeitenden und Patient:innen.
Klare Grenzen sehe ich bei vollautonomen Systemen ohne menschliche Letztverantwortung – insbesondere bei Hochrisikoentscheidungen – sowie bei kontinuierlichem Online-Lernen im laufenden Betrieb, weil Modelländerungen im regulierten Umfeld kontrolliert bewertet und überwacht werden müssen. Zentrale Risiken sind unterschiedliche Biases, wie z. B. falsches Vertrauen (Automation Bias), Model-Drifts, Datenschutz- und Sicherheitsfragen. Deshalb sind Governance, Monitoring und „Human-in-the-loop“ (der Mensch in der Entscheidungsschleife) essenziell.