KI wird im Klinikalltag nur dann zum Gewinn, wenn Einführung und Betrieb strukturiert, nachvollziehbar und rechtskonform gesteuert werden. „Strukturiert“ heißt: Jeder Anwendungsfall folgt demselben klar definierten Ablauf — von der Idee bis zum Regelbetrieb. „Nachvollziehbar“ bedeutet: Entscheidungen, Risiken und Verantwortlichkeiten sind dokumentiert und auditfähig. „Rechtskonform“ verlangt die frühzeitige Einbindung der maßgeblichen Regelwerke: Datenschutz (DSGVO), Medizinprodukterecht, IT-Sicherheitspflichten sowie der EU AI Act. Genau dafür eignet sich ein Gate-Modell. Es verhindert späte Überraschungen, senkt Implementierungsrisiken und schafft verlässliche Entscheidungsgrundlagen für die Geschäftsführung.
Künstliche Intelligenz geregelt einführen
Künstliche Intelligenz kann Versorgungsqualität, Patientensicherheit und Wirtschaftlichkeit im Krankenhaus spürbar verbessern – vorausgesetzt, die Einführung und der Betrieb erfolgen strukturiert, nachvollziehbar und rechtskonform. Genau dafür bietet z. B. das Gate‑Modell einen einheitlichen, wiederholbaren Entscheidungsweg. Es übersetzt klinische, technische und rechtliche Anforderungen in klare Schritte, sodass Projekte zügig starten, Risiken früh erkannt und Ressourcen zielgerichtet eingesetzt werden.
Was ist das Gate-Modell?
Im Kern beschreibt das Gate‑Modell sechs aufeinanderfolgende Stationen: Intake → Screening → Due‑Diligence → Pilot → Go/No‑Go → Betrieb. Jede Station verfolgt einen präzisen Zweck: Das Intake verdichtet Idee, Nutzen und Datenbedarf. Das Screening prüft die Muss‑Kriterien, insbesondere Datenschutz, IT‑Sicherheit, regulatorische Einordnung nach EU AI Act sowie eine mögliche Einordnung als (Software‑)Medizinprodukt mit Betreiberpflichten nach MPBetreibV. Die Due‑Diligence vertieft Evidenz, Datenqualität, Bias‑Risiken, Erklärbarkeit und Human‑Oversight und klärt Verträge inklusive Vergabeaspekten (§ 97 GWB). Der Pilot testet Nutzen und Sicherheit unter kontrollierten Bedingungen mit dokumentierten Einweisungen. Das Go/No‑Go führt die Ergebnisse zu einer belastbaren Entscheidung zusammen. Im Betrieb sorgen Monitoring, Änderungen nach definierten Regeln und Auditfähigkeit für nachhaltige Sicherheit und Qualität.
Der Ansatz schafft Verlässlichkeit für die Geschäftsführung und alle Beteiligten: klinische Leitung und Pflege erhalten klare Kriterien für Patientensicherheit und Usability; IT und Informationssicherheit können Architektur, Schnittstellen und Schutzmaßnahmen konsistent ausrollen; Datenschutz und Rechtsabteilung sichern die Compliance; Medizintechnik und der/die Beauftragte für Medizinproduktesicherheit koordinieren Betrieb und Vorkommnisse; Vergabe sorgt für transparente Beschaffung; QM und Risikomanagement verankern die Prozesse im Qualitätsmanagementsystem; der Betriebs‑/Personalrat wird frühzeitig eingebunden.
Mit standardisierten Formularen – vom einseitigen Use‑Case‑Steckbrief über Screening‑ und DPIA‑Dokumentation bis zu Pilotbericht, Monitoring‑plan und Betriebsakte – wird das Gate‑Modell nicht nur schneller, sondern auch auditfest.
Wie sieht die aktuelle Praxis aus?
Kliniken haben bereits KI-Softwarekomponenten im Einsatz (z.B. im CT oder MRT) und verstoßen meistens gegen die Pflichten nach dem EU Act. In den Ambulanzen werden KI-Telefonassistenten eingesetzt, oft ohne die vorgeschriebene Aufklärung der Anrufer und ohne jegliche Dokumentation. Oftmals werden die Vorgaben der DSGVO und des EU AI Acts nicht umgesetzt. Neben der Gefahr von hohen Bußgeldern, drohen auch Schadensersatzansprüche, z.B. von Patienten, die „von der KI“ befundet worden sind. Patientendaten werden vom „ChatGPT & Co. “ verarbeitet und deren Werte diagnostiziert, ohne dass dies vom Klinikum explizit verboten worden ist. Die neue (und leider sehr schwer lesbare) KI-Verordnung ist aber nicht nur ein weiterer Ausfluss von EU-Bürokratie, sondern ein Versuch, die hohen Risiken des KI-Einsatzes nicht aus den Augen zu verlieren. Denn neben den immensen Chancen von KI-Lösungen bergen sie auch viele Gefahren. Gerade um diese nicht aus den Augen zu verlieren, macht die Umsetzung der KI-Verordnung tatsächlich praktischen Sinn.
Warum zahlt sich dieser Aufwand aus?
Erstens reduziert das Gate-Modell Implementierungsrisiken: Früh identifizierte Rechts- und Sicherheitsanforderungen sind deutlich günstiger umzusetzen als späte Nachbesserungen. Zweitens schafft es Transparenz und Akzeptanz: Kliniken können gegenüber Aufsichtsbehörden, Patienten und Patientinnen, Beschäftigten und Partnern nachvollziehbar darlegen, warum, wie und unter welchen Schutzmaßnahmen eine KI eingesetzt wird. Drittens ermöglicht es Skalierung: Wer einmal klare Prozesse für die Einführung von KI-Systemen etabliert hat, kann weitere KI-Lösungen sehr schnell in Betrieb nehmen.
Adam Pawelek
projectontime.de