Die aktuellen Ergebnisse einer kleinen Umfrage von Zukunft Krankenhauseinkauf mit der Fragestellung: „Welche Risiken oder Bedenken haben Sie beim Einsatz von KI?“ zeigen deutlich, welche Themen die Verantwortlichen im Gesundheitswesen am meisten beschäftigen. Besonders auffällig ist die Verteilung der Stimmen: Während Datenschutz mit 40 Prozent der Antworten weiterhin ein dominierendes Thema bleibt, liegen Fehlentscheidungen durch KI mit 47 Prozent sogar noch darüber. Diese beiden Aspekte verdeutlichen, wie stark der Wunsch nach Sicherheit, Nachvollziehbarkeit und Kontrolle den Diskurs prägt, wenn KI-Lösungen in komplexe Beschaffungsprozesse integriert werden sollen.
Worauf kommt es bei der KI im Krankenhauseinkauf an?
Der Datenschutz hat seit Jahren eine herausragende Bedeutung im Gesundheitswesen. Kliniken arbeiten mit besonders sensiblen Daten, und jede technologische Innovation wird automatisch an den strengen Anforderungen der DSGVO gemessen. Unsicherheiten entstehen dabei häufig weniger durch die Technologie selbst, sondern durch unklare Verantwortlichkeiten, fehlende Standards und problematische Infrastruktur der Anbieter von KI-Lösungen. Die Europäische Datenschutzbehörde hat mehrfach betont, dass automatisierte Systeme in medizinischen Kontexten nur dann akzeptiert werden, wenn ihre Datenverarbeitung lückenlos dokumentiert und technisch abgesichert ist (Leitlinien 4/2019 zu Artikel 25 Datenschutz durch Technikgestaltung und durch datenschutzfreundliche Voreinstellungen).
Noch stärker fällt jedoch in der Umfrage die Sorge vor Fehlentscheidungen durch KI ins Gewicht. Das ist ein Hinweis darauf, dass Vertrauen in algorithmische Entscheidungsprozesse im Krankenhauseinkauf nicht etabliert ist. Beschaffungsentscheidungen sind komplex, häufig interdisziplinär und in vielen Fällen wirtschaftlich wie klinisch hoch relevant. Wenn KI-Modelle Entscheidungen vorbereiten – etwa durch Angebotsanalysen, Risikoabschätzungen oder automatische Reihung von Angeboten – müssen diese Prozesse transparent, reproduzierbar und fachlich überprüfbar sein. Die OECD beschreibt dieses Prinzip als „human oversight“ und betrachtet es als Grundpfeiler vertrauenswürdiger KI (Recommendation of the Council on Artificial Intelligence).
Eine weitere Sorge betrifft die Abhängigkeit von Technologie, die mit 13 Prozent zwar deutlich seltener genannt wurde, aber dennoch eine wichtige Rolle spielt. Krankenhäuser fürchten, sich in kritische Infrastrukturen oder proprietäre Systeme zu begeben, deren Ausfall oder Fehlkonfiguration unmittelbare operative Folgen haben kann. Diese Befürchtung ist nicht unbegründet. Analysen des Fraunhofer-Instituts zeigen, dass gerade im Gesundheitswesen Ausfallsicherheit und Interoperabilität entscheidend sind, um digitale Systeme langfristig stabil zu betreiben. KI-gestützte Anwendungen müssen sich daher nahtlos in bestehende IT-Landschaften integrieren lassen, möglichst ohne neue Abhängigkeiten zu erzeugen. Die aktuellen Ausfälle von AWS, Azure und Cloudflare haben gezeigt: man ist von einem GAU nicht weit entfernt. [siehe Beitrag von heise online].
Interessant ist schließlich, dass der Verlust von Arbeitsplätzen in der Umfrage keinerlei Bedeutung hatte. Dieser Aspekt verdeutlicht, dass Mitarbeitende im Krankenhauseinkauf KI offenbar weniger als Bedrohung, sondern eher als Werkzeug zur Entlastung und Qualitätssteigerung betrachten. In vielen Häusern ist der Arbeitsdruck in der Beschaffung hoch, sei es durch Fachkräftemangel, steigende Dokumentationspflichten oder immer komplexere Ausschreibungen. KI wird daher offensichtlich eher als Möglichkeit wahrgenommen, Routineaufgaben zu automatisieren, ohne die fachliche Entscheidungshoheit aus der Hand zu geben. Studien des King’s Fund unterstützen diese Sichtweise und zeigen, dass KI im Gesundheitswesen vor allem produktivitätssteigernd wirkt und Mitarbeitende von administrativen Tätigkeiten entlastet (Implementation and scaling of AI in health and social care).
Kein wilder Aktionismus, sondern strukturierte strategische Vorgehensweise ist gefragt!
Die kleine Umfrage macht deutlich, wohin sich der Diskurs entwickeln könnte. Datenschutz und Entscheidungsqualität sind die zentralen Faktoren, die über Akzeptanz oder Ablehnung von KI im Krankenhauseinkauf entscheiden. Damit Kliniken die Potenziale der Technologie nutzen können, müssen drei Punkte im Vordergrund stehen:
- erstens klare technische und organisatorische Schutzmaßnahmen für Daten,
- zweitens transparente und überprüfbare Entscheidungslogiken und
- drittens eine kontinuierliche Einbindung der Fachabteilungen in die Gestaltung und Bewertung KI-gestützter Prozesse.
Nur wenn diese Voraussetzungen erfüllt sind, entsteht das Vertrauen, das für eine erfolgreiche digitale Transformation im Gesundheitswesen notwendig ist.
Aus diesen Gründen ist von jedem wilden Aktionismus abzuraten. Damit Einrichtungen die Potenziale der Technologie verantwortungsvoll und zugleich effizient nutzen können, empfiehlt sich eine klar strukturierte strategische Vorgehensweise.
„Man in the Loop“
Gerade an kritischen Stellen – insbesondere dort, wo wirtschaftlich bedeutende Entscheidungen, komplexe Angebotsvergleiche oder juristische Bewertungen stattfinden – spielt das Konzept „Man in the Loop“ eine zentrale Rolle. Dieser Ansatz stellt sicher, dass KI nicht autonom entscheidet, sondern als Analysewerkzeug eingesetzt wird, dessen Ergebnisse immer durch fachkundige Personen geprüft und freigegeben werden. Durch diese menschliche Kontrollinstanz lassen sich Fehlentscheidungen wirksam vermeiden, Modellfehler schneller erkennen und verantwortungsvolle Entscheidungen absichern. „Man in the Loop“ wird damit zu einem elementaren Bestandteil vertrauenswürdiger KI im Krankenhauseinkauf.
Fundierte KI-Infrastruktur als Basis
Parallel dazu ist eine belastbare, selbst kontrollierbare technische Basis von zentraler Bedeutung. Eine moderne KI-Plattform muss auf einer sicheren Server- und Netzwerkarchitektur beruhen, die speziell auf Datenschutz, Zugriffssicherheit und Protokollierbarkeit ausgelegt ist. Dazu gehören segregierte Serverstrukturen, verschlüsselte Datenhaltung, robuste Identity- und Access-Management-Systeme sowie kontinuierliche Überwachung sicherheitskritischer Schnittstellen. Häuser, die generative KI-Systeme wie Large Language Models einsetzen, sollten zudem darauf achten, dass die Verarbeitung möglichst innerhalb der eigenen Umgebung erfolgt oder über/an vertrauenswürdige, zertifizierte Anbieter geleitet wird.
Da die Auswahl geeigneter Lösungen und die Beurteilung von Plattformen oft eine hohe technische Tiefe erfordert, ist der Einsatz neutraler Beratung ein wichtiger Baustein. Externe Expertinnen und Experten, die unabhängig von Herstellern/Anbieter von konkreten KI-Lösungen agieren, unterstützen Krankenhäuser dabei, Transparenz über den Markt zu erhalten, Risiken korrekt einzuordnen und Investitionen zielgerichtet zu planen. Eine neutrale Begleitung erleichtert zudem die Bewertung von Compliance-Fragen, die Prüfung der DSGVO-Konformität und die Entwicklung eines Umsetzungsplans, der sowohl betriebliche als auch strategische Ziele berücksichtigt.
Adam Pawelek
projectontime.de