Der Einsatz generativer KI im Krankenhaus wird zunehmend interessant für viele Kliniken. Von automatisierter Dokumentation über Kodierunterstützung bis hin zu Entscheidungsassistenzsystemen sind enorme Effizienzgewinne denkbar. Gleichzeitig ist dies jedoch mit einer neuen Form der Abhängigkeit verbunden, die weit über frühere IT-Risiken hinausgeht und die bei KI-Projekten bedacht werden sollte. Besonders brisant wird es dort, wo Krankenhäuser Teile ihrer Prozesslogik an externe Modelle delegieren und Anbieter vertraglich Rechte an Fine-Tuning-Ergebnissen behalten.
Drum prüfe, wer sich (ewig) bindet!
Viele KI-Plattformen sichern sich in ihren Nutzungsbedingungen die Möglichkeit, feinabgestimmte Modelle ganz oder teilweise weiterzuverwenden – selbst wenn es sich um hochsensible klinische Daten handelt, die in Form von Embeddings, Modellgewichten oder Prompt-Optimierungen verarbeitet wurden. Dadurch entsteht eine Situation, in der nicht nur Daten, sondern auch betriebliche Abläufe und spezifische Kodiermuster im Modell selbst gespeichert und anschließend vom Anbieter kontrolliert werden. Hier ist jeglicher Aktionismus fehl am Platz. Die Einführung von KI in einem Unternehmen – also auch in einem Krankenhaus – sollte daher die genaue Prüfung der Nutzungsbedingungen der KI-Lösung immer beinhalten.
Wenn pleite, dann weg?
Problematisch wird die Lage besonders im Insolvenzfall eines KI-Providers. Und das Risiko der Insolvenz ist gerade in der jungen Branche als besonders hoch anzusehen. Denn viele KI-Anbieter machen aktuell nur Verluste und hoffen auf zukünftige Gewinne.
Insolvenzrechtlich gehören üblicherweise sämtliche Assets zur Masse, darunter auch Fine-Tuning-Datasets, modellierte Prozesslogik und Modellgewichte. Was zuvor interne klinische Abläufe repräsentierte – zum Beispiel typische Kodierregeln eines Hauses, sprachliche Muster der Dokumentation oder Entscheidungshilfen für Rechnungsprüfungen – landet damit in der Hand eines Insolvenzverwalters. Für Krankenhäuser ist das ein Risiko: Sie verlieren bei einer Abschaltung sofort den Zugriff auf zentrale Funktionen. In der Praxis würde die plötzliche Deaktivierung eines KI-Systems einen abrupten Stillstand vieler digitalisierter Abläufe auslösen. Kodierung, Rechnungsprüfung und Dokumentation müssten wieder manuell erfolgen – obwohl Personalstrukturen längst auf KI-gestützte Produktivität ausgelegt sind.
Lock-in für immer?
Neben den technischen und rechtlichen Risiken entstehen wirtschaftliche Abhängigkeiten durch vertragliche oder technische Lock-ins. Viele KI-Verträge sehen Mindestlaufzeiten von zwölf bis vierundzwanzig Monaten vor. Auch wenn Qualität, Sicherheit oder regulatorische Anforderungen nicht mehr erfüllt werden, bliebe das Krankenhaus an den Vertrag gebunden. Besonders schwer wiegen Exit Fees, die für die Extraktion von Daten oder die Migration von Modellen erhoben werden. Einige Anbieter verlangen Gebühren für den Export proprietärer Embedding-Formate oder für die Überführung von feingetunten Modellen in ein alternatives System. Hinzu kommt, dass viele Plattformen keine echte Datenportabilität anbieten. Embedding-Modelle unterscheiden sich erheblich, beispielsweise zwischen 1536 Dimensionen bei OpenAI und 4096 Dimensionen bei Cohere. Ein Anbieterwechsel bedeutet daher praktisch immer eine vollständige Neuindizierung der Vektordatenbanken und eine komplette Überarbeitung aller Retrieval-Prozesse. Da Prompt-Design, Function Calling, JSON-Output-Formate und Tool-Use ebenfalls modellspezifisch sind, muss bei jedem Wechsel ein erheblicher Teil der bestehenden Geschäftslogik neu entwickelt werden.
Besonders gravierend ist der Umgang mit proprietären Datenformaten. Viele Anbieter speichern Chat-Historien, Logs, Trainingsdatensätze und Embedder-Output in Strukturen, die außerhalb des eigenen Ökosystems nicht weiterverwendbar sind. Das erschwert nicht nur die Migration, sondern gefährdet auch die langfristige Nachvollziehbarkeit klinischer Prozesse und Compliance-Anforderungen. Wenn ein Krankenhaus nicht einmal die eigenen KI-gestützten Arbeitsabläufe exportieren oder auditieren kann, entsteht ein systemisches Problem: Die digitale Souveränität liegt nicht mehr im Haus, sondern beim Modellbetreiber.
Fazit: Verantwortliche im Krankenhaus müssen digitale Souveränität sichern
Insgesamt zeigen diese Faktoren, dass KI-Abhängigkeiten im Krankenhaus eine neue Qualität erreicht haben. Der Verlust der Kontrolle über feinabgestimmte Modelle, die Unsicherheit im Insolvenzfall, die fehlende Datenportabilität und die harten vertraglichen Bindungen führen dazu, dass ein Anbieterwechsel oder eine Rückkehr zu manuellen Prozessen extrem teuer und operativ riskant wird. Krankenhäuser sollten daher schon vor der Implementierung klare vertragliche Regelungen zur Datenhoheit, zur ausschließlichen Kontrolle über Fine-Tuning-Artefakte, zu offenen Formaten und zu funktionierenden Exit-Strategien verlangen. Nur wenn die Kontrolle über die eigenen Modelle, Daten und Prozesslogiken zu jedem Zeitpunkt gesichert ist, lässt sich verhindern, dass kritische Teile des Krankenhausbetriebs in fremde Hände geraten.
Adam Pawelek
projectontime.de