Trotz aller Risiken sind KI-Systeme in Zukunft unverzichtbar
Der Einsatz Künstlicher Intelligenz (KI) ist inzwischen auch in Krankenhäusern ein nicht mehr wegzudenkendes Werkzeug und ermöglicht effizientere Abläufe, bessere Diagnosen und gezieltere Therapien. Er bringt aber auch erhebliche Risiken mit sich. Dies wurde beim 4. Forum über „Künstliche Intelligenz im Gesundheitswesen“ in Bielefeld deutlich, das sich diesmal schwerpunktmäßig mit Datensicherheit und ethischen Fragestellungen befasste.
Auch zu diesem KI-Forum hatten wieder der Bielefelder Verein „Der Soziale Zirkel“ (DSZ), die Industrie-und Handelskammer OWL (IHK) und das Zentrum für Innovation in der Gesundheitswirtschaft (ZIG) gemeinsam eingeladen. Wolfgang Stender (DSZ), Uwe Lück (IHK) und Uwe Borchers (ZIG) konnten dazu in den Räumen der IHK vier fachkundige Referenten und eine große, interessiert mitdiskutierende Zuhörerschaft begrüßen.
KI-Systeme können auch falsche Diagnosen oder Therapieempfehlungen geben, wenn nur unvollständige, fehlerhafte oder verzerrte Daten vorliegen. Weil sie riesige Datenmenge verarbeiten können, seien sie aber im Krankenhaus inzwischen unentbehrlich. Dennoch müsse immer der Mensch die Kontrolle behalten, sagte Gerhard Hallenberger.
Dies unterstrich auch Dr. Rainer Norden, ehemaliger stellv. Bethel-Vorstandsvorsitzender. Als Diagnose-Instrument seien KI-Systeme unverzichtbar. Nicht immer aber könnten Ärzte die Ergebnisse der KI nachvollziehen. Sie müssten daher von ihnen überprüft werden: „Ihre kritische Urteilsfähigkeit sollten sich Ärzte unbedingt erhalten.“
Ähnlich äußerte sich auch Dr. Lennart Jahnke, der an der Uniklinik Freiburg das IT-Zentrum leitet. „Patienten wollen nicht nur von einer KI behandelt werden, sondern von Ärzten, die KI als Unterstützung und weitere Informationsquelle nutzen“, sagte er. Da es vorkommen könne, dass KI-Systeme ungenaue oder falsche Informationen liefern, seien Beschäftigte der Uniklinik verpflichtet, Ergebnisse vor Verwendung über unabhängige Quellen zu überprüfen.
Fehler könnten aber auch passieren, wenn die Möglichkeiten künstlicher Intelligenz nicht genutzt würden, betonte Jahnke. Welch großen Nutzen KI-Systeme im Klinikalltag spielen können, etwa bei der effizienteren Erstellung von Dokumentationen, machte er eindrucksvoll deutlich. Personalmangel und der wirtschaftliche Druck, unter dem Krankenhäuser stehen, mache ihren Einsatz in Zukunft noch wichtiger.
Da KI-Systeme große Mengen sensibler Patientendaten verarbeiten, birgt unsichere Speicherung oder unklare Datenweitergabe erhebliche Datenschutzrisiken. Gute Sicherheitssysteme sind daher für den Schutz dieser Daten unerlässlich. Dr. Stefan Wolf vom RZV Volmarstein und Tomislav Babic, Zadara Storage Arnsberg, stellten Sicherheitslösungen vor, die ständige Überwachung der IT-Systeme bieten. Mit der Cloud des RZV, die viele Krankenhäuser und Pflegeheime nutzen, könnten kontinuierlich Sicherheitslücken erkannt, Cyberangriffe abgewehrt und Schwachstellen beseitigt werden, sagte Stefan Wolf.
Der IT-Dienstleister Zadara aus Arnsberg, den Tomislav Babic vertrat, stellt Kliniken eine Cloud-Service-Plattform zur Verfügung, mit der das Krankenhaus selbst die Kontrolle über die Daten behält. „Die Datenhoheit bleibt beim Unternehmen“, betonte Babic. Das System könne den konkreten Anforderungen der Häuser angepasst werden.
Die anschließende Diskussion mit Referenten und Publikum, die Uwe Borchers moderierte, machte deutlich, dass KI-Systeme unverzichtbare Werkzeuge sind, die jedoch nur als Unterstützung und nicht als Ersatz menschlicher Expertise eingesetzt werden dürfen. Sie müssten verantwortlich gehandhabt, aber auch dynamisch weiterentwickelt werden, sagte Rainer Norden. Aus Fehlern müsse man lernen, aber weiter voran schreiten: „Wer bremst, verliert“.