Generative Künstliche Intelligenz verändert das Gesundheitswesen grundlegend, birgt jedoch erhebliche ethische und praktische Risiken, die Patientenvertrauen untergraben und Ungleichheiten verstärken könnten. Eine neue systematische Übersichtsarbeit US-amerikanischer Forscher analysiert Anwendungen, Probleme und Lösungsansätze und plädiert für ein ganzheitliches Rahmenwerk, um eine verantwortungsvolle Integration zu gewährleisten.
Die Studie untersucht den Stand der generativen KI in Medizin, Forschung und klinischer Praxis. Basierend auf einer PRISMA-konformen Analyse von 54 Publikationen aus den Jahren 2020 bis 2025 werden zentrale Herausforderungen beleuchtet: Algorithmische Verzerrungen durch nicht-repräsentative Trainingsdaten, unklare Haftungsfragen bei Fehlentscheidungen, die Undurchsichtigkeit komplexer Modelle sowie Datenschutzrisiken durch sensible Patienteninformationen. Diese Probleme könnten zu Fehldiagnosen, Diskriminierung vulnerabler Gruppen und Vertrauensverlust führen.
Generative KI wird zunehmend in der Ausbildung eingesetzt, um Szenarien zu simulieren, in der Forschung zur Datenanalyse und in der Praxis für personalisierte Therapien. Dennoch fehlen oft transparente Erklärungen für KI-Entscheidungen, was die Akzeptanz behindert. Die Autoren identifizieren fragmentierte Lösungen: Technische Ansätze wie erklärbare KI-Modelle verbessern die Nachvollziehbarkeit, prozedurale Maßnahmen wie Stakeholder-Beteiligung sorgen für Aufsicht, und regulatorische Strategien zielen auf einheitliche Richtlinien ab.
Die Analyse zeigt jedoch Lücken: Viele Lösungen sind technisch isoliert und ignorieren soziale Aspekte, während globale Regulierungen nicht mit dem Tempo der KI-Entwicklung mithalten. Die Forscher fordern ein mehrschichtiges Framework, das technische Standards mit organisatorischen Praktiken und adaptiven Vorschriften verbindet. Dazu gehören verbesserte Ausbildungsprogramme für Fachkräfte, harmonisierte internationale Gesetze und kontinuierliche Evaluierung, um Bias zu minimieren und Fairness zu gewährleisten.
Die Arbeit betont die Notwendigkeit, ethische Überlegungen von Anfang an einzubinden, um das Potenzial generativer KI – wie schnellere Diagnosen und effizientere Prozesse – nutzbar zu machen, ohne Risiken zu ignorieren. Die Ergebnisse erschienen am 17. November 2025 in der Zeitschrift Frontiers in Digital Health und unterstreichen die Dringlichkeit interdisziplinärer Ansätze für ein vertrauenswürdiges Gesundheitssystem.
Original Paper:
