WHO veröffentlicht neue Richtlinien für den Einsatz von KI im Gesundheitswesen

Die Weltgesundheitsorganisation (WHO) hat neue Richtlinien veröffentlicht, um die zunehmende Verwendung großer KI-Modelle im Gesundheitswesen sicher und wirksam zu gestalten. Die Richtlinien betonen die Beteiligung verschiedener Interessengruppen und bauen auf früheren Leitlinien zur Ethik und Governance auf. Experten haben Risiken wie Arbeitsmarktauswirkungen und KI-Bias identifiziert.

Was ist künstliche Intelligenz (KI)?

Künstliche Intelligenz (KI) umfasst Algorithmen, die aus Daten lernen, um automatisierte Aufgaben ohne menschliche Programmierung auszuführen. Dagegen erzeugt generative KI neue Inhalte wie Text, Bilder oder Videos aus trainierten Datensätzen. Große multimodale Modelle (LMMs) akzeptieren wiederum verschiedene Dateneingabetypen und können vielfältige Ausgaben generieren.

Diese Modelle finden Anwendung in der Gesundheitsversorgung, wissenschaftlichen Forschung, öffentlichen Gesundheit und Arzneimittelentwicklung. Doch obwohl sie als “allgemeine Grundlagenmodelle” bezeichnet werden, ist noch nicht bewiesen, ob LMMs eine breite Palette von Aufgaben und Zwecken erfüllen können.

Welchen Zweck verfolgt die WHO mit den neuen Richtlinien?

Die Weltgesundheitsorganisation (WHO) hat Richtlinien veröffentlicht, um Mitgliedstaaten dabei zu unterstützen, die Vor- und Nachteile der Nutzung großer multimodaler Modelle (LMMs) im Gesundheitswesen zu bewerten und Richtlinien sowie Praktiken für deren angemessene Nutzung zu entwickeln.

Diese Richtlinien beinhalten Empfehlungen für die Governance in Unternehmen, Regierungen und internationale Zusammenarbeit, die im Einklang mit den Leitprinzipien stehen. Daneben berücksichtigen sie auch die einzigartigen Nutzungsmöglichkeiten von generativer KI im Gesundheitsbereich. Die enthaltenen Prinzipien und Empfehlungen bilden die Grundlage für diese Richtlinien.

*Durch die neuen Richtlinien wird der Einsatz von KI im Gesundheitswesen gefördert. | Bildquelle: Dzmitry | DATEI NR.: 633804489*

Welche ethischen Grundsätze werden in den WHO Richtlinien berücksichtigt?

Die WHO legt mit der Richtlinie die folgenden ethischen Grundsätze für die Verwendung von KI im Gesundheitswesen fest:

Schutz der Autonomie
Förderung des Wohlergehens, der Sicherheit und des öffentlichen Interesses von Menschen
Förderung von Verantwortung und Rechenschaftspflicht
Gewährleistung von Inklusivität und Gerechtigkeit
Förderung von KI, die reaktionsschnell und nachhaltig ist

Welche Herausforderungen und Risiken gibt es bei der Nutzung von KI im Gesundheitswesen?

Die potenziellen Anwendungen im Gesundheitswesen ähneln denen anderer Formen von KI. Allerdings sind der Zugang und die Nutzung mit sowohl Vorteilen als auch Risiken verbunden, die Gesellschaften, Gesundheitssysteme und Endbenutzer möglicherweise noch nicht vollständig bewältigen können.

Potenzielle Vorteile und Risiken bei verschiedenen Anwendungen von LMMs im Gesundheitswesen

Anwendung	Potenzielle Vorteile	Potenzielle Risiken
Diagnose und klinische Versorgung	Unterstützung bei der Bewältigung komplexer Fälle und Überprüfung routinemäßiger Diagnosen; Reduzierung der Kommunikationsbelastung von Gesundheitsdienstleistern (“Tastaturbefreiung”); Bereitstellung neuer Erkenntnisse und Berichte aus verschiedenen unstrukturierten Formen von Gesundheitsdaten.	Ungenaue, unvollständige oder falsche Antworten; schlechte Qualität der Trainingsdaten; Bias (bei Trainingsdaten und Antworten); Automationsbias; Abbau von Fähigkeiten (von Gesundheitsfachkräften); Informierte Einwilligung (von Patienten).
Patientengeführte Anwendung	Generierung von Informationen zur Verbesserung des Verständnisses einer medizinischen Erkrankung (als Patient oder als Pflegekraft); Virtueller Gesundheitsassistent; Eintritt in klinische Studien.	Ungenaue, unvollständige oder falsche Aussagen; Manipulation; Datenschutz; Weniger Interaktion zwischen Ärzten und Patienten; Risiko der Versorgung außerhalb des Gesundheitssystems.
Administrative Aufgaben	Unterstützung bei Papierkram und Dokumentation für die klinische Versorgung; Unterstützung bei der Sprachübersetzung; Vervollständigung elektronischer Krankenakten; Entwurf klinischer Notizen nach einem Patientenbesuch.	Ungenauigkeiten und Fehler
Medizinische Ausbildung	Dynamische Texte, die den Bedürfnissen jedes einzelnen Auszubildenden entsprechen; Simulierte Gespräche zur Verbesserung der Kommunikation und zum Üben in verschiedenen Situationen und mit verschiedenen Patienten; Antworten auf Fragen mit nachvollziehbarer Gedankenführung.	Beitrag zum Automationsbias; Fehler oder falsche Informationen untergraben die Qualität der medizinischen Ausbildung; Neue Belastung durch das Erlernen digitaler Fähigkeiten.
Wissenschaftliche Forschung und Arzneimittelentwicklung	Generierung von Erkenntnissen aus wissenschaftlichen Daten und Forschung; Generierung von Texten für wissenschaftliche Artikel; Analyse und Zusammenfassung von Daten für die Forschung; Korrekturlesen; Arzneimittelentwicklung.	Algorithmen können nicht für den Inhalt zur Rechenschaft gezogen werden; Generierung von Informationen und/oder Verweisen, die nicht existieren; Untergraben wichtiger Grundsätze wissenschaftlicher Forschung; Verschärfung des differenzierten Zugangs zu wissenschaftlichem Wissen.

Risiken für Gesundheitssysteme im Zusammenhang mit der Verwendung von LMMs im Gesundheitswesen

Risikotyp	Beschreibung
Überschätzung der Vorteile von KI	Es besteht die Tendenz zur Überschätzung der Vorteile von KI, während die Herausforderungen in ihrer Anwendung, einschließlich Sicherheit, Wirksamkeit und Nützlichkeit, ignoriert oder heruntergespielt werden.
Zugänglichkeit und Erschwinglichkeit	Ein gerechter Zugang zu KI kann aus mehreren Gründen fehlen, einschließlich der “digitalen Kluft” und der Abonnementgebühren.
Fehlende Neutralität	Die Verwendung immer größerer Datensätze könnte die in KI codierten Vorurteile erhöhen, die automatisiert im gesamten Gesundheitssystem verwendet werden könnten.
Auswirkungen auf die Arbeitskräfte	Die Verwendung von KI könnte in einigen Ländern zu Arbeitsplatzverlusten führen und erfordert, dass Gesundheitspersonal sich neu schult und sich an die Verwendung von KI anpasst. Die Annotation und Filterung von Daten können zu niedrigen Löhnen und unbehandeltem psychischem Stress führen.
Abhängigkeiten	Die Abhängigkeit von KI könnte Gesundheitssysteme verwundbar machen, wenn KI-Anwendungen/Systeme nicht gewartet werden. Darüber hinaus könnte der Mangel an Erhalt und Schutz der Privatsphäre und Vertraulichkeit das Vertrauen in Gesundheitssysteme untergraben, indem Menschen nicht davon überzeugt sind, dass ihre Privatsphäre geschützt wird.
Cyber-Security-Risiken	Bösartige Angriffe oder Hacking könnten die Sicherheit und das Vertrauen in die Verwendung von KI im Gesundheitswesen untergraben.

*Der Einsatz von KI im Gesundheitswesen ist mit Herausforderungen verbunden, die beachtet werden müssen. | Bildquelle: Von AI Farm | DATEI NR.: 578929798*

Fazit

Regierungen sollten die gemeinsame Entwicklung internationaler Regeln zur Governance von KI im Gesundheitswesen unterstützen, da solche Anwendungen global zunehmen. Ein Beispiel dafür ist die globale Strategie der WHO für digitale Gesundheit 2020-2025.

Der Prozess sollte eine verstärkte Zusammenarbeit und Kooperation innerhalb des Systems der Vereinten Nationen umfassen. Damit reagiert dieser auf die Chancen und Herausforderungen der Einführung von KI im Gesundheitswesen und ihrer breiteren Anwendung in der Gesellschaft und der Wirtschaft.

Wenn Regierungen nicht zusammenarbeiten, um angemessene, durchsetzbare Standards festzulegen, wird die Anzahl von KI-Anwendungen, die nicht den rechtlichen, ethischen und Sicherheitsstandards entsprechen, voraussichtlich zunehmen. Dies könnte Schäden verursachen, wenn keine Vorschriften und anderen Schutzmaßnahmen eingeführt werden oder diese nicht ordnungsgemäß durchgesetzt werden, sei es freiwillig oder weil die Ressourcen unzureichend sind.

Suchen Sie Experten im Bereich Datenschutz oder einen externen Datenschutzbeauftragten? Unsere Coaches von itsecuritycoach stehen Ihnen in allen Belangen rund um Datenschutz zur Seite. Kontaktieren Sie uns und vereinbaren Sie ein erstes Beratungsgespräch.