KI für globale Gesundheit braucht Leitplanken – und die WHO hat sie bereits gezogen

Wir sprechen offen über das Potenzial von KI für biomedizinische Teams in ressourcenarmen Umgebungen. Diese Begeisterung bringt jedoch auch Hausaufgaben mit sich – und diese wurden gestellt: Die Weltgesundheitsorganisation hat 2021 die erste internationale Konsensleitlinie zu Ethik und Governance von künstlicher Intelligenz im Gesundheitswesen veröffentlicht, das Ergebnis eines Expertenprozesses, der Ethik, Recht, Menschenrechte und Gesundheitsministerien einbezog.

Die Leitlinie beschreibt zentrale Prinzipien – Schutz der menschlichen Autonomie, Förderung von Wohlbefinden und Sicherheit, Transparenz, Verantwortlichkeit, Inklusion und Gerechtigkeit sowie Nachhaltigkeit – und spricht die Umgebungen, in denen wir tätig sind, direkt an.

Die Warnung für Länder mit niedrigem und mittlerem Einkommen zitieren wir am häufigsten: KI, die mit Daten aus wohlhabenden Ländern trainiert wurde, kann andernorts unwirksam oder sogar schädlich sein, wenn sie unkritisch eingesetzt wird. Die digitale Kluft betrifft nicht nur den Zugang zu Werkzeugen – sondern auch, für wen diese Werkzeuge entwickelt wurden.

Für biomedizinische Anwendungen übersetzen wir die Leitlinien in praktische Verpflichtungen. KI-Unterstützung sollte ihre Quellen angeben, sich qualifizierten Menschen unterordnen, in der Sprache der Nutzer arbeiten, unter lokalen Konnektivitätsbedingungen funktionieren und niemals zu einer Abhängigkeit werden, die mit dem Ablauf eines Abonnements zusammenbricht. Eine KI, die einem Techniker hilft, ein Servicehandbuch zu verstehen, ist eine Form der Befähigung; eine KI, die das Handbuch durch nicht überprüfbare Antworten ersetzt, ist ein neues Risiko.

Wir sind lieber Vorreiter bei den Leitplanken als Nachzügler, die sich später entschuldigen müssen. Die Gemeinschaften, die unser Netzwerk unterstützt, verdienen Technologie, die höchsten Standards genügt – nicht den niedrigsten Hürden.

Die Zukunft, auf die wir uns freuen – und das tun wir ganz offen – ist eine, in der KI die Reichweite menschlicher Expertise erweitert, ohne je vorzugeben, sie zu ersetzen. Die WHO hat die Landkarte skizziert. Unsere Aufgabe ist es, verantwortungsvoll darauf zu fahren.