L’IA pour la santé mondiale a besoin de garde-fous — et l’OMS les a déjà tracés

Nous sommes convaincus du potentiel de l’IA pour les équipes biomédicales en contexte de ressources limitées. Cet enthousiasme s’accompagne de responsabilités, et le devoir est clairement défini : l’Organisation mondiale de la Santé a publié en 2021 le premier consensus international sur l’éthique et la gouvernance de l’intelligence artificielle pour la santé, fruit d’un travail d’experts couvrant l’éthique, le droit, les droits humains et les ministères de la santé.

Ces recommandations posent des principes fondamentaux — protection de l’autonomie humaine, promotion du bien-être et de la sécurité, transparence, responsabilité, inclusion et équité, et durabilité — et s’adressent directement aux contextes que nous servons.

L’avertissement adressé aux pays à revenu faible ou intermédiaire est celui que nous citons le plus : une IA entraînée sur des données issues de populations à revenu élevé peut s’avérer inefficace, voire nuisible, si elle est appliquée sans discernement ailleurs. La fracture numérique ne concerne pas seulement l’accès aux outils — elle concerne aussi pour qui ces outils ont été conçus.

Pour les applications biomédicales, nous traduisons ces recommandations en engagements concrets. L’assistance par IA doit citer ses sources, s’en remettre aux humains qualifiés, fonctionner dans la langue de l’utilisateur, s’adapter aux réalités locales de connectivité, et ne jamais devenir une dépendance qui s’effondre à l’expiration d’un abonnement. Une IA qui aide un technicien à comprendre un manuel de service est un outil d’autonomisation ; une IA qui remplace le manuel par des réponses invérifiables crée un nouveau type de risque.

Nous préférons adopter tôt les garde-fous plutôt que de devoir nous en excuser plus tard. Les communautés que notre réseau accompagne méritent une technologie à la hauteur des standards les plus exigeants, et non du seuil minimal.

L’avenir qui nous enthousiasme — et nous l’assumons pleinement — est celui où l’IA étend la portée de l’expertise humaine sans jamais prétendre la remplacer. L’OMS a tracé la carte. À nous de la parcourir avec prudence.