L’Organisation mondiale de la Santé (OMS) appelle à la prudence en matière d’utilisation des outils liés aux grands modèles de langage générés par l’intelligence artificielle (IA) afin de protéger et de promouvoir le bien-être, la sécurité humaine et l’autonomie, et de préserver la santé publique.
Parmi les grands modèles de langage figurent notamment certaines des plateformes les plus dynamiques telles que ChatGPT, Bard, Bert et bien d’autres qui imitent la compréhension, le traitement et la production de communications humaines. Leur diffusion publique fulgurante et leur utilisation expérimentale croissante à des fins liées à la santé suscitent un enthousiasme considérable quant au potentiel offert de répondre aux besoins de santé des populations.
Il est impératif que les risques soient examinés attentivement lors de l’utilisation de ces modèles pour améliorer l’accès à l’information sanitaire, en tant qu’outil d’aide à la décision, ou même pour renforcer la capacité de diagnostic dans les contextes où les moyens sont insuffisants afin de protéger la santé des personnes et de réduire les inégalités.
Si l’OMS est enthousiaste quant à l’utilisation appropriée des technologies, y compris les grands modèles de langage, pour aider les professionnels de la santé, les patients, les chercheurs et les scientifiques, il est préoccupant de constater que le principe de précaution exercé habituellement à toute nouvelle technologie ne s’applique pas de manière systématique dans le cas des grands modèles de langage. Il s’agit notamment du respect des valeurs clés que sont la transparence, l’inclusion, la participation du public, la supervision par des experts et l’évaluation rigoureuse.
L’adoption précipitée de systèmes qui n’ont pas été testés pourrait entraîner des erreurs de la part des personnels de santé, nuire aux patients, saper la confiance dans l’intelligence artificielle et ainsi compromettre (ou retarder) les avantages et les utilisations potentiels à long terme de ces technologies dans le monde entier.
Parmi les préoccupations soulevées, certaines préconisent une surveillance rigoureuse, nécessaire pour que les technologies soient utilisées de manière sûre, efficace et responsable.
- Les données utilisées pour entraîner une IA peuvent être biaisées, produisant des informations trompeuses ou inexactes susceptibles de poser des risques pour la santé, l’équité et l’inclusion.
- Les grands modèles de langage génèrent des réponses qui peuvent sembler faire autorité et sont plausibles pour un utilisateur final. Cependant, ces réponses peuvent être complètement incorrectes ou contenir de graves erreurs, en particulier concernant les réponses liées à la santé.
- Les grands modèles de langage peuvent être entraînés à partir de données pour lesquelles le consentement n’a pas été donné au préalable, et ces modèles pourraient ne pas garantir de protection des données sensibles (y compris les données relatives à la santé) qu’un utilisateur fournit à une application pour obtenir une réponse.
- Les grands modèles de langage peuvent être utilisés à mauvais escient pour produire et diffuser de fausses informations très convaincantes sous la forme de contenu textuel, audio ou vidéo qu’il est difficile pour le public de différencier d’un contenu de santé fiable.
- Tout en s’engageant à exploiter les nouvelles technologies, y compris l’IA et la santé numérique en vue d’améliorer la santé humaine, l’OMS recommande aux responsables de l’élaboration des politiques d’assurer la sécurité et la protection des patients pendant que les entreprises spécialisées dans les technologies s’emploient à commercialiser les grands modèles de langage.
L’OMS propose que ces préoccupations soient prises en compte et que des données attestant clairement des avantages soient évaluées avant leur utilisation généralisée dans le cadre des soins de santé généraux et de la médecine, que ce soit par les individus, les prestataires de soins ou les administrateurs et décideurs du système de santé.
L’OMS réaffirme combien il est important d’appliquer les principes d’éthique et d’assurer une gouvernance appropriée, tels qu’énoncé dans le document intitulé : WHO guidance on the ethics and governance of AI for health (en anglais), dans le cadre de la conception, de l’élaboration et de l’introduction de l’IA pour la santé.
Les six principes fondamentaux recensés par l’OMS sont les suivants : 1) protéger l’autonomie ; 2) promouvoir le bien-être, la sécurité humaine et l’intérêt public ; 3) garantir la transparence, l’explicabilité, et la compréhension ; 4) favoriser la responsabilité et la responsabilisation ; 5) garantir l’inclusion et l’équité ; 6) promouvoir une IA réactive et durable.
Source: OMS
