Les gens sont plus susceptibles de parler de leur santé à l’intelligence artificielle (IA) qu’à leurs médecins, selon un nouveau livre blanc de la société britannique de santé numérique Aide Health.
Le rapport, « Construire la confiance des patients dans l'IA » révèle une contradiction frappante au cœur des soins de santé modernes : si la plupart des gens se sentent encore mal à l’aise face à l’IA, nombreux sont ceux qui sont plus honnêtes à son égard qu’à l’égard des cliniciens.
Dans les soins primaires du NHS, la plateforme conversationnelle d'Aide Health a révélé que 26 % des patients asthmatiques admettaient ne pas prendre leurs médicaments comme prescrit – un chiffre bien plus élevé que celui généralement rapporté lors des consultations en face à face. Les résultats suggèrent qu’une IA bien conçue peut révéler des risques cachés pour la santé, souvent ignorés dans les cliniques très fréquentées.
Principales conclusions
- Les gens sont étonnamment ouverts à l’IA. Les patients ont divulgué des informations sensibles – y compris la non-observance des médicaments – bien plus souvent aux systèmes d’IA qu’aux cliniciens.
- La confiance est compliquée. Alors que 48 % des personnes interrogées sont à l’aise avec l’IA qui identifie les risques pour la santé grâce aux appareils portables, seulement 35 % pensent qu’elle améliore la qualité des soins.
- La culture et l’expérience comptent. Les niveaux de confiance varient considérablement d’une communauté à l’autre, reflétant des inégalités de santé plus larges plutôt que des différences dans les performances de l’IA.
- Le design fait la différence. Lorsque les systèmes d’IA ne portent pas de jugement, les gens déclarent moins craindre d’être critiqués et sont plus disposés à dire la vérité sur leur santé.
Ceci est basé sur les données des programmes NHS d’Aide Health ainsi que sur l’analyse d’études évaluées par des pairs.
Ian Wharton, fondateur et PDG d'Aide Health et auteur du rapport, a déclaré :
« L'IA dans le domaine de la santé se situe au carrefour de la confiance et de l'empathie. Les gens font confiance à la technologie pour écouter sans jugement, mais ils veulent toujours se sentir compris. Nos recherches montrent que nous pouvons concevoir des systèmes qui font les deux : aider les patients à parler honnêtement tout en aidant les cliniciens à réagir avec compassion. »
Enseigner à l’IA quand écouter et quand s’en soucier
Pour résoudre ce qu'Aide Health appelle le « paradoxe de la confiance », le rapport introduit un nouveau principe de conception appelé neutralité adaptative : apprendre à l'IA quand être neutre et quand faire preuve d'empathie.
- Dans les moments de grande neutralité – comme le suivi des médicaments ou la surveillance du mode de vie – les patients préfèrent souvent l’espace calme et privé qu’offre l’IA.
- Dans les moments de faible neutralité – comme les décisions de diagnostic ou de traitement – l’empathie et la connexion humaines restent essentielles.
Wharton a ajouté : «L’IA ne devrait jamais remplacer un médecin. Mais lorsqu’il est conçu pour écouter, guider et s’adapter, il peut rendre chaque conversation entre patient et clinicien plus significative.
Pourquoi est-ce important ?
Malgré la croissance rapide des investissements dans l’IA – qui devrait atteindre 148,4 milliards de dollars d’ici 2029 – 60 % des patients restent inquiets quant à son rôle dans les soins de santé. Alors que le déficit de main-d’œuvre du NHS devrait atteindre 360 000 d’ici 2037 et que près de la moitié des médecins américains font état d’épuisement professionnel, Aide Health affirme qu’une IA fiable pourrait alléger la pression sur des systèmes de santé surchargés, en soutenant à la fois les patients et les cliniciens.
Le document appelle également à des normes claires en matière de transparence, d’équité et de confidentialité dans la conception de l’IA :
- Les patients doivent comprendre comment leurs données sont utilisées et comment elles leur profitent.
- Les systèmes doivent être testés auprès de diverses populations pour garantir l’équité.
- Les interfaces doivent être simples, inclusives et accessibles à tous.
« Les gens révèlent souvent plus à l’IA qu’ils ne le pensent, et moins aux cliniciens qu’ils ne le souhaitent, » a déclaré Wharton. « Si nous pouvons concevoir une technologie qui respecte cette honnêteté, nous pouvons rendre les soins plus sûrs, plus personnalisés et plus humains. »
Aide Health applique déjà son approche de conception centrée sur la confiance dans les nouvelles technologies. La société vient d'annoncer Mirror, la première « mémoire médicale » basée sur l'IA du Royaume-Uni, entièrement conçue pour les patients.
L'application écoute discrètement pendant les consultations médicales et produit un résumé en anglais simple que les patients peuvent consulter à tout moment, garantissant ainsi que les conseils médicaux vitaux ne sont pas oubliés au moment où ils quittent la pièce. La recherche montre que jusqu'à 80 % des conseils médicaux sont immédiatement oubliés et que près de la moitié de ce qui est mémorisé est inexact – une confusion qui coûte au NHS environ 1 milliard de livres sterling par an.
