Charles, Renée Pratt, ancienne présidente du groupe d'intérêt spécial de l'Association pour les systèmes d'information sur les technologies de l'information dans les soins de santé, et Jack Crumbly, chef du département de gestion et professeur du Andrew F. Brimmer College of Business and Information Science de l'université de Tuskegee, ont dirigé la session destinée aux cliniciens et aux parties prenantes des technologies de l'information dans le domaine de la santé. Ils ont encouragé les participants à réfléchir plus profondément aux risques et aux avantages liés aux outils de documentation clinique ambiante.
Surveillance croissante des outils d’intelligence ambiante
Les cliniciens sont de plus en plus enthousiastes à l’idée d’adopter l’intelligence artificielle dans leur pratique, surtout si elle peut contribuer à réduire les charges administratives, telles que la documentation. Ces dernières années, un certain nombre de systèmes de santé ont noté que l’utilisation d’outils d’écoute ambiante permettait de gagner du temps sur la création de dossiers, d’améliorer la satisfaction des cliniciens et de se concentrer davantage sur les patients.
Du côté des patients, certains peuvent avoir l’impression que leurs cliniciens sont capables de leur prêter plus d’attention qu’à un écran d’ordinateur, comme le montre une vidéo de l’UW Health. Mais d’autres peuvent encore s’inquiéter des conséquences involontaires de l’utilisation de l’IA dans les soins de santé, notamment les erreurs de diagnostic, les atteintes à la vie privée, la réduction du temps passé avec les cliniciens et les coûts de soins plus élevés.
L'ambivalence à propos des outils d'intelligence ambiante a même été représentée dans des séries télévisées médicales largement regardées : un épisode récent de HBO capture l'enthousiasme et la prudence avec lesquels ces outils ont été reçus par les médecins.
Au cours de la session HIMSS, Charles a également souligné les préoccupations juridiques émergentes concernant la tenue des organisations prestataires pour responsables des résultats négatifs liés à l'utilisation de l'IA dans les applications de soins de santé. Le mois dernier, l'American Bar Association a publié un article décrivant les problèmes de confidentialité et de sécurité liés aux outils d'écoute ambiante, y compris les récents procès en Californie et dans l'Illinois concernant l'utilisation de cette technologie sans le consentement du patient.
Quand les cliniciens doivent-ils dire aux patients que leurs interactions sont retranscrites par un outil d’écoute ambiante ? La divulgation devrait-elle être faite au début de chaque rencontre ? Que se passe-t-il s'il s'agit d'un environnement hospitalier qui oblige les cliniciens à voir un patient plusieurs fois par jour ? Est-il suffisant de l’inclure par écrit parmi les documents à signer que les patients parcourent pour la plupart ? Ce sont toutes des questions auxquelles, pour l’instant, les organismes de santé individuels répondent, car les directives fédérales n’ont pas encore rattrapé leur retard.
Pratt a noté que d'autres préoccupations opérationnelles incluent la gestion des appareils et la sécurité du réseau. Si les organisations ont une politique BYOD, l'outil d'écoute ambiante est-il conforme sur le smartphone personnel d'un clinicien ? Comment les appareils restent-ils propres ? Elle a également mentionné des inquiétudes concernant l'utilisation de « mots d'éveil » qui pourraient involontairement activer non seulement l'appareil du clinicien doté de l'outil, mais également tout appareil du patient.
« Lorsque nous réfléchissons à la gouvernance de l'IA, nous voulons nous poser quelques questions. Qui est responsable ? Qui est autorisé ? Quelles données peuvent être utilisées ? Comment détecterez-vous les problèmes ? Être capable de gérer ces questions sera extrêmement critique », a déclaré Pratt.