Garder les humains au centre de la conversation sur l’IA
Lors d'une séance sur la redéfinition du partenariat humain-IA dans les soins de santé, Matt Troup, responsable de la solution pour la documentation des cliniciens chez Abridge, a déclaré que lorsqu'il travaillait en tant que clinicien, l'un de ses plus grands défis consistait à trouver la meilleure façon d'utiliser son temps afin de pouvoir répondre à la fois aux besoins de ses patients et de sa famille. L’IA peut aider les cliniciens à transformer leur charge de travail et leur permettre d’accorder à leurs patients et à leur famille le temps qu’ils méritent.
Pallavi Ranade-Kharkar, directrice d'entreprise de la recherche informatique et génomique chez Intermountain Health, a expliqué comment son organisation redonne aux cliniciens le temps de se concentrer sur les patients en utilisant l'IA pour gérer la messagerie Epic. L'outil rédige une réponse basée sur la question ou le commentaire du patient et étayée par le contexte du dossier médical du patient. Le clinicien peut examiner ce message avant son envoi.
« Cette intervention a simplifié et rationalisé les flux de travail, et des économies en temps réel de 20 à 30 secondes par message ont été réalisées », a-t-elle déclaré. « Cela réduit le « temps passé en pyjama » et aide les cliniciens à se concentrer sur les choses qu'ils font le mieux. »
Lors de la mise en œuvre de l’IA, Russell Yeager, vice-président senior et CIO chez Encompass Health, a souligné que l’intelligence augmentée et les individus doivent travailler ensemble. Son organisation se concentre sur l’intelligence réelle plutôt que sur l’IA.
« Nous prenons l’IA et la combinons avec notre intelligence clinique et économique pour fournir une véritable intelligence aux personnes impliquées dans la prise de décision », a-t-il déclaré. Yeager a souligné que même si l’IA peut être autonome en matière d’opérations informatiques, elle a besoin de garde-fous lorsqu’elle est utilisée dans les soins aux patients.
Si l’IA apporte un énorme potentiel au secteur de la santé, elle comporte également des risques. Ranade-Kharkar a déclaré que les inexactitudes des données, le manque de transparence et les vulnérabilités accrues en matière de sécurité et de confidentialité comptent parmi les risques les plus importants.
« Au centre des soins de santé se trouve un humain, un patient. L'interaction interhumaine est au cœur d'une expérience positive pour le patient. Gardant cela à l'esprit, nous devons proposer des garde-fous pour garantir une utilisation responsable de l'IA », a-t-elle déclaré, ajoutant que l'identification des indicateurs de performance clés et leur mesure constituent une grande partie de la réussite de l'IA.
Tracey Touma, chargée de liaison commerciale en matière de cybersécurité à la Cleveland Clinic, a expliqué que la gouvernance de l'IA est un autre facteur important du succès de l'IA.
« Nous devons commencer par là. Les gens veulent ce nouveau jouet brillant et avancer rapidement. L'IA évolue à toute vitesse, mais nous devons nous assurer que nous avons une gouvernance en place pour mettre en œuvre l'IA en toute sécurité », a-t-elle déclaré. « Nous avons tous entendu parler d'hallucinations et de faux positifs. La qualité des données dépend de ce qui se trouve dans le système. Assurez-vous que les données sont bonnes, sécurisées et protégées. »
L'évaluation et la documentation des risques devraient jouer un rôle clé dans la gouvernance de l'IA, selon Ranade-Kharkar. Disposer d'un comité de gouvernance de l'IA par l'intermédiaire duquel les organisations évaluent les produits internes et externes est la première étape de l'adoption de l'IA. Une dérive des algorithmes peut se produire et introduire des biais. Il est donc crucial que les organisations subissent une surveillance continue et de qualité des performances de leurs outils d'IA. Les organisations devraient également disposer d’un inventaire de leurs outils, avec une transparence sur la manière dont le fournisseur a testé et validé les algorithmes à l’origine, a-t-elle ajouté.
Intermountain Health a récemment migré son dossier de santé électronique vers Epic, et l'organisation s'appuie sur eux pour l'aider à le mettre en œuvre et à le rendre opérationnel, en particulier en ce qui concerne la longue liste d'outils d'IA disponibles.
« Nous ne les avons pas encore tous activés. Nous le faisons de manière intentionnelle et réfléchie », a-t-elle déclaré. « Nous les activerons un par un car nous sommes sûrs de pouvoir les surveiller et maintenir ce niveau de qualité. »
Touma a souligné la nécessité d’une intention dans l’adoption de l’IA dans le domaine des soins de santé. Il est important d'avoir des parties prenantes de tous les départements et secteurs d'activité pour garantir que l'organisation ne manque de rien. Et l’organisation ne devrait pas se contenter d’acheter un nouvel outil brillant ; l'outil doit avoir démontré des économies de coûts ou répondre aux préoccupations concernant l'expérience du patient, les résultats pour le patient ou l'expérience de la prestation de soins.
« En fin de compte, notre mission est de prendre soin des patients », a-t-elle ajouté. « Si l’IA peut résoudre ces trois problèmes, nous devons alors connaître comment, l’impact, le coût et le cas d’utilisation métier. »
#CHIME25