Table ronde : Les établissements de santé mettent l’IA générative sous le microscope

TECHNOLOGIE DE SANTÉ : Comment votre organisation utilise-t-elle actuellement l’IA générative ?

LONGUE HURST : Nous utilisons l’IA pour la communication avec les patients. Des chercheurs de l’Université de San Diego ont publié une étude dans JAMA montrant que les médecins agréés et les infirmières praticiennes évaluent en moyenne les réponses de l’IA aux questions des patients comme étant de meilleure qualité et contenant une plus grande empathie que les réponses humaines. J’ai examiné les réponses moi-même et je peux vous dire qu’il était très évident de savoir quelles étaient les réponses du chatbot et lesquelles provenaient de médecins. Les réponses du chatbot écriraient trois paragraphes et les médecins écriraient trois phrases.

JOHNSON : Nous étudions des moyens de remplacer le temps que les cliniciens passent à documenter les visites par des technologies capables de générer du contenu à partir de l’audio. En collaboration avec Epic, nous étudions également des moyens de générer automatiquement des réponses aux messages du portail patient. Tout cela sera disponible pour la plupart des clients d’Epic dans un an ou deux.

TECHNOLOGIE DE SANTÉ : Quel rôle les humains jouent-ils dans la communication générée par l’IA ?

GOSWAMI : Nous connaissons tous le temps qu’il faut pour répondre à chaque e-mail dans notre vie quotidienne, et cela nous a incités à adopter la technologie de l’IA. L’IA générative permet à nos cliniciens de rédiger une réponse plus complète qui intègre un peu d’empathie. Le patient ne reçoit pas seulement un résultat de test ; ils obtiennent également la conversation qui accompagne le résultat que le fournisseur a mis à jour sur la base d’un brouillon généré par l’IA.

LONGUE HURST : Nos médecins croulent sous la surcharge de leur boîte de réception. Dans certains cas, ils reçoivent un message toutes les minutes. L’IA générative est un mécanisme pour aider à résoudre ce problème. Une fois que l’IA a généré un projet de réponse à une question du patient dans le dossier de santé électronique, le médecin décide de l’étape suivante. Il y a deux boutons : l’un qui dit « Commencer par un brouillon » et l’autre dit « Commencer une réponse vierge ». Nous avons toujours veillé à ce qu’il y ait un humain dans la boucle.

JOHNSON : Ce à quoi nous pouvons nous attendre, c’est que même si les patients trouvent ces messages générés par l’IA plus lisibles ou plus rassurants, il est également tout à fait possible qu’il y ait chez eux quelque chose qu’ils jugent condescendant ou culturellement différent de ce que l’auteur du message pourrait essayer de transmettre. S’il s’avère que les messages nuisent à quelqu’un, nous devons mettre en place un processus pour y remédier.

BERGER : Au lieu de parler de contenu généré par l’IA, vous souhaiterez peut-être utiliser le terme contenu informé par l’IA. Si l’IA génère 95 % d’un document mais qu’un humain peaufine les 5 % restants, s’agit-il théoriquement d’un document créé par l’homme ou par l’IA ? Plus important encore, le patient obtient-il les réponses dont il a besoin ?

TECHNOLOGIE DE SANTÉ : Quelles sont les principales considérations en matière de sécurité et de confidentialité ?

JOHNSON : Nous ne devrions pas encore intégrer des informations de santé spécifiques à un patient ou protégées dans aucun de ces modèles génératifs. Disons que j’ai un patient qui arrive avec un problème de santé complexe et que j’ai découvert que ChatGPT peut accepter toutes ces données de patient. Et puis je tape : « Parlons de ce patient ». J’aurai maintenant entièrement confié l’intégralité de ce dossier privé à GPT. Nous ne devrions pas faire ça.

GOSWAMI : À l’heure actuelle, Microsoft et Epic créent un environnement cloud très sûr et sécurisé que nous, en tant que client, pouvons exploiter. Mais le véritable facteur critique de réussite est que l’organisation évalue sa propre culture d’acceptation, de responsabilité et d’imputabilité. C’est un outil très puissant s’il est utilisé correctement. Utilisé de manière inappropriée, il peut nuire à la réputation de l’organisation et des prestataires et compromettre les données des patients avec lesquels ils travaillent.

LONGUE HURST : L’UC San Diego a récemment reçu une subvention de 10 millions de dollars pour améliorer la cybersécurité des soins de santé. Nous avons toujours traité les données de nos patients comme de l’or, et ces processus ne changent pas lorsqu’il s’agit d’IA. Grâce à nos efforts en matière d’IA, toutes les données qui alimentent l’algorithme ne quittent pas nos murs. Lorsque nous travaillons avec des fournisseurs, nous les introduisons dans notre environnement sécurisé.

BERGER : Nous voyons des organismes de santé étendre leurs documents de politique et de conformité pour couvrir ce type de technologie. Certains ont créé un conseil sur l’IA ou un poste de responsable politique de l’IA.

TECHNOLOGIE DE SANTÉ : Quels besoins en infrastructure les établissements de santé doivent-ils prendre en compte avant de mettre en œuvre des solutions d’IA générative ?

GOSWAMI : Même si les organisations n’ont pas leurs DSE à jour, accéder à une version compatible actuelle d’Epic ne nécessite généralement pas beaucoup d’efforts, à moins que vous ne soyez vraiment obsolète et que vous n’ayez utilisé aucun correctif ou mise à niveau au cours des dernières années. années. Je serais surpris si moins de 90 % de la clientèle ne répondait pas aux normes minimales d’Epic ou de Microsoft.

BERGER : En général, les gens créent des applications d’IA sur leur infrastructure technologique existante. Les fournisseurs de cloud s’alignent tous sur différents grands modèles de langage : Microsoft avec OpenAI, Amazon et AWS avec Anthropic. Bien que vous puissiez toujours utiliser des LLM avec plusieurs cloud, l’interaction entre le lecteur cloud et le LLM doit être prise en compte.

TECHNOLOGIE DE SANTÉ : Comment les systèmes de santé peuvent-ils mettre en œuvre avec succès l’IA générative ?

GOSWAMI : Il s’agit d’une toute nouvelle technologie et nous devons comprendre où elle peut échouer. Par exemple, si un cancer est détecté, le patient n’a pas besoin d’un e-mail de six paragraphes généré automatiquement sur toutes les options d’aide financière disponibles. Non. Le prestataire doit décrocher le téléphone et avoir une conversation.

JOHNSON : La plupart des professionnels de l’informatique – et de l’informatique de la santé – connaissent le triangle personnes, processus et technologie. Mais la plupart des gens ne savent pas que l’infrastructure informatique dont nous avons besoin commence par les personnes. Les gens doivent être disposés et formés à utiliser l’IA. Et utiliser l’IA n’est pas totalement gratuit. Même si cela fait gagner du temps aux gens, chaque message généré par l’IA a un coût.

LONGUE HURST : Ce ne sont pas des technologies qui doivent être mises en œuvre immédiatement sans tester tous les patients. Vous avez besoin de partenaires qui s’engagent à évaluer soigneusement et à garantir qu’il n’y a pas de conséquences imprévues. Partagez les résultats dans des publications et lors de conférences de fournisseurs afin que les leçons apprises deviennent une fonctionnalité standard.