Application de garde-fous aux cas d'utilisation de l'IA générative dans le secteur de la santé
Le Dr Leith States, médecin-chef du ministère américain de la Santé et des Services sociaux, a décrit l'IA générative comme un ensemble d'outils qui pourraient potentiellement être appliqués à une variété de défis du système de santé publique. Cependant, il a déclaré qu'il trouvait préoccupant le manque de gouvernance aux États-Unis. Bien qu'il y ait eu un mouvement pour faire avancer l'utilisation de cette technologie, il n'y a pas eu d'approche intentionnelle pour la gouverner, selon States.
En octobre 2023, la Maison Blanche a publié son décret sur l’utilisation de l’IA. Les États ont déclaré que ce document était très prescriptif et manquait d’agilité. Cependant, le HHS a adopté les principes du décret et a créé un groupe de travail et un manuel sur l’IA.
« On commence à voir qu'il y a une coordination autour d'une compréhension commune de ce vers quoi nous tendons, et c'est très rafraîchissant », a-t-il ajouté.
Patricia MacTaggart, chargée de cours et directrice de programme à l'Université George Washington, a comparé l'adoption de l'IA dans le secteur de la santé à celle des dossiers médicaux électroniques.
« Nous n'avions pas de compréhension commune. Nous étions dans la même réunion et parlions de deux choses différentes », a-t-elle expliqué.
MacTaggart a recommandé de créer un cadre de discussion sur l’IA pour aider l’industrie à naviguer dans les conversations autour de la mise en œuvre, que l’utilisation soit destinée à l’engagement des patients, aux flux de travail cliniques ou à l’efficacité administrative.
« Tous ces cas d’utilisation nécessitent des garde-fous. Nous connaissons donc les exigences minimales, mais aussi les possibilités que nous recherchons et les réalités d’aujourd’hui », a-t-elle ajouté. « C’est de l’innovation. Il va y avoir une certaine évolution. Certaines choses vont bien se passer, d’autres non. Nous devons comprendre ces risques et appliquer chacun de ces garde-fous à chaque cas d’utilisation que nous réalisons. »
L’importance de la qualité et de la transparence des données
« Les données sont la base d’une IA générative réussie », a déclaré Coley, qui a expliqué que plus le modèle contient de données, plus il est susceptible d’être représentatif de la population dans son ensemble. « Cela vous fournira de meilleurs modèles de prédiction sur lesquels vous entraîner pour rendre l’IA plus efficace et non pas un obstacle. »
MacTaggart a souligné que si les organisations de soins de santé ont besoin de données de qualité pour une IA réussie, elles ont également besoin d’une infrastructure solide pour prendre en charge les données.
Cependant, lorsqu’il s’agit d’outils d’IA générative, les professionnels de la santé peuvent ne pas disposer de beaucoup d’informations sur l’ensemble de données sur lequel le modèle a été formé.
Heisey-Grove a déclaré que le secteur doit commencer à poser des questions et à exiger plus de transparence. Elle a également suggéré que les organisations construisent leurs propres bases de connaissances et commencent à fournir leurs propres données aux grands modèles linguistiques afin qu'ils puissent fournir les bons types de réponses. Bien que cela ne résoudra pas les problèmes culturels ou les préjugés plus vastes, cela aide ceux qui interagissent avec l'IA à savoir quelles données sont impliquées et quelles données manquent. Heisey-Grove a également recommandé de faire vérifier les résultats par un humain.
« Nous ne pouvons pas encore lui faire confiance en tant que tel », a-t-elle déclaré.