Risques et défis liés à l'utilisation de l'IA en pédiatrie
Les grands modèles de langage sont sujets à la « flagornerie », ou au désir de satisfaire l'utilisateur qui le suscite, ainsi qu'aux hallucinations, qui impliquent des découvertes fabriquées, explique Desai.
Il note que l’utilisation de l’IA en pédiatrie présente également des défis, car de nombreuses maladies infantiles sont rares et donc plus difficiles à prédire pour les algorithmes.
« Il s'agit d'une limitation purement biostatistique : les performances d'un algorithme dans la vie réelle dépendent fortement de la prévalence de la maladie. Plus la maladie est courante, plus l'algorithme est précis », explique Desai. « À l’inverse, plus la condition est rare, plus l’algorithme sera performant. »
Bien que les scientifiques utilisent des algorithmes d’apprentissage automatique pour identifier des maladies pédiatriques rares telles que les déficits immunitaires primaires, ils génèrent toujours un grand nombre de résultats « faux positifs », selon Desai. Les enfants participent alors à de nombreux tests inutiles et coûteux, dit-il.
«Cela rend ces algorithmes très difficiles à mettre en œuvre sur le lieu d'intervention», explique Desai.
De plus, les biais de formation comportent des risques en pédiatrie.
« Certains groupes de patients étaient peut-être sous-représentés dans les données de formation, de sorte que les prédictions du modèle concernant ces patients sont inexactes », explique Desai.
Pour gérer les risques liés à l'IA, Texas Children's a établi un comité de gouvernance et de pilotage de l'IA, explique Teresa Tonthat, vice-présidente et CIO associée de l'hôpital.
Le comité de gouvernance garantit que tous les résultats du modèle d’IA nécessitent un « humain au milieu » pour vérifier les informations avant de prendre des décisions concernant les patients, explique Tonthat. Le comité répond également aux préoccupations concernant les exigences réglementaires, les préjugés et les hallucinations de l’IA, ajoute-t-elle.
Parce que le système de santé travaille avec des données sur les enfants, Texas Children's propose une formation aux équipes de soins sur les approbations via MyChart d'Epic et travaille avec des fournisseurs tels que Microsoft pour discuter de la manière dont ils exploitent et protègent les données des patients, explique Tonthat.
« Notre tolérance au risque est très faible lorsqu'il s'agit d'informations sur nos patients pédiatriques », déclare Tonthat.
Malgré les risques, l’IA offre des opportunités pour résoudre les problèmes cliniques et améliorer l’efficacité des flux de travail.
IA pour la radiologie et le diagnostic en pédiatrie
Texas Children's utilise l'IA depuis plus de dix ans et s'est tourné vers la modélisation prédictive, l'automatisation, l'apprentissage profond et l'apprentissage automatique pour résoudre des problèmes cliniques, explique Tonthat. L’hôpital explore l’IA générative depuis deux ans, notamment avec des modèles qui améliorent les flux de travail des équipes soignantes. Il a fallu du temps pour susciter l'intérêt des équipes cliniques du Texas Children's, mais le personnel est désormais prêt à se développer, dit-elle.
Texas Children's a créé un modèle d'IA permettant aux radiologues de prédire l'âge osseux. Le modèle a été formé sur des millions de radiographies de mains pédiatriques.
« Comme nous disposons de millions de radiographies d'images de mains, nous avons entraîné le modèle pour lui faire savoir en quelques secondes quel est l'âge de la main de cet enfant du point de vue de la densité osseuse », explique Tonthat.
Grâce à son modèle de prédiction basé sur l'IA de l'âge osseux, Texas Children's a pu améliorer le délai d'exécution de 50 % en intégrant l'IA dans les flux de travail cliniques des radiologues, selon Tonthat. Le modèle d'IA est une collaboration entre les services de radiologie et d'information de l'hôpital et son comité de gouvernance et d'orientation en matière d'IA.
CHOP utilise également l’IA en radiologie, selon Desai.
« Dans la recherche, les chercheurs du CHOP s'intéressent à l'IA pour améliorer les diagnostics radiologiques, intercepter les erreurs de laboratoire, accélérer le diagnostic à partir de lames pathologiques et bien plus encore », dit-il.
Si un médecin voit un patient dont l'asthme est mal contrôlé, un outil d'IA ambiante pourrait récupérer automatiquement les antécédents d'asthme du patient, résumer les visites antérieures liées à l'asthme et informer un médecin si le patient présente un risque plus élevé de grippe, explique Desai. Il vérifierait ensuite quels médicaments sont couverts par le régime d'assurance du patient et pourrait commencer à rédiger la commande pour le contrôleur de l'asthme, explique Desai.
