Comment les préjugés façonnent l’IA dans le domaine de la santé
Comprendre les biais de l’IA commence par savoir comment ces systèmes sont formés. Les systèmes d’IA médicale sont formés à l’aide de grandes quantités de données cliniques que les humains examinent et étiquetent d’abord, par exemple pour déterminer si une radiographie montre une pneumonie ou si un tracé ECG semble anormal.
Les modèles d’IA analysent des milliers de ces exemples étiquetés pour reconnaître des modèles et générer des prédictions, des scores de risque ou des recommandations, souvent en utilisant des informations extraites automatiquement des dossiers de santé électroniques et des systèmes d’imagerie en arrière-plan des soins cliniques. Étant donné que ces systèmes apprennent des données étiquetées par l’homme, l’exactitude des étiquettes et les personnes qui les créent façonnent directement la qualité, l’équité et la fiabilité des résultats des modèles.
Les biais peuvent s’incruster lorsque les étiquettes sont basées sur des diagnostics documentés plutôt que sur une réinterprétation experte de chaque cas. Par exemple, si une maladie est suspectée mais jamais formellement confirmée parce qu’aucun test de suivi n’a été effectué, une image peut finalement être qualifiée de « normale ». Si cela se produit plus souvent dans certaines populations en raison de différences d’accès aux soins ou de suivi, ces disparités font partie des données de formation. Alors que la radiologie adopte de plus en plus d’outils de diagnostic assistés par l’IA, les cliniciens doivent équilibrer les recommandations de l’IA avec leur propre jugement clinique.
Les coûts humains cachés de l’IA
Les personnes ayant une formation en soins de santé sont souvent les mieux placées pour annoter des données médicales ; cependant, il n’est pas toujours possible de compter exclusivement sur cette population en raison de contraintes de coûts et de main-d’œuvre.
L’annotation de données médicales n’est pas simplement une tâche technique, car elle implique également l’interprétation précise d’informations cliniques complexes. Lorsque des professionnels non professionnels de la santé sont utilisés pour l’étiquetage des données, cela peut introduire des erreurs ou une variabilité dans la manière dont les informations sont classées, ce qui peut influencer les biais.
Les problèmes de travail peuvent également avoir un impact sur le travail d’un clinicien à un niveau personnel. Même lorsque les outils d’IA sont conçus pour aider les cliniciens, ils créent souvent un travail supplémentaire non reconnu.
Le risque de biais et d’erreurs potentielles dans la formation à l’IA devrait obliger les cliniciens à revérifier les résultats, par exemple en recoupant un score de risque généré par l’IA avec les antécédents du patient, en corrigeant une classification erronée dans un outil de diagnostic ou en interprétant un point culminant d’imagerie ambigu. Cependant, ces tâches sont rarement reconnues dans la planification des flux de travail ou dans les mesures de productivité.
L’adoption responsable de l’IA nécessite de reconnaître et de planifier le temps et le jugement du clinicien nécessaires pour rendre les soins assistés par l’IA sûrs et efficaces. La sensibilisation aide également à identifier les domaines dans lesquels une surveillance supplémentaire ou un ajustement du flux de travail est nécessaire pour maintenir les normes éthiques et cliniques.