La gouvernance de l'IA peut également être considérée comme une extension de la gouvernance des données. En fin de compte, l'IA est composée de données et d'analyses avancées à son cœur. Les solutions d'IA ont besoin des principes de gouvernance des données et des pratiques de l'intendance des données, de la qualité des données, de la gestion des métadonnées, de la confidentialité et de la sécurité des données tout autant ou plus que les données traditionnelles et les solutions d'analyse en ont besoin. Il est important de ne pas réinventer la gouvernance des solutions d'IA à partir de zéro sans considérer les éléments fondamentaux critiques de la gouvernance des données.
Une partie de la gouvernance de l'IA devrait répondre aux préoccupations concernant les biais, la prise de décision et l'impact économique et culturel de la technologie. Il est essentiel que les organisations de soins de santé s'appuient sur une base de gouvernance des données et des domaines supplémentaires spécifiques à la gouvernance de l'IA s'ils espèrent avoir une adoption soutenue à l'échelle de l'organisation des solutions d'IA.
Les patients sont préoccupés par la gouvernance d'IA insuffisante
Chaque année, l'Organisation de recherche sur les soins de santé à but non lucratif ECRI publie une liste des menaces les plus importantes pour la sécurité des patients. Pour 2025, «la gouvernance insuffisante de l'intelligence artificielle dans les soins de santé» a revendiqué la place n ° 2.
Et les patients ont le droit de se préoccuper de la façon dont leurs fournisseurs utilisent l'IA dans leur prestation de soins. S'il existe une solution infirmière virtuelle qui s'appuie sur la vision par ordinateur pour surveiller une pièce, les patients ont-ils été informés de la caméra et du microphone, et ont-ils donné leur consentement explicite? Les patients savent-ils que leurs médecins de soins primaires utilisent des outils d'écoute ambiante pour la documentation clinique lors des examens annuels? Comment l'organisation protège-t-elle les données de santé des patients si une solution d'IA est utilisée?
Ce sont des questions que les organisations de soins de santé doivent répondre à mesure qu'elles explorent les rôles que l'IA peut jouer dans leurs flux de travail cliniques. Mais selon une enquête en 2023 du Center for Connected Medicine à UPMC et KLAS Research, seulement 16% des systèmes de santé ont mis en place des structures de gouvernance pour aborder spécifiquement l'IA et les données.
Une analyse de la Société de santé publique de l'Université du Minnesota des données de l'enquête de l'American Hospital Association 2023 a révélé que si la majorité des hôpitaux américains utilisaient des modèles prédictifs assistés par l'IA, seulement 44% d'entre eux avaient évalué leurs modèles de biais. Ceci est préjudiciable à la prestation équitable des soins, et si les organisations de soins de santé souhaitent atteindre l'objectif quintuple, qui comprend l'avancement des capitaux propres en santé, ils doivent sérieusement aborder les biais d'IA.
La gouvernance de l'IA n'est pas seulement un changement de technologie
Sous l'intérêt constant concernant l'IA, les préoccupations concernant la pénurie de main-d'œuvre de Healthcare et l'épuisement professionnel persistant. Les médecins et les infirmières sont étendus et ils n'ont pas toujours le soutien dont ils ont besoin. En plus de cela, les États-Unis continueront de voir une augmentation régulière des demandes de soins de santé avec une population de baby-boomers vieillissante.
Les organisations de fournisseurs recherchent des solutions pour réduire le fardeau administratif des cliniciens et les aider à faire plus avec moins. Ils espèrent également adopter des solutions qui peuvent attirer des talents et peut-être prolonger la carrière des infirmières ou des spécialistes qui pourraient autrement prendre leur retraite au cours des prochaines années.
C'est pourquoi, alors que les organisations de soins de santé continuent de piloter et d'élargir les applications alimentées par l'IA, il doit y avoir une forte structure de gouvernance pour s'assurer que les prestataires et les patients sont protégés. Et il ne suffit pas de nommer un leader principal pour superviser l'IA et l'appeler un jour. La gouvernance de l'IA devrait inclure plusieurs départements, avec une formation et une éducation à l'échelle de l'organisation.
«Nous avons besoin d'un niveau d'alphabétisation de l'IA afin que les médecins utilisant l'appareil disent:« Whoa, attendez une minute. surveillé. «
