Les chercheurs ont développé la première plate-forme de test face-à-face réelle au monde pour déterminer si les algorithmes commerciaux d'intelligence artificielle (IA) sont adaptés à l'utilisation du NHS pour détecter la maladie de manière juste, équitable, transparente et fiable, en utilisant la maladie oculaire diabétique comme premier exemple.
Ils affirment que cela supprime tous les préjugés pouvant provenir des entreprises souhaitant déployer leur logiciel d’IA dans des environnements cliniques, mettant ainsi toutes les entreprises sur un pied d’égalité.
Actuellement, la sélection des algorithmes d’IA du NHS se concentre sur la rentabilité et l’adéquation des performances humaines. Toutefois, des défis plus vastes demeurent, notamment la nécessité d’une infrastructure numérique robuste et de tests plus rigoureux des algorithmes commerciaux. Surtout, les logiciels utilisés comme dispositifs médicaux ont rarement été évalués quant à leur équité algorithmique à grande échelle, en particulier auprès de différentes populations et ethnies. Cet oubli a conduit à des disparités involontaires en matière de santé, telles que les oxymètres de pouls utilisés pour mesurer les niveaux de saturation en oxygène qui sont moins précis sur les personnes à la peau plus foncée, ce qui a incité le gouvernement à réexaminer l'équité des dispositifs médicaux, y compris l'IA.
Dans une étude publiée aujourd'hui dans (1)les chercheurs ont testé la plateforme indépendante dirigée par le professeur Alicja Rudnicka de la City St George's, Université de Londres et Adnan Tufail du Moorfields Eye Hospital NHS Foundation Trust, en collaboration avec l'Université de Kingston et Homerton Healthcare NHS Trust. La plateforme a été utilisée pour comparer les algorithmes commerciaux d’IA conçus pour détecter les maladies oculaires diabétiques. Ces algorithmes fonctionnent en identifiant les signes de lésions des vaisseaux sanguins au fond de l’œil.
Sur les quatre millions de personnes en Angleterre et au Pays de Galles inscrites au programme de dépistage du diabète du NHS, plus de trois millions de personnes sont dépistées pour la maladie oculaire diabétique tous les un à deux ans. Le service de dépistage anglais du NHS génère à lui seul environ 18 millions d’images du fond de l’œil par an, qui sont toutes analysées par jusqu’à trois personnes différentes. Cela génère une charge de travail colossale et de plus en plus insoutenable, accaparant un temps, un argent et des ressources précieux qui, selon les chercheurs, pourraient être consacrés à une meilleure prestation de soins.
En collaboration avec le Homerton Healthcare NHS Trust tourné vers l'avenir et son service informatique progressiste, un « environnement de recherche fiable » composé de chercheurs indépendants a été créé. Au total, 25 entreprises dotées d'algorithmes marqués CE ont été invitées à participer à l'étude et huit ont accepté.
Les huit algorithmes d'IA ont été « branchés » à la plateforme et exécutés sur 1,2 million d'images de l'arrière de l'œil provenant du programme de dépistage des yeux diabétiques du nord-est de Londres – l'un des programmes de dépistage du diabète les plus vastes et les plus diversifiés en termes d'origine ethnique, d'âge, de niveau de privation et de spectre des maladies oculaires diabétiques.
Les performances des huit algorithmes ont été comparées à des images analysées par jusqu'à trois humains ayant suivi le protocole standard actuellement utilisé dans le NHS. Les algorithmes des fournisseurs n'avaient pas accès aux données de classification humaine et les entreprises étaient exclues du « refuge » de données où les images étaient analysées par leurs algorithmes.
Le professeur Alicja Rudnicka de l'École de santé et des sciences médicales de City St Georges, Université de Londres, qui a dirigé l'étude, a déclaré :
« Notre plate-forme révolutionnaire fournit la première évaluation juste, équitable et transparente au monde des systèmes d'IA pour détecter les maladies oculaires diabétiques menaçant la vue. Cette profondeur d'examen de l'IA est bien plus élevée que celle jamais accordée à la performance humaine. Nous avons montré que ces systèmes d'IA peuvent être utilisés en toute sécurité dans le NHS en utilisant d'énormes ensembles de données et, plus important encore, en montrant qu'ils fonctionnent bien dans différentes ethnies et groupes d'âge. «
Le co-chercheur principal Adnan Tufail du Moorfields Eye Hospital a déclaré :
« Au Royaume-Uni, plus de 4 millions de patients diabétiques ont besoin de contrôles oculaires réguliers. Cette étude révolutionnaire établit une nouvelle référence en testant rigoureusement les systèmes d'IA pour détecter les maladies oculaires diabétiques menaçant la vue avant un éventuel déploiement massif. L'approche que nous avons développée ouvre la voie à une adoption plus sûre et plus intelligente de l'IA dans de nombreuses applications de soins de santé. «
Au total, 202 886 visites de dépistage ont été évaluées, représentant 1,2 million d’images provenant de 32 % de groupes ethniques blancs, 17 % noirs et 39 % sud-asiatiques. Les systèmes d’IA n’ont pris que 240 millisecondes à 45 secondes pour analyser toutes les images par patient, contre jusqu’à 20 minutes pour un humain entraîné.
La précision des algorithmes d’IA permettant d’identifier les maladies oculaires diabétiques nécessitant potentiellement une intervention clinique était de 83,7 à 98,7 %. Il est important de noter que la précision était de 96,7 à 99,8 % pour les maladies oculaires diabétiques modérées à sévères et de 95,8 à 99,5 % pour les maladies oculaires diabétiques les plus avancées (prolifératives) menaçant la vue. Ceci se compare à une étude publiée précédemment (2) où la précision des humains dans l'évaluation manuelle des images pour ces niveaux de maladie oculaire diabétique variait de 75 % à 98 %, montrant que les algorithmes d'IA fonctionnaient de la même manière, voire mieux, qu'un humain en une fraction du temps.
La plateforme a également détecté le taux de cas sains signalés à tort comme souffrant d’une maladie oculaire diabétique par chaque algorithme, une autre mesure critique de précision. Il a montré que les algorithmes fonctionnaient systématiquement bien dans différents groupes ethniques, c'est la première fois que cela est évalué.
Le professeur Alicja Rudnicka a ajouté : « Ce travail ouvre la voie à l’extension de l’utilisation de notre plateforme du niveau local au niveau national.
« Notre vision est de fournir une infrastructure d'IA centralisée qui héberge des algorithmes approuvés, permettant à tous les centres de dépistage de télécharger en toute sécurité des images rétiniennes pour analyse. Les résultats générés par l'IA seraient renvoyés au centre et intégrés directement dans le dossier de santé électronique du patient. Cette approche élimine le besoin de dupliquer l'infrastructure sur plusieurs sites, réduisant les coûts d'installation et garantissant une prestation de services cohérente et équitable à l'échelle nationale. «
Les chercheurs affirment que leur plateforme profite à tous – donnant aux entreprises la possibilité d’obtenir des commentaires indépendants pour améliorer leur technologie et aux fiducies du NHS de sélectionner les outils d’IA qui leur conviennent le mieux, rendant les tâches très répétitives plus efficaces afin que les personnes effectuant le dépistage puissent se concentrer sur les maladies à plus haut risque et utiliser de nouveaux types d’analyses rétiniennes. Les patients bénéficieront également à terme d’un diagnostic beaucoup plus rapide et de soins optimaux.
Cette approche unique et transparente pourrait servir de modèle pour évaluer les outils d’IA dans le traitement d’autres maladies chroniques telles que le cancer et les maladies cardiaques, contribuant ainsi à renforcer la confiance du public et à accélérer l’adoption sûre et équitable de l’IA dans les soins de santé.
Le professeur Sarah Barman, qui a participé à l'étude de l'Université de Kingston, a déclaré : « Cette évaluation à grande échelle de l'efficacité des algorithmes d'IA nous a permis de démontrer comment différents algorithmes fonctionnent dans des sous-groupes de la population. Elle fournit également une approche claire qui peut être appliquée à d'autres domaines médicaux pour garantir que l'IA est équitable et fonctionne bien pour tout le monde. »
Cette étude a été financée par la Direction de la transformation du NHS, la Health Foundation et le Wellcome Trust.
