Avec les précédents outils d’aide à la décision clinique, a-t-elle déclaré, il y avait une meilleure compréhension des algorithmes mis en œuvre et des sources de données plus claires. Mais avec la nouvelle génération d'outils d'IA, « ceux-ci sont en quelque sorte une boîte noire dans le contexte clinique. Ainsi, si je vois un patient et que j'ai une sorte d'aide à la décision qui s'affiche, je ne sais peut-être pas quel est l'algorithme en arrière-plan. Je ne sais peut-être pas si les données entrées dans l'algorithme sont exactes », a-t-elle déclaré.
Elle s’est également demandé quel type de boucles de rétroaction était en place pour ces outils. « Quand les choses tournent mal, allons-nous avoir un moyen de les signaler ? Allons-nous les résoudre si nous les signalons ? Quels sont ces mécanismes ? Et je pense qu'avoir des processus en place sera si important pour que nous nous sentions à l'aise avec ces outils en milieu clinique. Nous en reconnaissons absolument la valeur. Nous savons qu'ils peuvent être très utiles en milieu clinique. Mais il faut gagner cette confiance à mesure que nous continuons à les déployer. »
Lozovatsky a ajouté que les organisations doivent surveiller les hallucinations et les dérives si ces modèles sont censés avoir un impact sur les soins aux patients.
Le Dr Kathryn King, responsable de l'information médicale et codirectrice du centre national d'excellence en télésanté à l'Université médicale de Caroline du Sud, a déclaré que l'adoption de l'IA en milieu clinique nécessitera probablement une reconfiguration des flux de travail, à commencer par le système de dossiers de santé électroniques.
« L'immaturité que je constate dans les solutions d'IA dans l'espace clinique est en réalité qu'elles constituent une solution ponctuelle, si vous voulez, à un moment donné d'un long flux de travail clinique, généralement au sein du DSE », a déclaré King. « Ce seul point du flux de travail ne résout pas vraiment tout le problème du clinicien. »
Bien que la loi HITECH de 2009 ait contribué à pousser les organismes de santé à adopter des systèmes de DSE, le processus essentiel consistait à numériser les dossiers papier. Un certain nombre de caractéristiques du DSE sont des reliques des cartes papier.
« Je pense que la prochaine itération doit consister à poser les questions suivantes : pourquoi faisons-nous les choses comme nous l'avons fait pendant toutes ces années et comment pouvons-nous évoluer vers un flux de travail différent qui implique peut-être davantage l'utilisation de la voix, mais d'une manière qui a du sens pour chaque individu ? Et pour moi, l'accent a été mis sur « c'est l'outil, c'est la chose cool », au lieu de prendre du recul et de vraiment réinventer la façon dont nous prodiguons les soins », a déclaré Lozovatsky.