TECHNOLOGIE DE SANTÉ : Quels sont les risques associés à un manque de gouvernance ?
PRATT : La sécurité des données en joue un rôle important. Lorsque les établissements collectent des données sans qu’une gouvernance soit en place, ce qui est collecté, comment cela est collecté et qui y a accès deviennent des questions cruciales. Il existe désormais une voix de patient enregistrée à une époque où le piratage informatique et la cybercriminalité sont fréquents et où plusieurs hôpitaux se sont déjà fait voler des données. Comment allons-nous protéger les données des patients, et qui en est responsable ?
CHARLES : Le corollaire de la sécurité est la confidentialité. Les patients partagent avec les cliniciens des choses qu’ils ne partagent avec personne d’autre : des informations privées et potentiellement stigmatisantes. Il existe déjà un risque de sécurité lié au fait que des fournisseurs tiers gèrent les enregistrements audio et la transcription, mais même les équipes internes d’assurance qualité peuvent écouter les enregistrements pour s’assurer de leur exactitude. Ce n’est pas quelque chose que les patients s’attendraient nécessairement à ce que des personnes extérieures à l’équipe soignante écoutent l’enregistrement, ce qui ressemble donc à une violation de la vie privée.
L’accès des patients est également abordé. Les patients ont-ils droit à leurs enregistrements et transcriptions ? Les organisations déterminent la durée de conservation des enregistrements. Les avocats pourraient-ils y accéder dans le cadre d’un procès pour faute professionnelle ? Les forces de l’ordre pourraient-elles y accéder en vertu d’une ordonnance du tribunal ? Ce sont d’énormes problèmes qui découlent de la nature de l’enregistrement lui-même.
Un autre risque est la complaisance en matière d’automatisation de l’IA. Nous savons que les cliniciens sont pressés et souvent fatigués, et qu’il existe un risque qu’ils acceptent une transcription sans la modifier suffisamment et que des informations incorrectes se retrouvent dans le dossier médical du patient.
FRIABLE: En particulier dans la communauté afro-américaine, les chercheurs et les défenseurs se tournent vers le modèle de l’Union européenne pour se demander quels droits les gens ont sur leurs données. Des anciens de l’Université de Tuskegee, tels que James Felton Keith, ont écrit sur la défense non seulement des droits des patients, mais également de droits plus larges en matière de données pour les Américains et les peuples du monde entier. C’est pourquoi la gouvernance est si importante, en particulier aux États-Unis, où l’IA se développe si rapidement.
TECHNOLOGIE DE SANTÉ : Quelles meilleures pratiques en matière de consentement et de notification des patients recommandez-vous ?
CHARLES : Le principe de base est que les patients doivent être traités comme des individus autonomes qui ont le choix sur comment et quoi communiquer et le droit de recevoir les informations nécessaires pour prendre une décision éclairée. Les patients ont besoin d’un préavis clair, d’un choix significatif et de la possibilité de recevoir des informations écrites avant le début de l’enregistrement.
PRATT : L’IA ambiante est un processus à plusieurs niveaux, et les pratiques de consentement doivent le reconnaître. Lorsqu’un patient dit : « Je veux des soins », cela ne signifie peut-être pas : « Je veux aussi que vous enregistriez des informations ou que vous utilisiez l’IA ambiante à d’autres fins. » Une bonne pratique consiste à séparer ces aspects : les patients ne doivent pas avoir l’impression que l’un requiert l’autre. Un langage simple est essentiel. Dire « Toutes vos informations sont transcrites par l’IA » ne dit rien aux patients. L’enregistrement commence-t-il lorsqu’ils franchissent la porte ? Quand le médecin arrive ? Qu’en est-il des salles « intelligentes » dotées de capacités d’enregistrement intégrées ? Est-ce qu’il enregistre toujours lorsque le médecin part ? Les organisations qui réussissent bien créent un processus continu et à plusieurs niveaux avec des informations explicites sur ce qui est enregistré, comment et quels sont les droits des patients en matière d’accès et de corrections.
Technologie de la santé