Master en droit, confidentialité des données, sécurité des patients et hallucinations
Plus tôt cette année, l’Organisation mondiale de la santé a publié des lignes directrices pour l’utilisation éthique des LMM et d’autres outils d’IA dans le domaine de la santé. L’OMS a reconnu le potentiel des LMM tout en soulignant une série de risques, notamment l’inexactitude, la partialité, le manque de responsabilité, les menaces à la vie privée et l’élargissement de la fracture numérique. « La manière dont les LMM sont consultés et utilisés est nouvelle, avec à la fois des avantages et des risques inédits que les sociétés, les systèmes de santé et les utilisateurs finaux ne sont peut-être pas encore prêts à gérer pleinement », a noté l’OMS.
Selon Ananth, il est essentiel que les développeurs et les utilisateurs de LLM soient responsables de leurs actes. Cela inclut les dommages qui peuvent être causés par l'utilisation des résultats de LLM sans intervention humaine. Il recommande six mesures de protection :
- Définissez des lignes directrices sur les endroits où les LLM et l’IA générative peuvent et ne peuvent pas être utilisés dans l’ensemble de l’organisation.
- Utilisez des ensembles de données diversifiés et appliquez-leur à la fois des tests rigoureux et un retour d’information humain pour un « apprentissage renforcé ».
- Protégez les ensembles de données contre les cyberattaques en garantissant que seules les personnes et les systèmes autorisés peuvent y accéder et en exigeant une vérification d'identité avant l'accès.
- Intégrer des « techniques d’IA explicables » afin que les utilisateurs finaux puissent comprendre pourquoi un LLM a fait une recommandation donnée.
- Maintenir un processus de développement transparent avec un « dialogue continu » sur les capacités et les limites des LLM.
- Surveiller et évaluer les performances des LLM, notamment en ce qui concerne la manière dont ils impactent les résultats, afin de maintenir la conformité aux normes réglementaires et éthiques.
Les « hallucinations » – des résultats de modèles totalement erronés – constituent un sujet de préoccupation pour les LLM. (Pensez à des images de personnes avec sept doigts ou trois bras.) Les enjeux sont certainement importants dans le domaine de la santé, en particulier lorsqu’il s’agit d’établir un diagnostic ou de déterminer un code de facturation. Cela explique en grande partie pourquoi les médecins qui utilisent les LLM pour répondre aux messages du portail des patients prennent le temps d’examiner les résultats du modèle.
Prashant Natarajan, vice-président de la stratégie et des produits pour H2O.ai, déclare que les développeurs et les utilisateurs doivent reconnaître que les hallucinations font partie intégrante des LLM et garder cela à l'esprit lorsqu'ils les déploient.
« Les modèles d’IA générative sont conçus pour traiter de grandes quantités de données textuelles. Ils prédisent très bien le prochain jeton d’une séquence », comme les lettres les plus susceptibles de se trouver après « Q » dans un mot. « Ce n’est pas un modèle de prédiction mathématique. »
Les LLM doivent être testés, dit Natarajan, et les organisations doivent se pencher sur les hallucinations qui en découlent. « Dans certains cas, vous avez des hallucinations parce que vous pouvez utiliser des techniques connues pour les réduire. Vous devez comprendre dans quels cas les hallucinations seront utiles. Vous ne le saurez pas si vous ne le faites pas. »
L'avenir des LLM dans le domaine de la santé
Une analyse réalisée par Stanford suggère que les LLM pourraient receler un potentiel considérable et inexploité dans le domaine de la santé. Jusqu’à présent, de nombreux LLM ont été utilisés pour des tâches telles que l’amélioration des diagnostics ou la communication avec les patients. Beaucoup moins de modèles abordent les tâches administratives qui contribuent à l’épuisement professionnel des cliniciens.
« Nous devons de toute urgence mettre en place des boucles d’évaluation pour les LLM où les modèles sont construits, mis en œuvre puis évalués en continu via les commentaires des utilisateurs », concluent les auteurs de l’étude.
Natarajan affirme que les LLM sont utiles aujourd'hui, bien que dans un contexte limité. La « frontière », dit-il, se situe lorsque les LLM sont davantage intégrés aux applications que les cliniciens et les patients utilisent au quotidien, en semblant accomplir une tâche puis en disparaissant une fois qu'ils l'ont terminée.
« L’IA évolue vers l’interaction, le comportement, le contexte et les agents intelligents. Elle se connecte aux comportements, aux réactions et aux émotions », explique-t-il. « Le monde s’étend au-delà de la rédaction d’e-mails. »