1. Qu'est-ce que la génération auprès de la récupération?
Le chiffon est un moyen de tirer parti des modèles de grande langue déjà formés tels que GPT-4, Gemini, Bard et Llama lors de la création d'applications alimentées par l'intelligence artificielle. En ajoutant des connaissances locales (telles que la politique hospitalière ou les informations sur le protocole), le contexte (tel que les informations sur le profil des cliniciens) ou les antécédents (tels que les données cliniques des patients), RAG augmente les LLM pour éviter les problèmes d'IA courants, tels que le manque d'informations spécifiques et les hallucinations LLM.
2. Comment fonctionne le chiffon?
Rag «enveloppe» essentiellement un LLM en ajoutant des informations pertinentes à l'invite (requête) envoyée au LLM. Par exemple, supposons qu'un clinicien souhaite poser une question: «Dois-je augmenter la posologie de ce médicament pour ce patient?» Avec RAG, la question est d'abord traitée pour comprendre le type de requête et de détails abordés. Ensuite, l'outil de chiffon pourrait récupérer le protocole hospitalier pour le médicament, les recommandations du fabricant, les antécédents du patient et les résultats récents de laboratoire, envoyant tout cela au LLM ainsi que la question du clinicien. Cela donne au LLM les connaissances, le contexte et l'histoire locaux pour aider à répondre à la question. Tout cela est invisible pour le clinicien parce que l'emballage de chiffon fait le travail de choix de quoi envoyer au LLM.
3. Comment le chiffon se compare-t-il à un réglage fin?
Le réglage fin d'un LLM existant ajoute des informations au modèle, généralement des données privées. Cela peut être utile pour améliorer le LLM à des tâches spécifiques. RAG améliore le LLM avec des informations à jour et contextuellement utiles au moment où le LLM est interrogé. Les données des patients ne sont pas enregistrées dans le modèle, mais le modèle a toujours les dernières informations dont elle a besoin pour répondre aux questions, et il n'y a aucun problème de sécurité de la fuite de données confidentielles.
4. Quels sont les avantages de l'utilisation du chiffon?
RAG étend la valeur des LLM en donnant au modèle des informations supplémentaires: documents et protocoles locaux et pertinents ainsi que des informations en temps réel provenant de bases de données cliniques. Les cliniciens et les chercheurs peuvent poser des questions en fonction de ce qui se passe cette minute, pas lorsque le LLM a été formé. Ces informations supplémentaires permettent à la LLM de fournir des réponses qui sont à la fois plus pertinentes et plus précises. Les équipes informatiques peuvent également constituer des niveaux plus élevés de sécurité et des contrôles d'accès plus stricts, ne nourrissant que des informations que la personne qui pose la question est autorisée à connaître.
5. Quels sont les défis du chiffon?
Les applications RAG doivent prétraiter les invites utilisateur pour décider des informations supplémentaires à envoyer. Cela peut être un travail difficile, et il y a une chance que l'application RAG envoie les mauvaises données. De plus, ce n'est pas parce que vous avez donné un LLM que des informations supplémentaires signifient qu'elles comprendront correctement les données et les incorporer dans la réponse.