Placement de la charge de travail : placer votre IA là où résident vos données
Les décisions de placement de la charge de travail sont rarement statiques. À mesure que les organismes de santé mûrissent dans leur utilisation de l’IA, ils revoient souvent l’endroit où les applications s’exécutent en fonction de l’évolution des structures de coûts, des besoins de performances et des exigences de gouvernance.
« Le placement des charges de travail prendra en compte des éléments tels que la latence ainsi que l’accessibilité », déclare Eryn Brodsky, responsable des pratiques en matière de serveurs et de stockage chez CDW. « Les organisations doivent réfléchir aux résultats de l’IA qu’elles souhaitent exploiter pour exploiter les données. Vous devez y avoir un accès rapide, mais vous devez également vous assurer que vous y avez un accès approprié. »
Cet exercice d’équilibre conduit fréquemment à des mouvements entre les environnements au fil du temps. De nombreuses organisations commencent leur parcours vers l’IA dans le cloud, attirées par sa flexibilité et son accès au calcul à grande échelle. Mais à mesure que les charges de travail se stabilisent et que les coûts deviennent plus clairs, certains transfèrent ces charges de travail vers leur propre environnement.
« Il n’est pas rare que nous voyions des clients commencer dans le cloud, comme c’est le cas de la majorité de nos clients, puis ramener ces applications sur site. Nous appelons cela un rapatriement », explique Brodsky. « Ils rapatrient ces charges de travail sur site car ils doivent considérer le coût de maintenance de ces applications et de ces charges de travail dans le cloud par rapport au coût de la possibilité d’investir dans l’architecture pour les prendre en charge.
L’optimisation des coûts n’est qu’un élément de l’équation. Les performances et l’efficacité jouent également un rôle majeur, en particulier à mesure que les charges de travail d’IA évoluent et nécessitent une infrastructure plus spécialisée.
« Ce que nous recherchons, c’est le coût par fonction ou le coût par jeton le plus bas », explique Gutierrez. « Tirer parti de toutes les optimisations disponibles, qu’il s’agisse de l’alimentation et du refroidissement, d’une infrastructure accélérée, de meilleurs pipelines de données, d’une meilleure posture des données, est vraiment important pour atteindre les résultats souhaités, réduire la latence et fournir aux utilisateurs les informations dont ils ont besoin quand ils en ont besoin.
Ces optimisations dépendent de plus en plus de la manière dont les organisations alignent leurs ressources de calcul sur les besoins spécifiques des charges de travail d’IA. En particulier, la relation entre les CPU et les GPU est devenue un facteur critique dans la conception des centres de données modernes.
« Les progrès en matière de calcul accéléré sont vraiment importants lorsqu’on réfléchit au centre de données du futur », déclare Gutierrez. » Certaines applications et certains processus de centre de données fonctionnent tout simplement mieux sur un GPU. Il est donc très important de comprendre la relation GPU-CPU dans votre centre de données et les charges de travail ou les tâches que vous pouvez attribuer à chacune d’entre elles pour optimiser votre infrastructure. «
Comment Microsoft Azure Local aide les établissements de santé grâce à l’IA
À mesure que les systèmes de santé prennent ces décisions, les plateformes qui unifient la gestion dans tous les environnements deviennent de plus en plus utiles. Azure Local de Microsoft offre une telle option, permettant aux organisations de créer et de faire évoluer une infrastructure d’IA tout en conservant une flexibilité quant à l’endroit où les charges de travail s’exécutent.
« Les organisations ont besoin d’une infrastructure capable d’évoluer avec leurs besoins, et avec Azure Local, vous pouvez y parvenir », explique Carro. « Vous pouvez commencer petit, puis ajouter de manière modulaire pour satisfaire les besoins de votre intelligence artificielle. »
L’un des principaux avantages d’Azure Local réside dans sa capacité à fournir une gestion cohérente dans les environnements hybrides. Grâce à une surveillance centralisée, les équipes informatiques peuvent contrôler plus facilement les ressources, appliquer des politiques et garantir que les charges de travail s’exécutent dans les emplacements les plus efficaces.
« Le contrôle centralisé via Azure Arc va nous permettre de gérer nos GPU, nos politiques et nos charges de travail sur site et dans le cloud », déclare Carro. « Cela permet aux équipes informatiques de faire évoluer l’intelligence artificielle de manière cohérente sans rencontrer de problèmes opérationnels, car nous surveillons tout sur le même panneau de contrôle. »