La plupart des organisations connaissent le concept de « shadow IT », un terme qui décrit toute solution technologique utilisée sur un réseau d'entreprise sans l'approbation ou la surveillance préalable du service informatique.
C'est une réalité du lieu de travail moderne : les employés qui estiment qu'il est trop fastidieux d'impliquer le service informatique dans l'inscription à un nouveau service basé sur le cloud, par exemple, peuvent utiliser un compte personnel pour effectuer leur travail, sans penser aux problèmes de conformité ou de sécurité.
Aujourd’hui, avec la prolifération de solutions utilisant l’intelligence artificielle générative, s’inscrire à un service n’a jamais été aussi simple. Mais si les organisations ne disposent pas d’une structure de gouvernance de l’IA – avec des règles établies sur les outils à utiliser – elles rencontreront un problème similaire avec l’IA fantôme.
Considérez donc l’IA fantôme comme la prochaine itération du shadow IT. Voici quelques conseils sur la façon dont les organisations peuvent atténuer les risques que cela pose, en particulier dans un secteur où les exigences sont strictes en matière de sécurité et de confidentialité des données.
1. Adopter une gouvernance de l'IA bien définie
Cela devrait être la priorité n°1. Un cadre de gouvernance approprié peut aider les équipes informatiques à prendre des décisions définitives sur l’utilisation appropriée des solutions d’IA. Définir les processus et les appliquer. Incluez une équipe multidisciplinaire de parties prenantes afin que les décisions gardent à l’esprit une perspective organisationnelle de haut niveau plutôt qu’une approche individuelle et cloisonnée. Cette équipe peut également garantir que le processus d'essai de nouvelles solutions n'est pas trop bureaucratique, afin de ne pas entraver l'innovation. Par exemple, un groupe de cliniciens souhaitant utiliser OpenEvidence sur le réseau de l'entreprise ne doit pas être immédiatement fermé ; travaillez plutôt avec eux pour définir une politique concernant son utilisation. Une approche équilibrée est essentielle.
L’IA fantôme est un symptôme d’une gouvernance immature de l’IA. À mesure que vous mûrissez votre gouvernance de l’IA, vous réduisez également l’IA fantôme, car vous pouvez apporter des solutions et faciliter les discussions avec les parties prenantes. Cela améliore le processus de prise de décision et la sécurité autour de l’IA.
2. Utiliser des garde-fous techniques pour surveiller l'utilisation de l'IA
Les équipes informatiques doivent disposer d’outils permettant de contrôler si les membres du personnel accèdent à des applications non autorisées et doivent être prêtes à limiter leur utilisation. Pensez à proposer un environnement sandbox afin que les employés puissent tester les solutions d'IA dans un environnement contrôlé.
3. Communiquer clairement les objectifs et mesurer le retour sur investissement
La collaboration est un autre aspect essentiel de l’atténuation de l’IA fantôme. Vous ne voulez pas que l’adoption de l’IA soit uniquement un programme dirigé par l’informatique ; vous avez besoin de l'adhésion des membres du personnel qui utiliseront la solution. Il est utile d'avoir un cas d'utilisation bien défini et une déclaration claire sur la solution, comment elle va être utilisée, par qui et pourquoi elle est bonne pour l'organisation. Cette communication réduira le besoin d’IA fantôme, car les membres de l’équipe comprendront les avantages d’évoluer de manière plus coordonnée et centralisée.
Technologie de la santé