Politique de sécurité de l’IA

Bonnes pratiques

1. Supervision humaine : Maintenez une supervision humaine chaque fois que vous utilisez un outil ou un processus d’IA. Les outils d’IA sont utilisés pour augmenter, et non remplacer, le jugement et la discrétion humains.
2. Qualité des données d’entrée : Assurez-vous que les données ingérées par les outils d’IA sont exactes, complètes et représentatives afin d’éviter des résultats défectueux ou inexacts, des biais et des discriminations.
3. Minimisation des données d’entrée : Assurez-vous que les données que vous saisissez dans les outils d’IA sont limitées à ce qui est strictement nécessaire et pertinent pour atteindre l’objectif commercial déclaré.
4. Dé-identification : Sauf si cela est strictement nécessaire, anonymisez ou pseudonymisez les données personnelles avant de les traiter à l’aide d’outils d’IA.
5. Examen des résultats : Les résultats des systèmes d’IA doivent être examinés pour vérifier leur exactitude, leur représentativité et leur véracité avant d’être utilisés pour prendre des décisions, intégrés dans des produits de travail ou partagés avec d’autres.
6. Signaler les préoccupations : Si vous avez des préoccupations concernant des utilisations spécifiques de l’IA au sein de l’entreprise ou si vous observez une utilisation abusive potentielle de l’IA ou des violations de la confidentialité des données, signalez-le immédiatement à votre superviseur et à l’équipe de confidentialité en soumettant un ticket « Événement de sécurité ou de confidentialité ».

Exemples d’utilisations inacceptables de l’IA

Afin d’atténuer les risques et de garantir une mise en œuvre éthique de l’IA, les utilisations suivantes sont strictement interdites :

• Prendre des décisions ayant un impact significatif sur les individus uniquement sur la base de l’IA : L’IA peut être utilisée pour faciliter le processus décisionnel, mais la supervision humaine est essentielle pour garantir l’équité et éviter les biais involontaires. Une supervision humaine significative doit être appliquée à tous les systèmes et processus d’IA susceptibles d’avoir un impact significatif sur un individu.
• Utiliser l’IA pour traiter des données restreintes : Les outils d’IA ne doivent pas être utilisés pour traiter des informations restreintes, par exemple les informations personnelles incluant les informations sur les catégories protégées, les croyances religieuses, les opinions ou affiliations politiques, les informations de santé personnelles et les informations personnelles sensibles telles que les numéros de sécurité sociale, les numéros de carte de crédit, etc.
• Utilisation d’outils d’IA non approuvés : Tous les outils d’IA doivent être utilisés conformément à la Politique d’Utilisation Acceptable (PUA) de l’entreprise, en particulier la section qui interdit l’utilisation de fournisseurs non approuvés pour traiter des informations sensibles, confidentielles ou restreintes.
• Négliger d’examiner les résultats de l’IA : Même les outils d’IA approuvés par l’entreprise sont capables de fonctionner de manières que nous ne pourrions pas prévoir ou anticiper. Les LLM en particulier peuvent parfois halluciner et générer des résultats inexacts, trompeurs ou faux. Un humain doit toujours examiner les résultats de l’IA pour vérifier leur exactitude avant de les utiliser dans son travail.
• Utiliser l’IA pour des conseils ou analyses d’experts (sans supervision compétente) : Bien que les LLM et autres outils d’IA offrent une assistance précieuse dans diverses tâches, ils ne doivent pas être utilisés comme substitut à l’expertise et à la discrétion humaines. Les LLM manquent de l’expertise nécessaire, ainsi que de la compréhension contextuelle, du bon sens, du raisonnement et des compétences de pensée critique que possèdent les humains, tous essentiels dans les domaines qui nécessitent une expertise spécialisée pour naviguer efficacement. Par exemple, les tâches dans les domaines du droit, de la finance, de la conformité, de la confidentialité, de la sécurité de l’information, de la science des données et de la recherche doivent toujours être confiées aux experts humains de ces domaines, et les décisions ne doivent pas être prises sans leur contribution.

Exemples d’utilisation inappropriée de l’IA et risques uniques liés à l’IA

• Un recruteur examine les CV des candidats à l’aide d’un outil gratuit de tri de CV par IA trouvé en ligne.
  • Violation de la PUA : L’outil est proposé par un tiers qui n’a pas été approuvé par le processus d’intégration des fournisseurs de l’entreprise.
  • Risque de confidentialité : Il n’y aura aucun contrat protégeant les informations personnelles que le recruteur télécharge ou partage avec l’outil. Le fournisseur pourrait être en mesure de divulguer les informations ou de les utiliser à toute fin de son choix, ce qui mettrait l’entreprise en violation des lois applicables sur la confidentialité et nuirait à la confiance des talents.
• Un employé utilise un LLM gratuit trouvé en ligne pour résumer un appel d’admission de commande client. L'employé n’examine pas le résumé généré par l’IA avant de l’utiliser à des fins professionnelles.
  • Violation de la PUA : L’outil LLM est proposé par un tiers qui n’a pas été approuvé par le processus d’intégration des fournisseurs de l’entreprise.
  • Risque de confidentialité : Les détails du client divulgués lors des appels d’admission de commande sont des informations confidentielles du client. Le partage de données confidentielles du client avec un fournisseur non approuvé pourrait violer les exigences de confidentialité du client.
  • Risque d’hallucination du LLM : Le LLM peut avoir halluciné lors de la génération de son résultat. La description de poste générée peut contenir des informations fausses ou trompeuses.
• Un employé utilise un outil d’IA approuvé par l’entreprise pour résumer des descriptions de poste, mais n’examine pas les résultats pour vérifier leur exactitude avant de les utiliser dans son travail. L’outil a été approuvé par le processus d’intégration des fournisseurs de l’entreprise, de sorte que les contrats nécessaires sont en place avec le fournisseur, mais des risques subsistent néanmoins.
  • Risque d’hallucination du LLM : Le LLM peut avoir halluciné lors de la génération de son résultat. La description de poste générée peut contenir des informations fausses ou trompeuses.
• Un recruteur enregistre un entretien professionnel avec un talent et télécharge la transcription dans notre système de gestion des talents pour résumé par IA et utilisation future avec notre modèle de notation propriétaire. Lors de l’appel, le talent a mentionné un problème de santé privé au recruteur. Le recruteur n’a pas supprimé les informations de santé de la transcription avant de les télécharger dans notre système de gestion des talents. Les informations de santé sont ingérées par notre modèle de notation propriétaire et impactent de manière inattendue le score du talent pour la commande.
  • Risque de discrimination : Il est illégal en vertu des lois fédérales et étatiques de discriminer des individus en fonction de leurs conditions médicales. L’individu pourrait poursuivre l’entreprise en justice ou déposer une plainte formelle pour discrimination auprès d’un organisme de réglementation.
• Un employé travaille avec un client potentiel qui lui demande de signer un accord de confidentialité avant leur prochaine réunion. L'employé est pressé par le temps et, plutôt que d’envoyer l’accord de confidentialité au service juridique pour examen, il utilise un outil d’IA approuvé par l’entreprise pour comparer les termes de l’accord de confidentialité du client avec les termes de notre accord de confidentialité standard. L’outil indique que les termes de chaque accord sont assez similaires, et l'employé signe l’accord de confidentialité du client sans impliquer le service juridique.
  • Risque juridique : L’accord peut contenir des risques qui auraient autrement été atténués si le service juridique avait examiné les termes avant la signature. L’outil d’IA n’a pas la capacité d’évaluer adéquatement les termes de l’accord et d’évaluer les risques. L'employé manque également de l’expertise nécessaire pour évaluer l’accord ou confirmer la validité des conseils qu’il a reçus de l’outil d’IA.

Points importants à retenir :

• Traitez toutes les informations personnelles et confidentielles avec le plus grand soin.
• Soyez conscient des risques potentiels associés à l’IA et aux LLM.
• Donnez la priorité à la supervision humaine et aux considérations éthiques dans toutes les activités basées sur l’IA.