Risques liés à l'IA: Cinq conseils concernant l'utilisation de l'IA dans l'entreprise
Contenu
EN BREF
L'intelligence artificielle générative offre des opportunités majeures pour les PME, mais son utilisation non contrôlée expose l'entreprise à des risques critiques tels que la fuite de données, des erreurs algorithmiques et des litiges juridiques. Une étude de Kaspersky révèle que plus de la moitié des collaborateurs utilisent ces outils de manière cachée, rendant indispensable la mise en place de politiques claires et d'une surveillance active avant toute intégration technologique.
À retenir:
- Plus de 50 % des collaborateurs utilisent l'IA de manière non contrôlée dans l'entreprise.
- Les risques principaux incluent la perte de données, la diffusion de fausses informations et la discrimination algorithmique.
- Il est impératif de définir clairement quelles données sensibles ne doivent jamais être traitées par l'IA.
- Des directives claires et une transparence accrue sont essentielles pour sécuriser l'utilisation de l'IA.
- La responsabilité en cas d'erreur de l'IA reste souvent floue et nécessite une clarification contractuelle et interne.
Brigitte Miller
Brigitte Miller est auteure indépendante et journaliste. Elle écrit depuis 1990 pour des maisons d’éditions renommées et pour des portails en ligne au plan national et international sur les thématiques du management, de la gestion du personnel, de la gestion du temps, de la créativité et du management personnel. Dans ses articles, outre les nombreux conseils et expériences tirés de ses conversations et de ses interviews, elle nous livre aussi ses jugements personnels, fruit de son activité professionnelle. Elle fait preuve à cet égard d’une grande ouverture d’esprit, influencée par deux idées fondamentales: «On ne se baigne jamais deux fois dans le même fleuve» (Héraclite) et «Ce qui hier était juste ne l’est plus nécessairement aujourd’hui. Les problèmes d’aujourd’hui viennent des solutions d’hier», Peter Senge elle aspire à découvrir toujours plus d’options concrètes inédites permettant de dépasser ses limites personnelles – et d’enrichir ainsi sa propre existence.
Aides de travail appropriées
Comment minimiser les risques liés à l'IA générative dans votre entreprise suisse ?
L'intelligence artificielle à l'œuvre
L'IA générative (Gen AI) n'est pas seulement sur toutes les lèvres, elle est aussi largement utilisée depuis un certain temps déjà. Il en va certainement de même dans votre entreprise. En effet, à première vue, les avantages offerts par l'IA générative semblent clairement l’emporter à tous égards :
- Google Gemini (anciennement Google Bard), qui permet de traduire et d'écrire du texte
- ChatGPT, qui répond aux questions (souvent correctement, d’ailleurs !), écrit des textes et génère de nouveaux formats de texte
- bHuman par lequel des vidéomessages de masse et personnalisés sont rendus possibles
- Compose AI, qui permet de répondre aux courriels plus rapidement
- Descript Overdub, qui permet de reproduire à l'identique sa propre voix pour des enregistrements audio et vidéo
- Durable, qui construit des sites web avec un design adapté, des images, des textes et un formulaire de contact en 30 secondes.
Le cœur de l'entrepreneur bat dès lors à tout rompre. La Gen AI offre une multitude de merveilleuses options d'utilisation définitivement avantageuses au niveau de la production ainsi que de nombreuses solutions à des problèmes tels que la pénurie de main-d'œuvre qualifiée. Malgré tout, il y péril en la demeure.
La bombe à retardement «IA» fait tic-tac, tic-tac…
L'étude Kaspersky « Gen AI Business Infiltration » a été réalisée en 2023 auprès de 1'863 cadres supérieurs au Royaume-Uni, en France, en Allemagne, en Espagne, en Italie, en Roumanie, aux Pays-Bas et en Grèce. 250 des personnes interrogées étaient originaires d'Allemagne. Le résultat est-il surprenant ? En fait, pas vraiment. Plus de la moitié du panel (55,2 %) souhaite utiliser davantage, à l'avenir, les outils d'IA pour exécuter des tâches répétitives. En même temps, plus de la moitié du même panel (54,8 %) part du principe que la plupart des collaborateurs utilisent depuis longtemps l'IA de manière cachée, c'est-à-dire sans être contrôlés. « Alors que notre étude montre que les cadres supérieurs acceptent l'utilisation de l'IA dans leur entreprise, l'ampleur de cette utilisation n'est pas encore entièrement clarifiée. Comme le développement rapide de l'intelligence artificielle se poursuit, son utilisation incontrôlée devient de plus en plus difficile à contenir et à sécuriser. C'est vrai dans toutes les fonctions importantes de l'entreprise, comme les RH, les finances, le marketing ou même l'informatique », explique David Emm, Principal Security Reseacher chez Kaspersky. « Avant de déployer telle ou telle technologie, il est impératif de bien comprendre la gestion des données et de mettre en place des politiques robustes avant toute nouvelle intégration de l'IA générative dans l'environnement de l'entreprise ». (Source: https://www.kaspersky.de/about/press-releases/2023_haben-unternehmen-den-einsatz-von-generativer-ki-noch-im-griff. Etat au 25.05.2024).
L'étude jette donc la lumière sur différents aspects du problème. Il y en a toutefois un qui lui sert de base : la compréhension individuelle de ce phénomène. Et cette compréhension implique aussi de cibler de manière conséquente les risques liés à l'IA. Il en existe quelques-uns, et vous et vos collaborateurs devrez y faire face.
Risques liés à l’IA en ligne de mire:
- La protection des données. L'utilisation de l'intelligence artificielle implique le traitement d'une grande quantité de données qui facilite l'abus et le vol de ces dernières. Cela soulève aussi une question cruciale : quelles données d'entreprise sont-elles à ce point sensibles qu'elles ne peuvent en tout état de cause pas être traitées par l'IA - et lesquelles peuvent l'être ? La sensibilisation de vos collaborateurs, des directives claires et une sécurité accrue des données sont absolument nécessaires.
- Un risque d'erreur accru. L'IA aussi commet des erreurs. L'IA, telle qu'elle est utilisée aujourd'hui, n'apprend que dans le cadre de possibilités bien définies. Si une erreur se produit, cela signifie que l'IA a été mal programmée.
- Une responsabilité floue. Si votre entreprise utilise une IA, la question de la responsabilité des erreurs qui surviennent suite à son utilisation n'est souvent pas des plus limpides. En voici un exemple : qui est responsable si l'IA divulgue des données importantes ? Vous, parce que votre entreprise a utilisé l'IA, ou alors l'entreprise qui a développé l'IA (générative) en question ?
- Les litiges (potentiels) en matière de droits d'auteur. L'IA traite de nombreuses données, et pas seulement celles de votre entreprise. Comme les sources ne sont pas mentionnées, vous n'êtes jamais vraiment sûr(e) de l'identité de leur véritable auteur. Il suffit de penser à l'actuel procès intenté par Scarlett Johansson, qui accuse OpenAI d'avoir utilisé sa voix.
- La diffusion de fausses informations (fake news). Sans indication de leur(s) source(s), vous ne pourrez jamais vraiment comprendre d'où proviennent les informations et les données fournies par ChatGPT en guise de réponse. Bien sûr, vous pourrez classer correctement de nombreuses informations, c'est-à-dire que vous les reconnaîtrez : nonsensiques ou correctes. Mais pas toujours. L'essentiel est de savoir si vos collaborateurs sont toujours capables de les étiqueter correctement. Vous risquerez-vous à faire courir des fake news au sein de votre entreprise ou, pire encore, à contribuer à leur propagation ?
- La discrimination. L'IA traite les données que vous ou vos collaborateurs introduisent. Cette saisie n'est pas toujours vérifiée, notamment en ce qui concerne l'égalité de traitement. Si, par exemple, toutes les candidatures retenues au cours des dernières décennies sont introduites dans l'outil RH, il n'est guère surprenant que l'IA n'invite que les mêmes candidats à un entretien d'embauche. Peut-être seulement des hommes ? Dans ce cas, il est important d'attirer l'attention sur les pièges potentiels de la discrimination afin d'éviter les biais involontaires (partialité et préjugés).
Recommandations de séminaires
Minimiser les risques liés à l’IA : cinq conseils pratiques
L'IA générative évolue en permanence. Le regard que l'on porte sur l'utilisation de l'IA dans l'entreprise devrait donc lui aussi se renouveler en permanence. Déterminez la fréquence à laquelle l'IA utilisée dans l'entreprise doit être contrôlée. Vous renforcerez ainsi conjointement assurance qualité et protection des données.
Conseil n° 1: suivre l'utilisation de l'IA à la trace
Votre entreprise a recours à l'IA, cela ne fait aucun doute. Rien que lorsque votre collaborateur fait des recherches sur Internet pour une présentation ou un rapport, il est en contact avec l'IA. En effet, les réponses aux questions posées sont bien souvent des réponses d'IA. Posez-vous alors deux questions:
- Dans quels domaines l'IA est-elle, à votre connaissance, explicitement utilisée - et de quelle manière ?
- Dans quels domaines l'IA est-elle utilisée à votre insu – quels sont vos soupçons ?
Cherchez les réponses. Obtenez une vue d'ensemble de l'utilisation de l'IA au sein de votre entreprise.
Conseil n° 2: définir le degré de sensibilité des données
Votre entreprise génère beaucoup de données, des quantités abracadabrantesques de données. Sur vos clients et leurs commandes. Sur vos collaborateurs. Sur vos fournisseurs. Sur vos partenaires commerciaux. Sur les productions, les processus de travail, les tâches, les investissements et les projets d'avenir. Rares sont les données qui peuvent être divulguées à l'extérieur. La protection des données est de mise comme jamais.
Il faut donc savoir à tout prix:
- quelles données doivent être protégées
- quelles données ne doivent jamais être utilisées par des outils d'IA
- quelles données anonymisées ou généralisées peuvent être injectées dans les outils IA
- quelles données peuvent être communiquées à l'extérieur
Checklist pratique
- Établir un inventaire complet de tous les outils d'IA utilisés, y compris ceux employés à l'insu de la direction.
- Classer les données de l'entreprise par niveau de sensibilité et interdire l'entrée des données critiques dans les modèles d'IA publics.
- Mettre en place un système de contrôle d'accès rigoureux pour limiter la visibilité des données sensibles.
- Définir des règles claires sur la responsabilité en cas d'erreur ou de fuite de données générées par l'IA.
- Former les collaborateurs à la détection des fausses informations (fake news) et aux biais potentiels des algorithmes.
- Réviser et mettre à jour les directives internes pour inclure spécifiquement l'utilisation de l'IA générative.
- Garantir la transparence envers les clients et partenaires sur l'utilisation d'outils automatisés dans les processus de communication.
Conseil n° 3: mieux contrôler la gestion des données
La mise en réseau des données au sein de l'entreprise est importante et permet d'optimiser les processus de travail, de traiter les demandes des clients de manière plus satisfaisante et d'augmenter la productivité. Toutefois, cela augmente également le risque de perte incontrôlée de données. Il est important, pour cette raison précise, de savoir:
- qui a accès à quelles données et informations et quand ?
- comment les données sont-elles actuellement contrôlées dans votre entreprise ?
- comment le flux de données est-il géré ?
- quelles ont été les failles de sécurité détectées par le passé ?
- quels risques peuvent survenir (ou sont déjà survenus), notamment en ce qui concerne l'utilisation de l'IA ?
- comment la gestion des données doit-elle être améliorée ?
Conseil n° 4: édicter règles et directives
Des directives claires sont indispensables dans le cadre de l'utilisation d'une IA. Examinez les règles existantes qui ont jusqu'à présent servi de repères à vos collaborateurs et demandez-vous donc:
- Y a-t-il des faiblesses dans ces dernières parce que l'IA a évolué ?
- Y a-t-il des domaines d'utilisation de l'IA qui n'y sont pas du tout pris en compte ?
- Quelles sont les questions et/ou les problèmes que vos collaborateurs vous adressent lorsqu'il s'agit de l'utilisation de l'IA ?
- Quelles sont les nouvelles directives qui doivent dès lors être intégrées ?
Conseil n° 5: améliorer la transparence
Montrez dans quels domaines de l'entreprise et dans le cadre de quels processus vous utilisez des outils d'IA générative. Renforcez ainsi la confiance de vos clients, collaborateurs, partenaires commerciaux et parties prenantes qui se demandent peut-être : « Est-ce un chatbot qui vient de me répondre ? Ou alors est-ce un collaborateur auquel je peux m'adresser personnellement en tant qu'interlocuteur ? Ce dernier élément est une composante vitale en vue de la fidélisation de votre clientèle.
FAQ: Risques liés à l'IA
Quels sont les risques principaux de l'utilisation de l'IA générative dans une PME ?
Les risques majeurs incluent la fuite ou le vol de données sensibles, la génération d'erreurs factuelles, des litiges potentiels sur les droits d'auteur, la diffusion de fausses informations et des biais discriminatoires dans les processus de recrutement ou de gestion.
Comment savoir si mes collaborateurs utilisent l'IA sans autorisation ?
Il est difficile de le savoir sans surveillance active. Une étude montre que plus de la moitié des collaborateurs utilisent l'IA de manière cachée. La meilleure approche est de mener une enquête interne pour identifier les outils utilisés et de mettre en place des politiques de transparence.
Quelles données ne devrais-je jamais soumettre à une IA générative ?
Vous ne devez jamais soumettre de données sensibles telles que les informations personnelles de vos clients ou collaborateurs, les secrets commerciaux, les stratégies financières confidentielles ou toute donnée protégée par le droit à la vie privée.
Qui est responsable si l'IA commet une erreur dans mon entreprise ?
La responsabilité est souvent floue. En général, l'entreprise qui utilise l'outil reste responsable des conséquences de son utilisation. Il est crucial de définir des règles internes claires et de vérifier les conditions d'utilisation des fournisseurs d'IA.
