Quels sont les risques de l’intelligence artificielle générative que les entreprises doivent connaître ?

Source de productivité mais parfois imprévisible, l’intelligence artificielle générative compte autant d’avantages que d’inconvénients. Après l’émerveillement des premiers instants serait donc venue l’heure des questions sur les risques que ce genre d’outils comportent. Quelles sont les craintes que ChatGPT et ses confrères suscitent parmi les employés français ? Comment les entreprises peuvent-elles les appréhender ? Des questions auxquelles répond le second volet de notre étude dédiée à l’usage de l’IA générative au travail.

“Je ne peux pas prédire l'avenir, mais je peux affirmer que l'intelligence artificielle transforme déjà un grand nombre d’industries et d’emplois.”, voilà l’une des réponses que formule ChatGPT (article en anglais) quand on lui demande si l’intelligence artificielle (IA) pourrait un jour nous remplacer. Le retour de flamme de ce débat dans les médias, depuis l’introduction de la plateforme star d’OpenAI en fin d’année dernière, est le signe que l’intelligence artificielle a atteint un pallier supplémentaire. Capable de supplanter l’humain dans des tâches répétitives et manuelles, l’IA pourrait désormais le surpasser dans la réalisation de missions plus complexes et intellectuelles comme la rédaction d’un rapport ou la mise en place d’une stratégie d’entreprise. 

Alors qu’ils sont 70 % à l’utiliser dans le cadre de leur activité professionnelle, les employés de notre panel perçoivent-ils les exploits de ChatGPT nécessairement d’un bon œil ? Quel usage en font-ils ? Expriment-ils des craintes vis-à-vis de cet outil et de l’IA générative dans son ensemble ? Ont-ils le sentiment que cette technologie peut représenter à terme une menace pour leur emploi ? Que doivent savoir les entreprises des risques de l’intelligence artificielle générative et comment peuvent-elles les aborder ? Telles sont les problématiques que nous traitons dans le second volet de notre enquête menée auprès de 536 salariés français ayant régulièrement recours à l'intelligence artificielle générative au travail. Une méthodologie complète est disponible à la fin de cet article.

Quid de l’utilisation de ChatGPT par les employés sondés ?

Un employé interrogé sur deux utilise ChatGPT quotidiennement

Au total, 4 milliards de visites lors des quatre premiers mois suivant son lancement, 100 millions de visiteurs uniques à la fin du mois de janvier… ChatGPT est bien ce que l’on peut appeler un phénomène mondial auquel les employés français n’ont pas échappé. Sans surprise, l’agent conversationnel, développé par l’entreprise OpenAI est la plateforme qui jouit d’un plus grand succès parmi notre panel de salariés utilisant l’IA générative au travail, 70 % affirmant y avoir recours. Et ce loin devant un autre générateur de texte JasPer (plébiscité par 15 %). 

En permettant notamment de produire des écrits structurés rapidement, ChatGPT est-il devenu un outil indispensable dans le cadre professionnel ? Il semblerait que cela soit le cas pour ceux qui disent l’utiliser. En effet, 51 % en font usage quotidiennement. 

Par ailleurs, 31 % des adeptes de ChatGPT déclarent l’utiliser plusieurs fois par semaine. En plus de la rédaction d’articles complets sur n’importe quel sujet soumis, qui est sa fonction la plus populaire, à quelles autres fins cet outil est-il particulièrement utilisé ?

Des contenus générés divers et variés, pas systématiquement vérifiés

Utilisé par 42 % de personnes interrogées pour la rédaction de textes complets, ChatGPT aide également à remplir d’autres missions. Principalement, l’analyse de données (pour 31 %), la création de présentations (27 %), la gestion de projet (27 %), la génération d’idées (25 %) et la rédaction d’e-mails (24 %). 

Les résultats de ces requêtes en tout genre ont-ils été satisfaisants ? La réponse est “oui” pour une écrasante majorité, 94 % estimant qu’ils étaient “probants” ou “très probants”. Est-ce à dire qu’ils ont été vérifiés par les employés les ayant soumises ? Encore un “oui” pour 98 % du public adepte de ChatGPT, cependant, celui-ci s’avère un peu plus timide. En effet, si 47 % d’entre eux affirment relire chaque réponse générée soigneusement avant de s’en servir, 48 % ne le font pas systématiquement pour tous les contenus et 3 % ne les contrôlent que de temps à autre. 

Un public conscient des avantages et des risques de ChatGPT

Si ChatGPT est utilisé régulièrement par une large partie des employés interrogés, cela suppose qu’ils en retirent certains avantages relatifs à l’optimisation de leur travail. Les principaux étant un gain de temps (pour 45 % des employés utilisant ChatGPT) et une amélioration des processus de travail (44 %). Cependant, ces bénéfices n’éclipsent pas les inconvénients et les inquiétudes qui en découlent, la principale étant une dépendance excessive à cette plateforme pour réaliser certaines tâches (36 %). 

Aussi, ChatGPT pose-t-il des problèmes éthiques que toute entreprise qui en fait usage doit affronter. Des appréhensions qui ne sont pas propres à cet outil mais à toute la famille des IA génératives. En effet, la surmédiatisation de cette technologie ces derniers mois a notamment relancé de plus belle l’éternel débat sur les évolutions de l’intelligence artificielle et les risques qu’elle suppose pour l’emploi.

L’IA générative est-elle considérée comme une menace pour nos emplois ?

Du contenu qui peut rivaliser avec celui produit par les humains ?

“ChatGPT : quelles conséquences va-t-il avoir sur nos emplois ?”, “ChatGPT menace-t-il nos emplois ?”… Des questions sur le même thème qui foisonnent dans la presse et que l’on peut considérer pertinentes tant ChatGPT a pu représenter une révolution lors de son introduction en novembre 2022. Et ce ne sont pas ses évolutions de mars dernier qui couperont court au débat.

Les professionnels initiés que nous avons interrogés estiment-ils pour autant que la plateforme d’OpenAI peut, à l’heure actuelle, créer du contenu qui rivalise avec les créations humaines ? Il apparaît que 90 % sont de cet avis mais à des degrés différents. En effet, parmi eux, 28 % sont tout à fait d’accord avec cette hypothèse quand 62 % émettent quelques réserves en estimant que cela est vrai jusqu’à un certain point. 

Qu’en est-il de l’IA générative dans son ensemble ? Si 33 % n'ont pas d’opinion précise sur la question et 17 % sont sceptiques, 50 % de l’ensemble des personnes sondées sont “d’accord” ou “tout à fait d’accord” avec l’idée que le contenu généré par l’IA puisse surpasser celui imaginé par des êtres humains. 

Le remplacement d’employés, une des craintes principales des personnes sondées

On peut imaginer, sans avoir peur de se tromper, que l’automatisation que suppose l’IA générative pourrait, à terme, faire disparaître certains métiers. Une conséquence possible dont seraient conscients la plupart des employés sollicités pour notre enquête. En effet, 44 % perçoivent le remplacement d’emplois comme préoccupation éthique principale liée à cette technologie. 

Par ailleurs, 65 % jugent que l’IA générative pourrait les remplacer dans leur travail dès aujourd’hui à hauteur de 11 à 30 % de leurs tâches, quand 18 % considèrent que cette part pourrait osciller entre 31 et 50 % . 

Il est à souligner que, toutefois, rares sont les personnes sondées à estimer cette proportion à plus de 50 %. Cela serait-il une preuve, qu’à l’heure actuelle, les employés ne voient pas l’IA générative comme une menace imminente, mais comme un bras droit les assistant dans le réalisation d’une partie de leur travail ? En effet, compte tenu des capacités actuelles de cette technologie, on peut considérer qu’elle tend, à ce jour, à changer la manière de travailler en permettant de passer moins de temps sur les tâches annexes ou répétitives, et à se concentrer davantage sur celles considérées comme plus complexes. 

Pour les entreprises, l’automatisation de certaines missions grâce à l’IA générative pourrait signifier entre autres :  

• une réduction des coûts car les processus chronophages et nécessitant plus de ressources ont été éliminés, 
• une plus grande inventivité car les employés disposent de plus de temps pour remplir des missions plus créatives et innovantes, 
• un plus grand avantage compétitif face aux organisations du même secteur n’ayant pas introduit l’IA générative dans leurs méthodes de travail. 

Cependant, la part de travail remplacée estimée par les employés pourrait, sans doute, augmenter à mesure des évolutions futures de l’IA générative, ce qui pourrait expliquer pourquoi le remplacement d’emploi est la principale préoccupation des salariés sondés. Outre cette problématique, quels sont les autres risques éthiques pointés du doigt par notre panel ?

Quels sont les enjeux éthiques et les dangers de l’intelligence artificielle générative que doivent affronter les entreprises ?

Une dépendance excessive à l’IA générative

Comme cité plus haut, 36 % des employés faisant usage de ChatGPT craignent une dépendance excessive à cette plateforme, sans doute favorisée par l’apparente facilité à l’utiliser. Une préoccupation associée à l’intelligence artificielle dans son ensemble. En effet, 38 % de tous les professionnels sondés redoutent que son utilisation devienne une addiction. Un phénomène qui les effraie car il pourrait probablement les priver d’une réflexion propre ainsi que leur faire perdre leur capacité d’autogouvernance. 

Pour les entreprises, le risque de dépendre de l’IA générative serait de dévoiler un contenu formaté, sans supplément d’âme. Ainsi, un manque de personnalité, un défaut d’esprit critique et de profondeur sont autant de qualificatifs qui peuvent être attribués aux organisations qui se reposent uniquement sur cette technologie pour produire du contenu.  Ces possibles critiques peuvent avoir des répercussions négatives sur  l’image de marque. D’ailleurs, l’impact sur la réputation est l’un des risques auxquels s’exposent les entreprises qui utilisent l’intelligence artificielle générative, une menace reconnue par 23 % des répondants. 

Aussi les dangers liés à la dépendance se doivent-ils d’être étudiés avec précaution non seulement par les salariés, mais aussi par la direction, en mettant notamment en place un règlement clair sur la manière dont l’IA générative doit être utilisée et les bonnes pratiques à adopter pour qu’elle ne remplace pas, mais complète au contraire la réflexion humaine.

Des risques relatifs à la vie privée et la confidentialité des données

La plupart des employés sondés estiment que les principaux risques auxquels s’exposent les entreprises qui utilisent l’IA générative sont liés à la cybersécurité (40 %) et à la protection de la vie privée (38 %). Des problématiques qui posent également des contraintes déontologiques aux yeux de notre panel. En effet, nombreux sont ceux à percevoir comme des préoccupations éthiques majeures les thématiques relatives à la vie privée et à la confidentialité des données (37 %) et le manque de transparence dans l’utilisation des données (32 %).

Ces dangers et problèmes éthiques se doivent d’être pris en compte par les entreprises tant on ignore, à l’heure actuelle, comment les outils d’intelligence artificielle générative tels que ChatGPT utilisent, par la suite, les informations que l’on partage avec eux. Il est important de garder à l’esprit que ces systèmes s’appuient sur des données qu’ils peuvent puiser non seulement sur Internet mais aussi auprès de leurs utilisateurs. Ainsi, cela peut supposer des risques pour la confidentialité des données des entreprises communiquées, qu'il s'agisse d’informations sensibles internes ou de clients, ces dernières pouvant être divulguées, sans consentement explicite, avec des tiers. Aussi faudrait-il partir du principe que toute information introduite sur ce type de plateforme est susceptible de devenir publique.

Un mauvais usage du contenu généré

36 % des employés interrogés considèrent que le manque d’explicabilité constitue un risque important auquel s’expose une entreprise qui utilise l’intelligence artificielle générative. Une appréhension qui peut sembler légitime, les éléments pris en compte par les systèmes d’IA générative pour la production d’un résultat n'étant pas toujours intelligibles. Aussi cela peut-il rendre difficile pour l’utilisateur d’expliquer et de justifier un contenu ou une décision obtenus par le biais de ces outils. 

En plus du manque d'intelligibilité, l’IA générative présente d’autres limites de taille comme la génération de contenus erronés et biaisés. 25 % des adeptes de ChatGPT sondés ont justement pour inquiétude la diffusion d’informations inexactes par des utilisateurs qui pensent que ses réponses sont incontestables. Pire encore, l’IA générative tendrait à entretenir des préjugés et des discriminations, un aspect dont auraient conscience 13 % des répondants seulement. Tous ces inconvénients posent le problème d’un mauvais usage du contenu généré par cette technologie, cette problématique étant perçue comme une préoccupation éthique par 33 % de notre panel. 

Aussi est-il recommandé aux entreprises de ne pas prendre pour argent comptant les réponses des outils de l’IA générative et de veiller à toujours apporter des corrections aux contenus générés en appliquant des principes de logique, de pertinence, de véracité, d’objectivité et de conformité avec les lois en vigueur et les politiques de l’entreprise.

Comment les entreprises peuvent-elles affronter les risques de l’intelligence artificielle générative ?

Les résultats de notre étude tendent à démontrer que, malgré des avantages notables, la plupart des employés associent à ChatGPT et aux outils d’IA générative dans leur ensemble des inconvénients, dont des problèmes éthiques majeurs. Ces derniers sont principalement un potentiel remplacement d’emplois, une dépendance excessive à cette technologie, des risques sur la protection des données et une possibilité de faire un mauvais usage du contenu généré.

Des défis auxquels doivent faire face les entreprises afin que l’intelligence artificielle générative ne nuise pas à leur croissance. Mettre en place des règlements internes, former les équipes aux évolutions de l’IA, vérifier systématiquement les contenus générés, les corriger, les personnaliser et les considérer comme un complément à la réflexion (et non un substitut) sont autant de bonnes pratiques qui peuvent aider les organisations à les relever.