L’intelligence artificielle (IA), qui permet d’améliorer l’automatisation des tâches et d’accélérer leur exécution, est un atout indéniable pour la performance de l’entreprise. Toutefois elle peut présenter un risque en matière de RSE. D’abord, parce qu’elle détruit des emplois ; ensuite parce que ses processus décisionnels peuvent être en contradiction avec les valeurs mêmes de la RSE.
Ainsi, fin 2018, Amazon a-t-il cessé d’utiliser son système de recrutement basé sur l’IA parce qu’il s’était avéré fortement biaisé contre les femmes. L’émergence des systèmes de recrutement algorithmiques était pourtant censée lutter contre les diverses discriminations dans le processus de recrutement en éliminant les biais humains avec des analyses basées uniquement sur des prédictions statistiques. Or cette approche ne tenait pas compte de la façon dont sont élaborés les algorithmes. Il est désormais admis que les systèmes décisionnels utilisant l’IA ne sont que des opinions humaines écrites sous forme de code, des données encodées avec les préjugés et biais des codeurs.
Vers des systèmes d’IA "RSE-compatibles"
L’intelligence artificielle, par ailleurs, n’est pas toujours écologique. Le stockage des données et l’alimentation électrique des robots sont fortement consommateurs d’énergie et pèsent sur le bilan carbone de l’entreprise.
L’intérêt économique de l’IA est également sujet à caution car si elle permet des gains de productivité, elle impose aussi de lourds investissements financiers.
Enfin, l’enjeu pour l’entreprise en matière de sécurité des données dont se nourrit l’intelligence artificielle devient chaque jour plus préoccupant. Les systèmes d’intelligence artificielle concentrent en effet aujourd’hui la plupart des cyberattaques enregistrées sur les marchés financiers. D’où la nécessité impérieuse d’un contrôle et d’une régulation.
Les entreprises doivent donc auditer les systèmes d’IA pour détecter les biais inhérents avant de les mettre en œuvre dans leurs processus organisationnels. Plus concrètement, elles pourraient embaucher des chercheurs (économistes, informaticiens, sociologues, psychologues, anthropologues, juristes) avec l’ambition de réduire l’encodage des biais sociétaux (racisme, sexisme, homophobie, xénophobie) dans les bases de données utilisées par l’IA de façon à produire des systèmes d’IA plus justes, plus précis et plus socialement responsables.
