En roue libre, l’IA risquerait de transformer les organisations en organismes complaisants

Les organisations qui cherchent à améliorer leur rendement à l’aide des technologies numériques peuvent s’attendre à voir l’analyse d’information changer en l’absence de point de vue humain.

Selon une nouvelle étude, la prolifération des technologies numériques comme l’intelligence artificielle (IA) au sein des organisations risque d’éliminer le contrôle humain, ce qui pourrait mener des établissements à créer un environnement de leur choix à l’aide d’information produite de façon autonome.

Cette recherche de l’École de gestion Telfer, à l’Université d’Ottawa, se penche sur les conséquences de la suppression du contrôle humain et des biais calculés des processus organisationnels centraux : en l’absence d’humains, on craint que les technologies numériques transforment considérablement les organisations.

L’étude examine les possibilités découlant du remplacement systématique des humains par les technologies numériques pour les tâches essentielles d’interprétation des environnements organisationnels et pédagogiques. Les résultats de l’étude indiquent que les organisations ne fonctionneront plus selon des systèmes d’interprétation humains, mais qu’elles deviendront plutôt des systèmes d’adoption du numérique qui créent ces mêmes environnements à l’aide de morceaux d’information assemblés.

« C’est particulièrement problématique, parce que cela pourrait empêcher, en partie ou totalement, les membres d’une organisation de reconnaître les biais dus à l’automatisation, de remarquer les changements d’environnement et de prendre les mesures appropriées », explique Mayur Joshi, coauteur de l’étude et professeur adjoint à Telfer.

L’étude, codirigée par Ioanna Constantiou, de l’École de commerce de Copenhague, et Marta Stelmaszak, de l’Université d’État de Portland, a été publiée dans le Journal of the Association for Information Systems.

Les personnes qui l’ont rédigée constatent que le remplacement des humains par les technologies numériques pourrait :

• Améliorer l’efficacité et la précision du traitement, de l’interprétation et de l’apprentissage, mais restreindre la capacité d’une organisation à fonctionner efficacement;

• Améliorer l’efficacité et la performance, mais poser des difficultés de prise en main des processus pour la haute direction;
• Dépouiller l’organisation de toute interprétation humaine et laisser ainsi les systèmes de technologie numérique interpréter l’information et adopter numériquement des environnements à l’aide de la création autonome d’information.

Cette situation aurait des conséquences sur les professionnelles et professionnels et les personnes qui aspirent à le devenir, puisque le rôle des humains dans les organisations en serait transformé, notamment en ce qui concerne leur expertise et les fonctions stratégiques des hautes directions. Par professionnelles et professionnels, on entend des spécialistes dans tous les secteurs, y compris dans le milieu médical, juridique, bancaire, comptable et de l’expertise-conseil.

« Même si les organisations transformées par le numérique peuvent tirer parti des avancées technologiques, les technologies numériques bouleversent la relation entre les organisations, leurs environnements et l’information qui fait le lien entre les deux, observe Mayur Joshi. Les résultats de l’étude indiquent que les organisations ne fonctionneront plus selon des systèmes d’interprétation humains, mais qu’elles deviendront plutôt des systèmes d’adoption du numérique qui créent ces mêmes environnements à l’aide de morceaux d’information assemblés. »