Jusletter IT

Le monde académique en matière de droit commercial fait actuellement l’éloge de l’engagement de l’intelligence artificielle (ci-après IA) dans les comités directeurs des entreprises et des robot-directeurs.¹ Il est essentiellement attribué deux avantages compétitifs à l’IA face aux directeurs humains dans la direction des sociétés.² Si d’une part, l’IA permettrait un traitement plus efficace des données historiques associés à une entreprises, il leur est surtout attribué la capacité de remplacer les directeurs dans les tâches considérées comme trop exigeantes pour les êtres humains en offrant des décisions plus optimisées sur la base de ces données.³

Cet article décrit brièvement l’aspect technique de l’intelligence artificielle (II), avant de présenter des initiatives privées d’entreprises appliquant l’IA dans le domaine décisionnel, des ressources humaines et de la compliance (III). Il défend également que l’optimisme pour les CorpTech doit être tempéré par une prise de conscience de la part des directeurs des limites actuelles de la technologie. Ces limites sont essentiellement de deux ordres, à savoir un ordre technique d’une part (IV), ainsi qu’un ordre juridique d’autre part (V). Il sera enfin plus particulièrement question de l’admissibilité d’un robot au comité directeur en droit suisse (V), avant de conclure (VI).

Au vu des développements actuels en matière d’IA et de machine learning, le rôle de l’être humain et des travailleurs est profondément remis en question notamment dans un contexte d’automatisation des tâches et du travail. C’est précisément le but des CorpTech de déterminer comment engager les nouvelles technologies dans un cadre sociétal (en anglais Corporate Technologies).⁴ En ce qui concerne l’intelligence artificielle, il était prévisible que des sociétés s’interrogent également sur l’engagement de l’IA auprès du management voire même auprès des comités directeurs ou conseil d’administration.⁵ Des auteurs comme Möslein parlent de robot-directeurs destinés par exemple à épauler les directeurs dans la gestion des sociétés et la prise de décision.⁶ Avant de comprendre les avantages et les limites des robot-directeurs, il est important de traiter de l’intelligence artificielle et de ses trois catégories clés.

S’agissant de la notion d’intelligence artificielle, aucune définition ne fait actuellement consensus en raison de la multitude de publications et de définitions employées dans la littérature.⁷ Dérivé de la définition historique d’Alan Turing, on peut néanmoins considérer que le développement d’algorithmes dont l’objectif consiste à répliquer le mode de pensée d’un expert humain relève du domaine de l’intelligence artificielle.⁸ Il peut ainsi s’agir de la reconnaissance et la résolution de tâches de la vie quotidienne à l’aide d’algorithmes.⁹ La littérature recense essentiellement trois types d’intelligence artificielle, à savoir l’IA étroite, l’IA générale ainsi que la super intelligence.¹⁰

L’IA étroite regroupe les algorithmes ayant pour objectif de traiter d’une tâche particulière donnée, mais s’avérant incapable de s’adapter à de nouveaux environnements ou contextes.¹¹ Il en va ainsi par exemple, d’une calculatrice ou du programme d’échec développé par IBM Deep Blue. Au contraire, l’IA générale regroupe les systèmes à même de résoudre différents types de problèmes et capable de raisonner en s’adaptant à différents environnements et contextes, sans interventions humaines au même titre que le ferait un expert humain.¹² La super intelligence quant à elle comprend les systèmes pouvant dépasser les êtres humains en termes de créativité scientifique, de jugement, de prudence et de compétences sociales.¹³ L’apprentissage par la machine ou machine learning se décrit comme la génération algorithmique de connaissances à travers le traitement des données tirées de l’expérience.¹⁴ En d’autres termes, la machine analyse elle-même les inputs et les outputs pour faire ses propres corrélations et équations et optimiser son processus décisionnel.¹⁵

En ce qui concerne les robot-directeurs, Möslein recense trois types d’IA selon le degré de supervision du robot par un être humain et de l’allocation du pouvoir de décision entre la machine et le superviseur humain.¹⁶ Dans l’IA assisté, la machine offre une recommandation de vote qui lui est consacrée, alors que le pouvoir de décision reste auprès du superviseur humain.¹⁷ Dans l’IA augmentée, le superviseur et la machine partagent le pouvoir de décision et apprenne des feedbacks des uns des autres.¹⁸ Dans l’IA autonome la machine prend toutes les décisions en raison de la quantité trop volumineuse de données traitées pour le superviseur soit en raison de la confiance conférée en l’IA.¹⁹

Essentiellement, les robot-directeurs offrent une solution aux défauts inhérents des humains et de leurs décisions dans un cadre sociétal.²⁰ D’une part, l’IA serait en mesure de remplacer les humains dans les tâches considérées comme trop difficiles pour eux.²¹ L’emploi de robot-directeurs permet également d’effacer les risques de comportement opportuniste de la part des directeurs.²² D’autre part, l’IA a de meilleures capacités à traiter de large base de données historiques permettant d’offrir des recommandations de vote optimisées basées sur des données historiques de l’entreprise.²³ Certaines entreprises privées l’ont compris et engagent des robot-directeurs auprès de leur management pour épauler la gestion et la prise de décision, voire pour des décisions de transactions et d’investissement.²⁴

Certains auteurs soutiennent la possibilité d’offrir une place de directeur à des membres IA au sein d’un comité directeur.²⁵ En 2014, Deep Knowledge Venture, un fond basé à Hong-Kong, a nommé un robot-directeur nommé VITAL (Validating Investment Tool for Advancing Life Sciences) auprès de son conseil d’administration à titre de « membre du conseil avec statut d’observateur ».²⁶ L’algorithme développé pouvait émettre un vote sur les décisions de transactions de la société. VITAL a été nommé pour ses capacités d’automatiser les procédures de due diligence ainsi qu’à analyser des données historiques de manière à déceler des tendances d’investissements.

Parallèlement à la fonction de directeur, le futur de l’IA demeure surtout dans le soutien des fonctions directoriales. C’est ainsi que Hsuan-Tien Lin, chief data scientist auprès d’Appier, une société de technologie basée à Taiwan, a déclaré que « l’IA est progressivement employée pour soutenir les décisions du management dans une multitude de secteur ».²⁷ Il indique également que « tous les domaines du management comprend des données. L’IA peut soutenir la prise de décisions basée sur ces données dans le but d’aider les directeurs humains à décider quelles actions entreprendre pour atteindre leurs objectifs ».

À titre d’exemple, en 2016, la société finlandaise cotée en bourse Tieto a également nommé un algorithme IA nommé Alicia T dans son leadership team.²⁸ Le rôle d’Alicia T est d’assister son équipe dans les décisions liées aux données et d’émettre de nouvelles idées sur la base de leurs données. L’algorithme est dôté d’un système de conversation permettant de lui poser des questions dans un langage naturel, dans un style similaire à Siri ou à Cortana. Le robot peut émettre des votes et sert également au développement de technologie d’interfaces relationnels de Tieto.²⁹

Un autre domaine dans lequel les sociétés engagent des algorithmes d’IA constitue notamment les ressources humaines et le recrutement.³⁰ L’emploi d’IA lors du recrutement de nouveaux collaborateurs sert principalement à prendre des décisions dénuées de tout préjugé humain.³¹ Les grandes entreprises recourent de plus en plus souvent à des algorithmes pour sélectionner des candidats, tendances venant également s’installer en Suisse.³² Le rôle de l’IA s’étend au traitement des données liées à la voix et à l’image du candidat, de l’analyse des émotions et du comportement et des gestes du candidat.³³ Un exemple symbolique à cet égard, constitue le robot humanoïde Sophia développé par la société Hanson Robotics en collaboration avec la société mère de Google, Alphabet ainsi que SingularityNET.³⁴ Sophia pose des questions aux candidats et mesure les réactions physiologiques d’un candidat. Le robot a pour vocation de servir d’expert objectif des candidats aux postes d’Hanson Robotics.³⁵ Par la suite, les directeurs reçoivent les recommandations de Sophia par rapport aux candidatures interviewées, avant que ceux-ci statuent sur la suite du recrutement.

Enfin, l’IA joue également un rôle clé dans la digitalisation du management de la compliance légale.³⁶ Pour assurer la rectitude d’un processus, par exemple la commande d’une pièce, l’émission du bon de commande, la réception de la pièce, le contrôle de livraison et le règlement de la facture, les auditeurs au sein d’une entreprise doivent prélever un échantillon de dossiers choisis et déterminer la conformité avec le processus standardisé.³⁷ L’emploi de l’IA permet de tester ces processus dans leur intégralité et à moindre coût.³⁸ De plus, les transgressions de compliance peuvent être écartées de façon préventive par l’IA ou signalées rapidement lors de leur découverte.³⁹ Par le biais de machine learning, l’IA peut également utiliser les résultats comme modèles pour améliorer son propre processus de détection.⁴⁰ C’est ainsi que des banques et des assurances peuvent par exemple analyser de gigantesques volumes de transactions de paiement et déceler des anomalies comme des indices de blanchiment d’argent ou de fraudes en temps réel à l’aide de système de détection des fraudes.⁴¹

Plusieurs critiques sont néanmoins adressées concernant les limites des robot-directeurs et empêchant partiellement la démocratisation auprès des comités directeurs des sociétés.⁴² Il est important de relever que malgré les avantages techniques offerts par l’intelligence artificielle, leurs recommandations de décisions requièrent suffisamment de données historiques sur lesquelles l’IA peut se baser.⁴³ En d’autres termes, la précision et la rigueur des décisions dépendent elles-mêmes de la précision et du volume de données disponibles à l’entreprise.⁴⁴ Or, il manque le plus souvent aux PME les ressources nécessaires pour obtenir de telles bases de données, respectivement celles-ci n’ont pas leurs propres données historiques nécessaires dans leur système.⁴⁵ D’un autre côté, les grandes entreprises seront réticentes quant à partager ces données avec des concurrents potentiels.⁴⁶

D’autre part, même à supposer que ces données empiriques soient disponibles à l’entreprise, celles-ci ne peuvent pas s’adapter aux situations nouvelles et inédites que réservent le futur.⁴⁷ Partant se baser sur les décisions d’un robot-directeur nécessite forcément un certain degré de spéculation sur les évènements futurs et les conséquences.⁴⁸ C’est une des raisons ayant poussé le fond hongkongais de nommer VITAL en tant que membre du conseil d’administration avec statut d’observateur sans pouvoir de décision.⁴⁹

Les limites juridiques de l’engagement de robot-directeurs auprès de comités directeurs tiennent principalement à l’absence de la personnalité juridique.⁵⁰ Essentiellement, deux problèmes juridiques surgissent à cet égard. D’une part, les stratégies légales du droit commercial ne sont pas adaptées aux robots-directeurs, d’autre part le droit suisse actuel ne permet pas l’engagement d’IA autonome en qualité d’associé.⁵¹

Les stratégies légales employées par le droit commercial s’adressent spécifiquement aux êtres humains dans le but de réduire les coûts d’agence.⁵² En tenant compte de la relation agent-principal, la loi apporte un cadre de règles destiné à encourager ou à décourager les directeurs lors de la gestion de l’entreprise.⁵³ Il en va ainsi par exemple, des clauses de responsabilité civile des administrateurs, du pouvoir de fixer ou limiter les rémunérations des administrateurs, ainsi que la responsabilité limitée aux actifs de la société.⁵⁴ Ces normes légales visent à aligner les intérêts des administrateurs avec les intérêts des actionnaires lors de la prise de décision. Un robot-directeur dépourvu de capacité légale et donc du pouvoir de disposer de biens ne sera pas sensible au système d’incitation légal.⁵⁵ À titre d’exemple, un robot-directeur ne pourra pas être tenu responsable d’un dommage causé en raison de ses décisions, à défaut de pouvoir posséder un patrimoine et de jouir de la personnalité juridique. Il est toutefois possible de programmer l’AI de manière à renforcer sa propension aux risques ou son aversion aux pertes, ainsi que pour se conformer à la loi.⁵⁶

D’autre part, le droit suisse ne permet pas de nommer un robot-directeur à la tête d’une société. S’agissant d’une société simple, autant les personnes physiques que les personnes morales peuvent devenir membres au sens de l’art. 530 CO.⁵⁷ Cependant, une société simple ne peut devenir membre d’une autre société simple à défaut de détenir la personnalité juridique et de pouvoir se lier juridiquement à des tiers en son propre nom.⁵⁸ Le même raisonnement est applicable aux robot-directeurs, dépourvus de la personnalité juridique.⁵⁹ S’agissant d’une société anonyme, seuls des personnes physiques peuvent endosser la qualité d’administrateur au conseil d’administration (art. 707 III CO a contrario).⁶⁰ Les travaux préparatoires liés à la révision datée du 2014 du droit de la société anonyme prévoyaient expressément que seules des personnes physiques peuvent entrer dans le conseil d’administration d’une SA en raison de la responsabilité personnelle des membres pouvant être engagée par une action en responsabilité.⁶¹ Par conséquent, un algorithme d’IA ne peut pas devenir membre d’une société simple ni faire partie du conseil d’administration d’une société anonyme. C’est donc uniquement en qualité d’IA assisté que les robot-directeurs peuvent être engagés pour épauler les membres d’une société de droit suisse.⁶²

Les applications de l’IA fleurissent d’année en année et viennent même remplacer substantiellement l’être humain dans de plus en plus de domaines dans un contexte général d’automation du travail. Le cadre légal général sera de plus en plus souvent confronté aux nouveaux challenges de la technologie, par exemple l’interdiction de la discrimination en lien avec les algorithmes de recrutement.⁶³ On peut encore imaginer le devoir de diligence des directeurs ainsi que les normes de transparence lors de l’engagement d’IA assisté et la délégation de fonctions auprès d’un conseil d’administration.⁶⁴ Se pose également la question de la protection des données personnelles, par exemple lors de l’emploi de l’IA dans le recrutement de nouveaux candidats.⁶⁵

Concrètement, quatre scénarios différents sont envisageables du point de vue du législateur. Une approche de laissez-faire, comme adoptée aux États-Unis à l’égard d’internet sous l’administration Clinton permet aux autorités de prendre le temps d’observer et de gagner de l’expérience sur les abus liés à l’application des nouvelles technologies. Une deuxième approche consiste à appliquer le cadre légal général aux problèmes posés par les nouvelles technologies. Il s’agit de l’approche que le Conseil fédéral a adopté envers la technologie des registres distribués et les jetons devant entrer en vigueur le 1^er août 2021 suite à la période consultative.⁶⁶ Une troisième approche consisterait à laisser l’industrie privée s’autoréguler. Une dernière approche, moins opportune à notre avis, consisterait à règlementer spécifiquement les applications de l’IA. Cette approche est moins opportune car elle risque de freiner le développement technologique et l’innovation de la part du monde scientifique qui devrait au contraire servir d’avantage compétitif à la Suisse. Elle s’oppose également au principe de la neutralité technologique. Dans tous les cas, les applications d’IA ont encore de beaux jours devant elles qu’elles fassent l’objet ou non d’une réglementation de la part de l’État.

Auteur: Fabian Teichmann, Teichmann International (Schweiz) AG

Co-auteur: Léonard Gerber, Teichmann International (Schweiz) AG