Vincent Martenet est invité par l'assemblée du Collège de France sur proposition de la Pr Samantha Besson, dans le cadre de la convention conclue avec l'Université de Lausanne.
Résumé
Les géants technologiques mondiaux (Big Tech) participent, à divers titres, à la création de règles de droit ou de règles présentant des caractéristiques proches. Outre qu’ils influencent le contenu des normes et standards techniques, ils adoptent eux-mêmes des règles d’une importance économique et sociétale, voire politique, considérable et exercent ainsi un pouvoir qui s’apparente à un pouvoir réglementaire.
De surcroît, ils occupent une place de choix dans le processus d’élaboration d’un grand nombre de lois ou de règlements, en particulier de celles et ceux régulant leurs activités. En effet, ils sont généralement consultés lorsque celles-ci sont concernées et sont parfois même associés à la rédaction de projets législatifs ou réglementaires. De plus, ils recourent abondamment au lobbying en vue d’influer notamment sur les politiques publiques, les actes normatifs et leur mise en œuvre.
Enfin, les systèmes et modèles d’intelligence artificielle qu’ils développent feront peut-être partie, à l’avenir, du processus législatif. À cet égard, les Émirats arabes unis prévoient d’utiliser l’intelligence artificielle pour rédiger de nouvelles lois ou pour examiner et réviser des lois existantes. En sélectionnant les données utilisées lors de l’entraînement de ces modèles, en concevant des algorithmes ou en définissant les paramètres numériques essentiels lors de l’apprentissage profond en intelligence artificielle, les géants technologiques mondiaux opèrent, souvent de manière opaque, des choix susceptibles d’influer sur le contenu même du droit.
Ces différents phénomènes de privatisation du droit invitent à une réflexion sur le rôle des États – ou sur celui d’une union d’États telle que l’Union européenne – et sur la mise en place de freins et contrepoids (checks and balances) destinés, entre autres, à protéger ou préserver les droits fondamentaux, l’État de droit et la démocratie. Cette concentration du pouvoir normatif en mains privées conduit en outre à s’interroger sur les rôles respectifs du droit constitutionnel et du droit de la concurrence. Certes, le premier compte parmi ses fonctions celle de répartir le pouvoir de l’État entre divers organes ou institutions, tandis que le second s’intéresse principalement au pouvoir des entreprises. Le tableau est cependant devenu plus complexe et, en même temps, plus flou, à l’heure où les interactions entre les géants technologiques mondiaux et les détenteurs du pouvoir politique sont innombrables. À ces deux domaines juridiques s’ajoute par ailleurs le développement d’un droit de l’intelligence artificielle, spécialement dans l’Union européenne avec le règlement européen sur l’intelligence artificielle.
Le triptyque formé par le droit constitutionnel, le droit de la concurrence et le droit de l’intelligence artificielle apporte pourtant peu de réponses aux différents phénomènes de privatisation du droit que l’on observe actuellement. Or, la privatisation du droit peut aussi signifier la privatisation de la démocratie et la substitution d’intérêts commerciaux – peut-être l’intérêt de l’intelligence artificielle elle-même à l’avenir – à l’intérêt général.
Dans ce contexte quelque peu vertigineux se pose la question d’une réappropriation de l’intelligence artificielle par la démocratie. Elle invite à une approche multidimensionnelle de la relation entre l’une et l’autre, faisant apparaître trois axes, à savoir la démocratie sur, dans et par l’intelligence artificielle.
La démocratie sur l’intelligence artificielle implique l’adoption d’une législation étatique – démocratiquement adoptée – posant les règles importantes dans ce domaine, par exemple les valeurs sur lesquelles doivent s’aligner les systèmes et modèles d’intelligence artificielle. L’État ne saurait en définitive adopter une attitude de laissez-faire. Comme l’a remarqué Michel Foucault, en parlant de la concurrence dans sa leçon du 7 février 1979 au Collège de France, « [l]e gouvernement doit accompagner de bout en bout une économie de marché » (Naissance de la biopolitique – Cours au Collège de France, 1978-1979, Paris, Gallimard & Seuil, 2004, p. 125). Il en va sans doute de même de l’intelligence artificielle.
La démocratie dans l’intelligence artificielle représente peut-être un abus de langage, mais revient à exiger que les règles importantes continuant à émaner des géants technologiques mondiaux soient définies de manière participative, en associant notamment la société civile. Il pourrait, à tout le moins, en résulter une forme de « sociétalisation » des règles issues de ces géants. Plus généralement, cette dynamique doit aussi conduire à installer divers freins et contrepoids au sein de ces entreprises, actionnés ou seulement actionnables quand ces dernières adoptent des règles de grande importance pour les particuliers.
La démocratie par l’intelligence artificielle voit enfin en celle-ci un facteur et un vecteur d’amélioration du fonctionnement de nos démocraties que l’on qualifie parfois d’affaiblies, voire de fatiguées. Tout l’enjeu consiste ainsi à se demander si l’intelligence artificielle peut révéler des points de consensus au sein d’une société – par exemple par le biais de la plateforme open-source Polis comme ce fut le cas à Taïwan – ou renforcer les interactions entre les représentés et leurs représentants. En somme, l’intelligence artificielle pourrait – ultime paradoxe – replacer l’intérêt général au cœur du processus législatif, en « recitoyennisant » un processus aujourd’hui souvent influencé et accaparé par des intérêts privés, notamment lorsque les géants technologiques mondiaux défendent les leurs.
