Le « Système de Crédits Sociaux ». L’intelligence artificielle, la soumission, la domination et l’exploitation des masses
/
L’article de Ian Bremmer dans le Time Magazine (Advantage China) décrivant comment le gouvernement chinois entend contrôler ses populations n’est pas sans nous rappeler à tous les dangers qui guettent les sociétés libérales avec l’explosion des capacités informatiques et la numérisation des intentions et des actes sociaux des citoyens, que ce soit le simple fait de connaître les humeurs et les goûts des consommateurs ou, plus fondamentalement, l’édifice philosophique et l’arbre des valeurs qui guident l’entrepreneuriat social et politique des individus.
Imaginez un rapport de crédits sociaux révélant que vous avez commis un crime, été surpris en flagrant délit de plagiat, eu des comportements déplacés en public, n’avez pas fait vos paiements mensuels à temps, avez été congédié d’un emploi, avez signé une pétition contre un membre du gouvernement, un ministère ou une société d’État, avez écrit un article faisant ressortir les défauts de l’administration et du gouvernement, avez dénoncé des transactions illégales ou des gestes de corruption, avez porté plainte pour harcèlement sexuel, avez diné avec un quelqu’un soupçonné de vouloir renversé le gouvernement, ouvert un site web encourageant les gens à prendre conscience de leur situation. Imaginez que ce rapport est analysé par une Intelligence Artificielle qui établit votre « score social », détermine votre position dans l’échelle sociale et augmente le niveau de surveillance que l’État doit vous accorder pour vous contrôler en tant que menace… Eh bien… tout ça est déjà possible… et presque tout ça est déjà en mis en œuvre ou sur le point de l’être dans ce grand et extraordinaire pays qu’est la Chine.
Nul doute que cette œuvre de nouvelle gouvernance s’édifiant sur les capacités illimitées de l’Intelligence Artificielle intéresse de nos jours plusieurs hommes politiques au pouvoir (Trump, Duterte, Poutine, Kim Jong-un…). Nul doute aussi qu’elle contaminera l’esprit du libéralisme[1] et les raisonnements de ceux qui la défendent, d’autant plus que le raffinement dans l’analyse que peuvent et pourront atteindre les algorithmes de l’IA serait en mesure de corriger les comportements des citoyens avec de mauvais scores sociaux à l’aide de différentes ruses véhiculées par l’Internet, comme une récompense proportionnelle à l’amélioration du comportement déviant, la dénonciation subtile de ce comportement auprès des proches ou des menaces intimidantes sur la perte du statut social du citoyen non entièrement conforme.
Mais le plus effarant dans tout ça n’est pas que c’est déjà possible d’implanter secrètement de tels systèmes « de soumission, de domination et d’exploitation des masses », mais qu’ils seront dans un avenir proche infiniment plus puissants et alléchants, et que leur développement magnétise aujourd’hui les investisseurs de tous les pays. On dira que ce ne sont pas spécifiquement ces systèmes qui sont la cible du capital, mais, il faut bien l’admettre, toutes améliorations algorithmiques ou de capacités de calcul serviront au premier chef ces systèmes de gouvernance. Voilà donc ce qui pourrait se dessiner comme la solution à « l’ingouvernabilité » dont se sont plaints les gouvernements depuis une quarantaine d’années. Voilà aussi la solution aux menaces d’instabilité que font planer les médias sociaux que craignent les possédants et ceux qui en dépendent.
Cette vision du monde dans lequel nous entrons m’apparait tellement impopulaire que politiquement infaisable… mais, l’est-elle vraiment ?
Alain Avanti
[1] Le libéralisme est une doctrine de philosophie politique qui affirme « la garantie des droits individuels contre l’autorité arbitraire d’un gouvernement ou contre la pression des groupes particuliers (https://www.wikiwand.com/fr/Lib%C3%A9ralisme).