Surveillance numérique des populations: vers un « crédit social » en Europe ?

Par Pauline ELIE, conseillère éthique sur les données de santé à l’hôpital Lariboisière (AP-HP), doctorante en droit et philosophie au Centre Georg Simmel (UMR 8131, CNRS / EHESS) et Pierre-Antoine CHARDEL, professeur de sciences sociales et d’éthique à l’école de management de l’Institut Mines-Télécom (IMT-BS), chercheur au Laboratoire d’Anthropologie Politique (UMR 8177, CNRS / EHESS)

* * * * *

Jugeant et notant les actes des citoyens (bons ou mauvais), le système de crédit social instigué en Chine est en train de s’établir en Europe de manière aussi subtile et insidieuse que dans l’empire du Milieu. Certes, contrairement à l’actuelle version chinoise, essentiellement punitive et désormais érigée en système, le balbutiant crédit social des citoyens européens se veut incitatif. Or à ses débuts, la même approche gratifiante et facultative fut privilégiée par l’État autoritaire chinois. À bien des égards, ce crédit social renvoie aux caractéristiques de l’hégémonie culturelle telles qu’elles furent décrites par l’intellectuel marxiste Antonio Gramsci qui analysait les ressorts d’une domination exercée, non pas de manière coercitive, mais en intervenant sur la production des représentations et des habitudes quotidiennes. Il s’agissait par là de décrire les mécanismes de logiques de pouvoir ne disant par leur nom, en ce sens d’autant plus difficiles à contrer.        

Alors que la Commission européenne se dote d’une proposition de règlement sur l’intelligence artificielle aménageant par un large régime d’exceptions la notation sociale des personnes, depuis l’été 2022 deux initiatives de crédit social ont vu le jour en Italie, à Rome et à Bologne. Comme en résonance avec le Meilleur des Mondes de Aldous Huxley ou à quelques épisodes de la série Black Mirror, ranger sa trottinette électrique ou trier correctement ses déchets rapporte des bons points au citoyen : en conséquence, par exemple, un fournisseur d’énergie pourrait lui octroyer un tarif préférentiel ! À la différence de la situation chinoise, ces initiatives italiennes optionnelles valorisent les actions dites «éco-responsables» mais ne les sanctionnent pas (1). Pourtant, progressivement, la logique du système de crédit social chinois s’immisce dans la gestion de notre quotidien. Comment s’opère un tel glissement ? Surtout, qu’induit-il pour l’évolution de la vie sociale et politique dans des sociétés revendiquant un attachement à certains grands principes démocratiques ? Quels enjeux en termes de soft power se profilent ?

Créditer la confiance ?

En Chine, la mise en place du système de crédit social est intimement liée à l’accès de sa population au crédit bancaire. Dans les années 1990, le pays entreprend d’ouvrir son économie au monde par de nombreuses réformes, en vue de faire émerger une classe moyenne (2). Pour ce faire, la population majoritairement rurale doit souscrire à des prêts financiers. En 1999, l’Institut d’économie et de politique mondiales de l’Académie chinoise des sciences sociales initie le projet « Vers un système national de gestion du crédit », en réponse à la demande d’entreprises américaines désireuses de s’assurer de la fiabilité de leurs homologues chinois. Avec ses collègues, le futur penseur du crédit social, Lin Jinyue, jeune ingénieur à l’époque, s’inspire des systèmes de credit scoring européens et américains au cours de voyages d’étude. Dans leur rapport au Parti communiste en mars 2000 (3), lui et ses pairs affirment la nécessité de bâtir un système de notation de crédit gageant de la solvabilité des citoyens et des entreprises. Mais ce n’est qu’en 2002 qu’apparaît la première occurrence du terme « crédit social » lors de l’allocution de Jiang Zemin, secrétaire général du Parti communiste, à l’occasion de son 16ème Congrès (4). « Crédit social » et « crédit bancaire » se confondent ainsi jusqu’en 2014 dans les discours du Parti. Puis le « Schéma directeur pour la construction d’un système de crédit social (2014-2020) » du Conseil d’État chinois pose les jalons de ce système (5). Au nom de la confiance et de l’intégrité, les personnes jugées fiables sont récompensées, celles considérées comme indignes de confiance sont punies. Les principes moraux se mêlent aux normes juridiques tandis que le concept flottant de « confiance » prodigue un terrain fertile à l’expression arbitraire du pouvoir.

Des prémisses indolores

Le crédit social chinois se déploie par des initiatives locales et variées, initialement incitatives. Dans leur enquête « Bons et mauvais chinois » les journalistes René Raphaël et Ling Xi montrent que dès 2015 plusieurs municipalités concluent des partenariats divers avec des entreprises locales (6). Notamment, la plateforme numérique Alibaba via sa filiale Ant Financial introduit le crédit Sesame (ou Zhima) en janvier 2015, disponible à partir l’application en ligne de paiement Alipay. Inspiré des modèles de credit scoring des entreprises américaine et allemande FICO et Schufa Holding, le crédit Zhima évalue les risques de l’emprunteur en lui attribuant une note fondée sur l’analyse algorithmique de ses données personnelles et financières (7). L’emprunteur qui s’acquitte de ses échéances de paiement en temps voulu, ou qui se procure les marchandises et services valorisés par Alipay, cumule des points lui octroyant des avantages lors de dépenses futures. Partenaire de Alibaba, la municipalité de Hangzhou propose par exemple à ses habitants d’intégrer leur note Sésame à leur système identification municipale pour bénéficier de nouvelles faveurs.

Alors qu’en 2018, un quart de la population chinoise seulement est notée, la Banque centrale fonde (à l’aide des données collectées par huit entreprises chinoises) Baihang, son propre système de crédit social testé dans certaines provinces. Les actes jugés vertueux, tels que balayer la voie publique, augmentent la note sociale de l’individu si celui-ci en apporte la preuve au Parti. A contrario, des informations dissidentes communiquées en ligne par exemple ou des échéances bancaires recouvrées hors-délai entraînent l’inscription des personnes sur listes noires, restreignant leurs libertés de circuler, d’entreprendre ou même d’apprendre. Or, comme le notent Yu-Jie Chen, Ching-Fu Lin & Han-Wei Liu, en 2018, le système de crédit social fait l’objet de nombreuses incompréhensions dans le traitement médiatique international (8). Si collecte et partage de données entre pouvoirs publics et privés sont opérationnels, le traitement automatisé des données est loin d’être une réalité.

La stratégie des petits pas

Pragmatique, cette stratégie qui conquiert territoire après territoire, en s’adaptant aux usages des populations locales, permet en outre à la technologie soutenant ce système d’évoluer vers son unification. En décembre 2020, 80% des territoires chinois (9), soit plus d’un milliard de personnes (10), sont concernés par des mesures diverses de notation sociale. Cependant, il n’existe pas en novembre 2022 de note sociale pour chaque individu attribuée par un système central (11). Le recours uniforme sur le territoire à l’intelligence artificielle, au traitement algorithmique de données massives issues par exemple de la reconnaissance faciale en temps réel par la vidéosurveillance reste un fantasme (12). Toutefois, selon Josh Chin et Liza Lin dans Surveillance State (2022), la crise du Covid-19 a vu les technologies sous-tendant la progression d’un système de crédit social unifié prospérer : une caméra de vidéosurveillance pour trois habitants, fichage biométrique et génomique de la population, attribution de codes QR individuels, etc. (13). Dénué d’application uniforme, ce système trouve pourtant écho hors de l’Empire du Milieu, en Union européenne.

Les balbutiements d’un crédit social européen

Sur le Vieux continent, pourtant fervent défenseur des idéaux démocratiques, le crédit social se concrétise par un cadre normatif à l’échelle européenne et des initiatives locales en Italie. En premier lieu, la Commission européenne propose un portefeuille européen d’identité numérique ainsi qu’une législation introduisant la notation sociale des citoyens. Dans son discours sur l’état de l’Union en 2020, la présidente de la Commission Ursula Van der Leyen annonce la création « une identité fiable, que tout citoyen pourra utiliser partout en Europe pour n’importe quel usage, comme payer ses impôts ou louer un vélo » (14). Ambitionnant de rallier 80% des citoyens en 2030 (15), ce portefeuille européen d’identité numérique résulte de la proposition de révision du règlement eIDAS en 2021 (16). Optionnel, il rendra possible l’authentification sur les plateformes numériques privées et contiendra état civil, diplômes, informations financières, données des entreprises (17), voire le certificat Covid numérique (18). De surcroît, en matière d’intelligence artificielle, la version finale (19) de la proposition de règlement de la Commission européenne introduit le concept de « note sociale » (20). Cette dernière est issue de « systèmes d’IA destinés à évaluer ou à établir un classement de la fiabilité de personnes physiques au cours d’une période donnée en fonction de leur comportement social ou de caractéristiques personnelles ou de personnalité connues ou prédites » (21). Et si par principe « la mise sur le marché, la mise en service ou l’utilisation, par les pouvoirs publics ou pour leur compte » de ces systèmes de notation sociale est interdite, par exceptions elles sont autorisées (22). Car le traitement « préjudiciable ou défavorable de certaines personnes physiques ou de groupes entiers de personnes physiques » est proscrit dans quelques cas de figure seulement : « dans des contextes sociaux dissociés du contexte dans lequel les données ont été générées ou collectées à l’origine » (23) ou, si ce traitement est « injustifié ou disproportionné par rapport à leur comportement social ou à la gravité de celui-ci » (24). Autrement dit, juste, proportionnée et entreprise dans le contexte d’origine de la collecte ou de la génération des données, la notation sociale par les pouvoirs publics ou leur compte est possible. L’interdiction de principe du crédit social est dès lors contrebalancée par un régime d’exceptions si large qu’il l’autorise de facto.

En second lieu, depuis l’été 2022, les villes de Rome et de Bologne en Italie mettent à disposition de leurs citoyens un « Smart citizen wallet », un portefeuille d’identité numérique. À Rome, il « encourage les comportements vertueux mis en place par les usagers de la ville, visant à améliorer la durabilité environnementale, sociale et économique de la ville, en ligne avec les objectifs de l’Agenda 2030 », de l’Organisation des Nations Unies (25). Pour le citoyen « vertueux », des « points » sont « convertis en récompenses (biens et/ou services durables) offerts par la Capitale de Rome et ses partenaires » (26). À Bologne, l’initiative également facultative « vise à récompenser ceux qui, par exemple, trient bien les déchets ou utilisent les transports en commun et ne prennent pas d’amendes » (27). Optionnels, incitatifs, ces essais de crédit social se distinguent de l’actuel système de crédit social chinois, punitif. Or, d’une part, le régime chinois a préféré dans un premier temps les incitations à la coercition, et d’autre part, le futur règlement sur l’intelligence artificielle cultive l’ambiguïté quant à ce nouveau concept de « note sociale ». Selon l’euro-député roumain Cristian Terheş le crédit social européen s’établirait « par segments » suivant « le même schéma qu’en Chine » (28).

La redoutable ambiguïté du milieu

L’antagonisme entre un modèle vertueux de crédit social porté par l’Europe, et sa version maligne qui serait affirmée par l’Empire du milieu favorise la progression de ce modèle. Evgeny Morozov relatait déjà en 2013 dans L’aberration du solutionnisme technologique le discours de certains industriels du numérique en vertu duquel tous les problèmes s’évanouiraient grâce à leurs technologies. Suite à la crise du Covid-19, il note l’émergence de deux camps (29), d’un côté les « solutionnistes progressifs » qui useraient d’indolores nudges, ces incitations sans contraintes (30), de l’autre, les « solutionnistes punitifs » qui contraindraient pour parvenir à leurs fins. Ainsi polarisée, cette dialectique opposant une thèse et une antithèse caricaturées se solde en une synthèse, qui profite à un solutionnisme médian, en Eurasie. Mais de l’Orient à l’Occident, ce soft power technologique a pour effet de rompre l’« intégrité contextuelle », telle qu’elle a été définie par Helen Nissenbaum (31). De fait, les flux d’informations numériques ne respectent plus les contextes d’usages, qui possèdent des normes, explicites ou non, correspondant aux attentes des usagers quant aux informations partagées. Notamment, une personne s’attend à ce que les informations communiquées à son médecin ne soient pas diffusées à son employeur. Cette exigence de séparation des contextes se traduit en pratique par le recours, pour une même personne, à des identités multiples. Or, en témoignent des initiatives de portefeuilles numériques, certaines politiques publiques évoluent vers l’unification des identités. Dans un tel contexte de rupture de l’intégrité contextuelle, la question de la légitimité des critères de l’identification doit nous préoccuper, a fortiori lorsque cette dernière est liée à des systèmes automatisés de traitement de données qui peuvent, à tout moment, être manipulés. Une banque pourrait, par exemple, refuser ou accepter d’accorder un crédit en fonction du type de relations que nous entretenons sur les réseaux sociaux, en permettant ainsi à des réalités anodines – et même parfaitement insignifiantes – de s’immiscer dans un processus d’identification. À titre d’illustration, la société LendUp, spécialisée dans le prêt en ligne, examine les comptes Facebook et Twitter des demandeurs, en observant notamment le nombre d’amis et la nature des interactions, afin d’accorder ou non un prêt. Comment enrayer la logique ? Et surtout, le peut-on encore ?

De l’exposition au risque de servitude

Déjouer la progression du phénomène de notation sociale suppose d’en comprendre les ressorts : le crédit social repose en effet sur nos désirs d’exposition en ligne et de normativité, pérennisant par-là même, les inégalités sociales. Dans La Société d’exposition (2015), Bernard Harcourt montre comment, par le truchement de nos intérêts nourris par Facebook, MySpace, Google, Instagram, etc., nous nous exposons à une surveillance omniprésente : « ce sont nos passions – en tension avec nos ambivalences […] qui alimentent la société d’exposition » (32). Les innovations technologiques résonnent avec des attentes relatives à la normativité qui proviennent des individus eux-mêmes. À cet égard, une singulière concomitance entre l’économique, le social et le politique s’observe dans des demandes qui sont implicitement formulées en termes de sécurisation et de normalisation (33). Selon de récentes enquêtes, ces mesures chinoises de crédit social, perçues comme des « moyens d’améliorer la qualité de vie » (34), seraient préférées par les citoyens les plus favorisés socialement ainsi que les personnes âgées. En dépit d’une volonté affichée de promouvoir une société confiante et harmonieuse, le système de crédit social chinois séduit ceux qui possèdent déjà. Quant aux plus précaires qui se voient inscrits sur listes noires, l’opprobre induite ne peut qu’accentuer leurs difficultés. Au nom de la confiance, le traitement de données à des fins de notation sociale trahit une logique paranoïaque, niant l’oubli, pourtant fondamental pour se réinventer, à l’aune des travers l’existence. Pire, libéré du choix à mesure que des logiques de recommandations algorithmiques investissent nos vies, nous nous laissons mentalement coloniser par des représentations bâties sur des corrélations, et non plus sur des causes. Tout un chacun pourrait avoir à répondre, non de ses actes, mais de probabilités statistiques capables de mesurer l’intention de commettre tel ou tel acte (35). Comme l’expliquait Zygmunt Bauman dans son entretien paru en 2013, au regard de « la facilité avec laquelle les gens acceptent de livrer leurs secrets personnels sur la scène publique » (36), dans les sociétés liquides modernes, nous pouvons « devenir des esclaves » (37). Un état de servitude est indirectement généré par la porosité des contextes permise par le numérique : des propos qui semblaient totalement anodins dans un contexte donné, peuvent, un jour ou l’autre, se retourner contre une personne.

Par définition, lesoft power nerepose pas sur la contrainte mais, sur la séduction, la convivialité et le plaisir. Nous faisons « volontairement beaucoup de choses que les pouvoirs totalitaires cherchaient à imposer par la force et la violence ou la peur » (38). Nous nous accoutumons au fait de livrer des parts de nous-mêmes dans tous les moments de notre vie quotidienne, du fait de la valorisation sociale qu’une telle exposition induit. Le système de crédit social en Chine, à l’instar des balbutiements européens en la matière, s’avère tout à fait exemplaire, et particulièrement emblématique des risques encourus à l’ère hypermoderne, dans des sociétés au sein desquelles les demandes de normativité ou de normes de confiance se multiplient. Au regard du dévoilement croissant de la personne en ligne et de l’accoutumance à la visibilité, mieux vaut veiller à ce que l’instrumentalisation politique de cette accoutumance puisse toujours être questionnée. 

Notes

(1) Nous développons ici, et dans les pages qui suivent, des éléments initialement abordés par Pauline Elie (« En Europe, la tentation de la surveillance. Le crédit social chinois fait des émules », in Philonomist, 16 novembre 2022), après de récents échanges sur le sujet à l’EHESS.

(2) Jean-Louis Rocca, The Making of the Chinese Middle Class: Small Comfort and Great Expectations, Palgrave Macmillan, Londres, 2016.

(3) Rapport intitulé « Vers le système national de gestion de crédit ».

(4) Rapport de Jiang Zemin lors du 16ème Congrès du Parti communiste chinois en 2002. « Nous devons rectifier et uniformiser l’ordre de l’économie de marché et établir un système de crédit social compatible avec une économie de marché moderne » 

(5) Conseil d’État, Circulaire du Conseil d’État sur l’impression et la distribution du schéma de planification pour la construction d’un système de crédit social (2014-2020), Guofa [2014] n° 21, 14 juin 2014. « Ce n’est que lorsque les membres de la société se traitent avec sincérité et sur la base de la confiance qu’ils peuvent établir des relations interpersonnelles harmonieuses et amicales, promouvoir le progrès de la civilisation sociale et parvenir à l’harmonie sociale, à la stabilité, et la stabilité à long terme  ».

(6) René Raphaël, Ling Xi, « Bons et mauvais Chinois. Quand l’État organise la notation de ses citoyens », Le Monde diplomatique, janvier 2019, pp.4-5.

(7) Ohlberg Mareike, Ahmed Shazeda, Lan Bertram (12 décembre 2017), « Central Planning, Local Experiments: The complex implementation of China’s Social Credit System », Merics China Monitor, Mercator Institute for China Studies, 16 mars 2018.

(8) Yu-Jie Chen, Ching-Fu Lin, Han-Wei Liu, « Rule of trust : the power and perils of China’s social credit megaproject », Columbia Journal of Asian Law, vol. 32, n°1, 2018.

(9) Jessica Reilly, Muyao Lyu, Megan Robertson, « China’s Social Credit System: Speculation vs. Reality », The Diplomat, 30 mars 2021.

(10) Amanda Lee, « What is China’s social credit system and why is it controversial? », South China Morning Post, 9 août 2020.

(11) Zeyi Yang, « China just announced a new social credit law. Here’s what it means. », MIT Technology Review, 22 novembre 2022.

(12) Yu-Jie Chen, Ching-Fu Lin, Han-Wei Liu, « Rule of trust : the power and perils of China’s social credit megaproject », Columbia Journal of Asian Law, vol. 32, n°1, 2018.

(13) Josh Chin, Liza Lin, Surveillance State: Inside China’s Quest to Launch a New Era of Social Control, St. Martin’s Publishing Group, New York, 2022.

(14) Commission européenne, Discours sur l’état de l’Union de la présidente von der Leyen en session plénière du Parlement européen, Bruxelles, 16 septembre 2020.

(15) Commission européenne, Commission proposes a trusted and secure Digital Identity for all Europeans, 3 juin 2021.

Commission européenne, Communication, « Une boussole numérique pour 2030: l’Europe balise la décennie numérique », Bruxelles, 9 mars 2021, p. 14.

(16) Commission européenne, Proposition de règlement du Parlement européen et du Conseil modifiant le règlement (UE) n° 910/2014 en ce qui concerne l’établissement d’un cadre européen relatif à une identité numérique, 3 juin 2021.

(17) Ibid. Annexe VI Liste minimale d’attributs

(18) Règlement (UE) 2021/953 du Parlement européen et du Conseil du 14 juin 2021 relatif à un cadre pour la délivrance, la vérification et l’acceptation de certificats COVID-19 interopérables de vaccination, de test et de rétablissement (certificat COVID numérique de l’UE) afin de faciliter la libre circulation pendant la pandémie de COVID-19. Commission européenne, Communiqué de presse, « COVID-19: la Commission propose de prolonger d’un an le certificat COVID numérique de l’UE », 3 février 2022.

(19) Commission européenne, Proposition de règlement n° 2021/0106 (COD) du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle modifiant certains actes législatifs de l’Union), 21 avril 2021, Bruxelles.

(20) Considérant 17, art. 5 1. (c) ibid.

(21) Art. 5 1. (c) ibid.

(22) Idem.

(23) art. 5 1. (c) i)

(24) art. 5 1. (c) ii)

(25) Raffaele Gareri, « Citizen Wallet: la piattaforma che ti premia », Site internet de la Commune de Rome, date inconnue.

(26) Ibid.

(27) Guide De Jade, « Bologne une ville de plus en plus numérique : le Smart Citizen Wallet arrive », Bologna Indiretta, 28 mars 2022.

(28) Torbjörn Sassersson, « Cristian Terhes : Manifestez pour sauver votre pays du contrôle totalitaire », Newsvoice, 22 janvier 2022.

(29) Evgeny Morozov, « The tech ‘solutions’ for coronavirus take the surveillance state to the next level », The Guardian, 15 avril 2020.

(30) Richard Thaler, Cass R. Sunstein Nudge, Improving Decisions About Health, Wealth, and Happiness, Yale University Press, Londres, 2008.

(31) Helen Nissenbaum, Privacy in Context. Technology, Policy, and the Intergrity of Social Life, Stanford, Stanford University Press, 2009.

(32) Bernard Harcourt, Exposed. Desire and Disobedience in the Digital Age, Cambridge, Harvard University Press, 2015.

(33) Pierre-Antoine Chardel, L’empire du signal. De l’écrit aux écrans, Paris, CNRS Editions, 2020.

(34) Genia Kostka, « China’s social credit systems and public opinion: Explaining high levels of approval », New Media & Society, juillet 2019.

(35) Jean-Paul Karsenty, « Big data (mégadonnées) : une introduction », in Olaf Avenati et Pierre-Antoine Chardel (dir.), Datalogie. Formes et imaginaires du numérique, Paris, Loco Editions, 2016, p. 112.

(36) Ibid.

(37) Zygmunt Bauman, « La précarité est le seul élément qui rassemble », in Au fait. Une enquête, un entretien, des enjeux, juin 2013, p. 76.

(38) Ibid.

Source : QG Média