La notation sociale, ou Orwell en Chine. Bientôt chez nous ?
Nous entendons régulièrement parler du système de notation sociale mis en place en Chine depuis 2014. Si vous ne payez pas vos contraventions, si vous avez traversé au feu vert ou fumé dans un train, les 400 millions de caméras qui vous suivent, programmes de reconnaissance visuelle à l’appui, les logiciels de surveillance nichés dans votre smartphone, permettent de vous pénaliser en faisant baisser votre « note sociale ». Avec quelles conséquences ? En 2018, 17,5 millions de Chinois se sont vu refuser l’achat d’un billet d’avion et 5,5 millions n’ont pas pu emprunter le train à grande vitesse. Le totalitarisme numérique s’installe depuis Pékin. Mais il nous paraît si lointain. C’est contre cette tentation d’indifférence que s’est tenu, le 4 décembre dernier, à Paris, un « procès fictif du ranking social » organisé par l’association « Les jurisnautes » et la revue juridique Dalloz IP / IT, c’est-à-dire la mise en scène d’une situation inventée, mais jugée par des magistrats, des procureurs, des avocats bien réels quant à eux.
En France, en 2028, nous serons peut-être nous aussi renvoyés de notre travail et socialement exclus pour des fautes parfois dérisoires qui, autrefois, restaient secrètes. Qui nous dit qu’au sein de nos démocraties, nous ne déciderons pas à notre tour d’utiliser la surveillance numérique — qui existe en fait déjà — pour apprécier le comportement des citoyens ? Aujourd’hui, cela nous révolte. Mais si l’on nous explique que le système de notation sociale permet de repérer les maris violents, les délinquants de la route, les racistes, les pollueurs ? Il n’est pas impossible qu’une grande partie de la population juge utile d’évaluer nos gestes quotidiens, comme nous notons déjà aujourd’hui notre chauffeur ou notre hôtel (et sommes notés par eux). Parfois, au fond, nous préférons la servitude volontaire à la liberté.
Aujourd’hui, ce sont les dissidents chinois qui s’alarment de vivre dans un monde orwellien. Demain ce sera peut-être à notre tour de nous battre contre le stade ultime de la surveillance numérique. La dissidence, ce n’est pas forcément ailleurs.
À voir: le film du procès fictif.
À lire : le dossier spécial que consacre la revue juridique Dalloz IP/IT au procès fictif et à la notation sociale.