Le totalitarisme numérique de la Chine menace toute la planète

Celia Izoard est journaliste au sein de la revue Z et de Reporterre. Dans ses enquêtes et ses analyses, elle élabore une critique des nouvelles technologies au travers de leurs impacts sociaux et écologiques. Son dernier ouvrage Lettre aux humains qui veulent robotiser le monde — Merci de changer de métier vient de paraître aux éditions de la Dernière Lettre.

Il y a dix ans, la presse internationale a fait connaître au monde entier l’existence d’une vague de suicides d’ouvriers chez Foxconn, géant mondial de l’électronique implanté en Chine, dont les usines produisent la plupart du matériel informatique que nous utilisons. Le désespoir de ces jeunes surexploités dans des bagnes high-tech a jeté une lumière crue sur le coût humain de l’économie immatérielle célébrée par tous les dirigeants. Une telle information pourrait-elle, aujourd’hui, parvenir jusqu’à nous ? Difficilement. C’est la conclusion à laquelle on arrive après avoir lu Dictature 2.0, l’essai de Kai Strittmatter (aux éditions Tallandier), ancien correspondant du Süddeutsche Zeitung à Pékin.

Scène de la vie quotidienne en Chine : « Il arrive que l’on constate soudain, pendant un chat, que la discussion perd toute espèce de sens : c’est que certains termes sont effacés automatiquement par WeChat dans les échanges entre l’émetteur et le récepteur sans qu’aucun des deux n’en ait été informé. » Les listes de mots interdits sur les réseaux sociaux sont actualisées chaque jour par les autorités de la censure de Pékin. En 2018, quand la Constitution a été modifiée pour permettre à Xi Jinping de devenir président à vie, la liste de ces mots allait de « accession au trône » et « louez l’empereur » à « Winnie l’ourson », qui avait été utilisé pour désigner le chef de l’État en contournant la censure. Proscrite également, l’expression « pas d’accord » : « Quiconque tentait d’entrer ces mots sur le réseau recevait un message d’erreur l’informant avec regret que ces mots violaient “les lois et les règles”. »

Caméras de surveillance sur la place Tian’anmen… En 2009.

Dès sa nomination à la tête du Parti-État en 2013, le président Xi Jinping a mis fin à quelques décennies de pluralisme naissant en s’attelant à une purge complète de l’internet. Le régime s’est employé à discréditer et à jeter en prison les principaux opposants et défenseurs des droits humains, et, à leur suite, les cabinets d’avocats qui les défendaient, puis les avocats qui défendaient ces avocats — si bien que la répression cible aujourd’hui, écrit Strittmatter, « les avocats des avocats des avocats ». Les universités du pays ont été mises au pas par les inspecteurs de la Commission centrale disciplinaire ; dans les amphis, le contenu des cours est surveillé par des « officiers d’information étudiants ». Pour obtenir leur carte de presse, les journalistes doivent réussir un test de « solidité idéologique » sur l’appli « Étudier Xi : Rendre le pays fort », lancée en 2019, qui compile les discours et réflexions du président.

Les géants de la tech (Tencent, Alibaba, JD.com, Baidu) sont directement mis à profit pour construire le système de contrôle social le plus ambitieux de la planète. Depuis 2017, la loi oblige « toutes les organisations et tous les citoyens chinois » à apporter « soutien, aide et coopération au travail des services secrets », y compris, donc, les entreprises. Huawei, qui a désormais l’autorisation d’équiper les réseaux 5G de Bouygues et de SFR en France, travaille avec les autorités dans la province du Xinjiang pour parachever la surveillance des moindres faits et gestes des Ouïghours, dont un million auraient déjà été déportés dans des camps depuis 2017. Dans le Xinjiang, note Strittmatter, « les décisions d’arrestations sont de plus en plus souvent prises par des systèmes technologiques, on n’examine pas les cas individuels » : ce sont des algorithmes qui calculent, à partir des habitudes de vie renseignées par les données, qui doit être arrêté.

Plus qu’une dictature, un système totalitaire

Malgré son titre, ce n’est pas une dictature que décrit l’ouvrage de Kai Strittmatter, mais un régime totalitaire. Une dictature règne certes, comme en Chine, par la force et le mensonge ; elle confisque la sphère publique pour empêcher la création d’organisations dissidentes. Mais un régime totalitaire ne s’arroge pas seulement un monopole de la sphère publique ; comme l’a montré Hannah Arendt, il tente de soumettre et d’exploiter à ses propres fins toutes les sphères de l’existence, jusqu’aux plus intimes. Le système du crédit social mis en place pour lutter contre la « malhonnêteté », en cours de déploiement à l’ensemble du pays, permet ainsi d’ajuster en permanence la note de chaque citoyen en fonction du moindre de ses actes : un message posté sur internet, un don du sang, le fait de ne pas rendre visite à un parent âgé, de ne pas avoir rendu un livre à temps à la bibliothèque. En 2018, déjà, 17,5 millions de Chinois n’avaient plus le droit de prendre l’avion et 5,5 millions étaient privés de train à cause d’un mauvais score. Grâce au big data et à l’automatisation du contrôle par les algorithmes, il devient possible, même dans le pays le plus peuplé du monde, de placer un policier derrière chaque transaction, chaque mot, chaque mouvement.

Qu’on se rassure cependant : ce système est mis en place « dans le cadre légal le plus strict » de façon à « protéger la vie privée », assure le Parti. « Certains peuvent se sentir menacés par un système qui met pratiquement chacun sous l’œil d’un microscope, lit-on dans le Quotidien du Peuple. Mais la grande majorité se sent en sécurité parce qu’elle sait que la technologie est entre de bonnes mains. »

L’aéroport international de Pékin-Daxing. L’accès au transport ferroviaire ou aérien peut désormais être conditionné à un score de « crédit social » suffisamment élevé.

Cela prêterait à rire si on ne retrouvait pas là mot pour mot les formules rassurantes qui entourent chez nous le déploiement des mêmes technologies : vidéosurveillance, biométrie, smart city, smart mobility — la centralisation des données en moins. Ces expressions toutes faites visent à maintenir une séparation purement théorique entre, d’un côté, la technologie, et, de l’autre, l’intentionnalité politique qui guiderait son déploiement. Mais existe-t-il vraiment une version « libérale » de cette infrastructure de big data ? Un monde « libre » où les millions de capteurs, de caméras, et toutes les données collectées ne serviront « qu’à » nous proposer de nouveaux services, à affiner le ciblage marketing, à nous bombarder de messages incitant à des comportements vertueux ?

La plongée que nous offre Kai Strittmatter dans la Chine de Xi Jinping permet de comprendre que ce régime n’est pas une simple mise à jour high-tech de la dictature maoïste. Il est le fruit du croisement de deux idéologies totalitaires : le nationalisme hérité du maoïsme incarné par le Parti, et le techno-solutionnisme porté par l’industrie des nouvelles technologies du monde entier. Car ce dernier ne peut être réduit à un simple appareillage du pouvoir. Tout autant que le premier, il porte en lui une vision de l’organisation sociale et du devenir humain.

Des PDG chinois aux pontes de la Silicon Valley

Quand Tao Jingwen, ex-directeur de Huawei pour l’Europe de l’Ouest et pilier de la sécurité dans la province ouïghoure du Xinjiang, déclare vouloir « porter le monde numérique dans chaque organisation, chaque famille et chaque être humain », il exprime un désir commun à la plupart des chefs d’entreprise de la Silicon Valley. Quand le PDG de Baidu dit : « Nous devons injecter de l’intelligence artificielle dans le moindre recoin de la vie humaine », il fait précisément écho aux discours d’Elon Musk, patron de Tesla, ou à ce que Ray Kurzweil, directeur de l’ingénierie chez Google et fondateur de la Singularity University, raconte dans son livre Humanité 2.0 : La bible du changement.

Le totalitarisme numérique est installé en Chine, et cela nous concerne tous. Pas seulement parce que l’essentiel de nos objets matériels, ne serait-ce que par leurs matières premières ou leurs composants, sont issus d’une gigantesque prison à ciel ouvert où l’on n’a pas le droit d’écrire l’expression « pas d’accord ». Mais aussi parce que les élites économiques n’ont de cesse de vouloir « rattraper la Chine » en matière d’intelligence artificielle et de big data, et que l’on imagine difficilement à quoi pourrait ressembler, même sans le décorum autoritariste post-maoïste, une déclinaison démocratique de cette infrastructure de contrôle social.

Source: reporterre.net