En Chine, un institut d'intelligence artificielle (IA) basé à Hefei, dans la province d'Anhui, affirme avoir mis au point un logiciel capable de jauger la loyauté des membres du Parti communiste - une information qui, si elle était avérée, serait considérée comme une percée, mais qui a suscité un tollé général au sein de la population.
Selon les analystes, la Chine a amélioré sa surveillance alimentée par l'IA, s'appuyant sur le big data, l'apprentissage automatique, la reconnaissance faciale, posant les jalons de ce qui, aux yeux de certains, s'apparente à une dictature numérique draconienne.
Dans une vidéo publiée le 1er juillet, l'institut vante les mérites d'un logiciel de "lecture des pensées", qui, selon dit-il, servirait à renforcer la loyauté des membres du parti au pouvoir envers les instances dirigeantes de ce dernier.
La vidéo a été retirée peu de temps après, non sans avoir suscité un tollé parmi les internautes chinois.
Dans un entretien téléphonique avec la VOA, Hung Ching-fu, professeur de sciences politiques à l'université nationale Cheng Kung de Tainan, à Taïwan, le Parti communiste chinois (PCC) a recours à "la technologie de pointe pour solidifier l'emprise du parti-État" sur la population.
Selon le professeur, cette orientation du PCC n'est pas sans risques: "C'est ce que nous appelons le 'dilemme du dictateur' en politique: malgré leurs énormes pouvoirs, les dictateurs restent déconnectés du peuple. Je ne pense pas que les systèmes politiques qui vont à l'encontre de la nature humaine puissent perdurer", a ajouté M. Hung.
La VOA a tenté de joindre l'institut de Hefei pour obtenir des commentaires, mais ces efforts sont restés sans réponse.
Répression numérique
Le logiciel de lecture des pensées n'est que le dernier instrument de contrôle numérique mis en place par la Chine.
La Chine a déjà déployé un système de reconnaissance faciale dans la province du Xinjiang pour garder un œil sur les Ouïghours, un groupe ethnique minoritaire.
Ces dernières années les autorités chinoises ont davantage renforcé leur système de surveillance interne en s'appuyant sur le slogan "une individu, un fichier" pour faciliter le tracking de sa population.
À Shanghai, des expérimentations sont en cours pour l'adoption de procureurs non humains basés sur l'intelligence artificielle, qui peuvent établir des actes d'accusation pour huit infractions pénales, dont l'usage frauduleux d'une carte bancaire.
Déjà, plusieurs avocats et militants des droits ont déclaré à la VOA, sous couvert d'anonymat, qu'ils ont subi les affres du système de surveillance numérique déployé par les autorités chinoises.
Innovation et "IA-tocratie"
L'application généralisée des technologies de l'intelligence artificielle en Chine stimule toutefois l'innovation dans ce secteur, selon les conclusions d'une étude récente menée par Martin Beraja, professeur adjoint d'économie au Massachusetts Institute of Technology et trois autres chercheurs de l'université de Harvard (États-Unis) et de la London School of Economics (Royaume-Uni).
Dans leurs conclusions ces chercheurs affirment que malgré leurs travers, les différentes expérimentations qui ont lieu en Chine stimulent l'innovation et pourront conduire, à terme, à une "IA-tocratie", à savoir l'intelligence artificielle au service de la compétitivité commerciale et du développement économique.
Le professeur Beraja s'est toutefois dit préoccupé par les exportations d'IA de la Chine vers d'autres gouvernements répressifs.
"Nous observons que les pays les plus autocratiques ou les démocraties relativement faibles importent en effet davantage d'IA de reconnaissance faciale de Chine, plus que d'autres technologies. Et pour moi, cela signifie que ces technologies sont utilisées à des fins de surveillance et de répression", a confié M. Beraja dans un entretien téléphonique avec la VOA.
Pour Zola, un éminent blogueur chinois qui réside désormais à Taïwan, le recours à une cyber-surveillance excessive risque de pousser le pays vers un point de non retour.
"Un tel modèle de gouvernance conduira la société à aller vers des extrêmes... répétant le modèle irrationnel de prise de décision observé pendant la période de la révolution culturelle de la Chine. Au final, il aboutira à son propre effondrement", a-t-il conclu.
Article original du service mandarin de la VOA. Traduit et adapté de l'anglais >>
