Au coeur de l'été. Une libellule. Et une muraille. "Libellule" (en anglais "Dragonfly") c'est le nom de code du projet de Google pour retourner implanter une version censurée de son moteur de recherche en Chine d'après les révélations de The Intercept. En Chine, d'où la "muraille" du titre de ce billet.
(Source de l'image : BuzzFeed News)
La libellule et la muraille donc.
Ce n'est pas la première fois - ni probablement la dernière - que Google et d'autres multinationales de l'internet négocient leur entrée sur le premier marché mondial au prix d'un renoncement à des valeurs qu'elles continuent très hypocritement de brandir dans les zones du globe plus démocratiques ou moins explicitement autoritaires.
Il y a déjà longtemps sur ce même blog je vous avais raconté dans deux articles (épisode 1, épisode 2), la première tentative de Google pour s'installer sur ce marché. Nous étions en Janvier 2006.
Dix ans plus tard, en Janvier 2016, des signaux faibles et quelques rumeurs persistantes semblaient indiquer que Google se préparait à revenir sur le marché chinois, presque 6 ans après en être "officiellement" sorti, principalement par le biais de son magasin Google Play.
Et voilà deux ans de cela, en Novembre 2016, et alors qu'il y était interdit depuis 2009, c'était au tour de Facebook de tenter le coup de la longue marche du grand retour. Là encore en se pliant à la censure exigée par le gouvernement Chinois. Dans les deux cas, chez Google et Facebook comme d'ailleurs chez tous les autres qui les y avaient précédé, l'argumentaire était le même : mieux valait un outil occidental même un peu (ou beaucoup) censuré pour la population, que de devoir, pour cette même population, se reposer uniquement sur les outils validés et mis à disposition par le régime chinois. Soit le mélange parfait du sophisme argumentatif et du cynisme commercial.
Tigre et Dragonfly.
Voilà ce que nous apprennent les révélations de The Intercept sur le projet Dragonfly :
"The Dragonfly project was launched in spring 2017. Since then, small teams of Google engineers have been developing a custom Android app, different versions of which have been named “Maotai” and “Longfei.” The app has been designed to filter out content deemed undesirable by China’s ruling Communist Party regime, such as information about political opponents, free speech, democracy, human rights, and peaceful protest. The censored search will “blacklist sensitive queries” so that “no results will be shown” at all when people enter certain words or phrases, according to internal Google documents."
Pas grand-chose de nouveau donc depuis 2006 dans ne nouveau projet de moteur censuré, si ce n'est la bascule et la dissémination vers la version "application" du moteur.
La vraie nouveauté c'est que ce projet à suscité la colère d'une partie des salariés de Google, qui à l'image de la victoire - je pense temporaire - qu'ils avaient remporté pour obliger leur employeur à se retirer du projet militaire Maven, espèrent cette fois faire suffisamment de bruit pour que ce projet de moteur censuré n'aille pas à son terme.
La crise éthique de certains anciens cadres des GAFA qui agissent comme autant de "repentis" pour les technologies qu'ils ont contribué à créer n'est plus simplement externe mais elle s'étend désormais à l'interne et touche aussi bien Google que Facebook, Microsoft, Amazon (à propos d'un programme de reconnaissance faciale) ou Twitter (à propos du refus de Jack Dorsey de fermer le compte d'un leader de l'Alt-right complotiste).
Géolinguistique.
La Chine est depuis cette année la première puissance économique de la planète, passant devant les Etats-Unis. Elle est également, le fait est connu au moins depuis Jacques Dutronc, la première puissance démographique de la planète. Et donc également, grâce au mandarin, la première puissance linguistique de la planète en nombre de locuteurs natifs.
D'une certaine manière, Google est également la première puissance linguistique de la planète. Le "volume" du matériau linguistique capté, collecté, traité et analysé chaque jour par le moteur de recherche depuis désormais 20 ans est sans aucun équivalent tant dans l'aspect quantitatif (volumétrie pure des données linguistiques) que dans l'aspect "qualitatif" renvoyant au nombre de langues analysées et au niveau de service proposé pour chacune (de la traduction à la volée en passant par la consultation de textes rares et l'ensemble des services "vocaux" nécessitant une compréhension minimale de la langue concernée).
C'est donc un affrontement de nature géo-linguistique qui fait tout l'intérêt des rapports entre Google et la Chine, entre la libellule et la muraille.
Et ce que définit la langue est d'abord un rapport au territoire. Un passe-muraille.
Guerre froide des plateformes.
Nous sommes à un moment de l'histoire des technologies de l'information et du numérique qui est assez comparable à l'état du monde en 1949 c'est à dire au moment où l'autre superpuissance de l'époque (l'union soviétique) se dota également de la bombe nucléaire (voir notamment ici ou là). Ce que je veux dire par là c'est que désormais, la totalité des plateformes existantes "à l'Ouest" dispose d'équivalents "à l'Est". Et le rapport au nucléaire n'est pas seulement analogique ou symbolique comme je l'écrivais par ici :
"Le numérique est une technologie littéralement nucléaire. Une technologie de noyau. Au "cœur" fissible d’un éventail de possibles aussi prometteurs qu’angoissants et pour certains, incontrôlables."
L'analogie est également (géo)politique. Toutes les grandes plateformes vont devoir faire le choix politique de savoir dans quelle mesure elles acceptent de se censurer et donc de collaborer avec des régimes autoritaires pour conquérir un marché. Et à l'échelle des enjeux que représentent à la fois les audiences qu'elles touchent déjà et celles qu'elles visent à conquérir, chacun de ces choix est un peu plus qu'un simple choix économique ou même moral.
Dans sa toute dernière tribune pour la Technology Review du MIT, Zeynep Tufekci livrait une analyse toujours aussi limpide et éclairante sous le titre : "Comment les médias sociaux nous ont-ils amené de la place Tahrir à Donald Trump ?"
"Le Pouvoir apprend toujours, et les outils puissants finissent toujours entre ses mains. C'est l'une des leçons difficiles de l'histoire, mais une leçon solide. Et c'est la clé pour comprendre de quelle manière, en 7 ans, les technologies numériques qui étaient brandies comme des outils de libération et de changement se sont retrouvées à être blâmées pour les bouleversements qu'elles occasionnaient dans les démocraties de l'Ouest en rendant possible des effets de polarisation de l'opinion toujours plus puissants, des montées de formes d'autoritarisme, et en permettant à la Russie et à d'autres de se mêler d'élections et de scrutins nationaux." (ma traduction)
Et elle poursuit :
"But to fully understand what has happened, we also need to examine how human social dynamics, ubiquitous digital connectivity, and the business models of tech giants combine to create an environment where misinformation thrives and even true information can confuse and paralyze rather than informing and illuminating."
A l'image de tout projet politique autoritaire ou dictatorial qui nécessite à la fois une surveillance (Big Brother) et une "sous-veillance" (Little Sisters), la Chine dispose aujourd'hui d'une politique qui l'amène à se servir de la puissance des plateformes numériques pour contrôler la sphère sociale d'une part (côté Big Brother), et la sphère linguistique d'autre part (côté Little Sisters).
Dystopy, is what we need my friend*.
(*Concernant cet intertitre ...)
S'agissant du contrôle de la sphère sociale, on se réfèrera à la littérature pléthorique sur le "Social Credit Score" qui permet d'accorder à certains des droits refusés à d'autres en fonction de comportements sociaux mesurés et scrutés en permanence par le gouvernement (voir notamment sur Wired ou dans Wikipedia).
S'agissant du contrôle linguistique il opère pour l'instant uniquement au travers des dispositifs et des plateformes agréées par le gouvernement chinois ou opérant sous son autorité directe. C'est le cas par exemple du moteur de recherche Baïdu. Comme d'autres, la Chine n'échappe pas à la multiplication des terminaux de connexion. Là où il y a quelques années il suffisait de surveiller l'ordinateur familial pour capter l'ensemble des pratiques connectées de 5 ou 6 personnes, il faut aujourd'hui étendre et démultiplier les moyens de surveillance sur chaque Smartphone ou tablette. Après la surveillance "de masse" c'est la surveillance "de chacun" qui prime. D'où d'ailleurs, le renforcement du contrôle "social" et du micro-ciblage comportemental qui devient le plus petit dénominateur commun efficient dans le cadre d'une volonté politique de contrôle de la population comme dans le cadre d'une volonté marketing d'expansion commerciale. Les deux aspects finissant d'ailleurs par se rejoindre, ce qui n'est pas le moindre des problèmes que nous avons aujourd'hui à résoudre, car pour citer encore Zeynep Tufekci :
"Nous créons une dystopie simplement pour pousser les gens à cliquer sur des publicités".
Il me semble que nous sommes aujourd'hui à la phase d'après. Celle où les gens ont cliqué sur suffisamment de publicités et ont, ce faisant, accepté suffisamment de technologies de traçage actif ou passif pour que les conditions d'existence d'une forme de pouvoir autoritaire soient réunies et surtout pour qu'elle soient en passe d'être acceptées comme naturelles ou, pire, comme légitimes.
La question essentielle se déplace donc : il ne s'agit plus de savoir si nous acceptons ou si nous refusons ce traçage publicitaire (débat permis et en partie résolu par le RGPD) ; il s'agit de savoir si nous acceptons ou si nous refusons cette forme de néo-fascisme documentaire propre au totalitarisme littéral des plateformes et le cadre économico-politique qui est sa condition d'existence première.
Les "repentis" de la Silicon Valley l'ont dénoncé de l'extérieur. Désormais les employés de ces firmes tentent de s'y opposer de l'intérieur. Il reste aux citoyens, c'est à dire à nous-mêmes, à terminer le boulot. Et ce ne sera pas facile. Car il nous faut retrouver l'envie de le faire. Or ...
I (don't) want to break free*.
Même si cela peut nous sembler étonnant, les chinois biberonnés au moteur Baidu et à sa censure intégrée, ont autant de mal à le quitter et à changer de moteur de recherche que nous en avons nous-même à le faire en nous passant de Google pour lui préférer des concurrents que nous savons pourtant presqu'aussi efficaces et bien plus respectueux de notre vie privée, et ce alors même que nous continuons de prétendre que sa préservation nous apparaît essentielle.
Pire (ou mieux selon le point de vue), il est désormais clair que les chinois n'ont plus envie de basculer sur un moteur de recherche qui serait non-censuré, ou qui le serait seulement différemment. C'est ce que révèle ce formidable papier du New-York Times :
"Even if the Western apps and sites make it into China, they may face apathy from young people.
Two economists from Peking University and Stanford University concluded this year, after an 18-month survey, that Chinese college students were indifferent about having access to uncensored, politically sensitive information. They had given nearly 1,000 students at two Beijing universities free tools to bypass censorship, but found that nearly half the students did not use them. Among those who did, almost none spent time browsing foreign news websites that were blocked.
“Our findings suggest that censorship in China is effective not only because the regime makes it difficult to access sensitive information, but also because it fosters an environment in which citizens do not demand such information in the first place,” the scholars wrote."
Une génération qui a grandi avec des services certes censurés (Baidu, Alibaba, Tencent, Wechat entre autres) mais équivalents dans leurs fonctions de socialisation et d'information aux Facebook, Twitter, Instagram ou Snapchat : des noms que ces adolescents et jeunes adultes chinois connaissent mais dont ils disent n'avoir ni besoin ni envie.
Le même article - à lire dans la continuité des leçons que nous propose Zeynep Tufekci - rappelle qu'à rebours du postulat d'une inéluctable émancipation dont serait porteur le numérique et ses plateformes pour des populations sous le joug de régimes autoritaires, c'est l'inverse qui est en train de se produire : c'est le modèle chinois d'un internet censuré qui est en train de s'exporter dès aujourd'hui au Vietnam, en Tanzanie ou en Ethiopie, mais également sous un autre aspect en Australie où le réveil est déjà douloureux, et probablement demain dans l'ensemble de ces pays "émergents" et politiquement instables ou non-démocratiques, les mêmes que visent également les occidentaux GAFA pour aller y puiser leur prochain milliard d'utilisateurs.
Et cette guerre là n'est pas que commerciale. Elle est avant tout culturelle. Et d'un cynisme est sans égal. Car lorsque toutes les ressources naturelles auront été épuisées, lorsque le dernier gisement du dernier minerai aura été extrait et raffiné, il restera encore à tous ces états la possibilité de vendre le visage de leurs citoyens. Ils n'ont d'ailleurs pas attendu. Ainsi le Zimbabwe avec la Chine, justement :
"Le gouvernement du Zimbabwe a besoin de l'expertise chinoise en matière de surveillance. De son côté, CloudWalk Technology, start-up chinoise, a besoin d'images de visages de personnes noires pour perfectionner son logiciel de reconnaissance faciale, biaisé jusqu'ici, car reconnaissant mieux les visages blancs. L’accord, qui donne à la start-up chinoise l'accès aux informations biométriques des citoyens zimbabwéens, entrera en vigueur le 30 juillet" nous indiquait Usbek & Rica d'après une info révélée par Foreign Policy.
Géolocaliser et punir.
Les intérêts des GAFA et des gouvernements disons, "autoritaires", sont donc aujourd'hui peu ou prou les mêmes. Ils cherchent à exporter un modèle d'affaire qui est le prétexte à une forme renouvelée de Soft Power qui fait du risque de dystopie et de la mise en oeuvre de son architecture de surveillance un simple dégât collatéral voire un biais nécessaire. Et leurs stratégies sont également semblables par bien des aspects : là encore elles visent une anecdotisation, une discrétisation des régimes de surveillance qui leur permettent de perpétuer et de légitimer leur modèle d'affaire. Quand aux questions d'éthique et aux scrupules, là encore ... on apprenait récemment que pour que Google cesse réellement de nous géolocaliser via notre smartphone, il ne suffisait pas simplement de lui dire de cesser de nous géolocaliser.
Police partout, politique nulle part.
Ainsi avec d'une part la dissémination de capteurs passifs dans l'ensemble de l'espace public comme de notre sphère privée (anecdotisation des régimes de surveillance), et avec d'autre part la complexification constante des interfaces "ruses" de ces technologies de la persuasion qui rendent la pregnance des systèmes de traçage toujours plus perverse parce que semblant désactivée alors qu'elle est encore active, nos démocraties sont en effet par bien des aspects en train de se transformer en dictatures douces. Elles rendent en tout cas possibles et opérationnelles toutes les conditions techniques et même juridiques de mise en place d'une dictature ou d'un régime autoritaire. Et l'hystérisation récente autour du "fichage" supposé de milliers de Twittos en est un symptôme qui me semble aussi explicite que malheureux, et rappelle à quel point la question des "sans papiers" ou des furtifs échappant à l'hyper-surveillance des plateformes et des états est aujourd'hui plus que jamais politiquement centrale.
Il faut craindre qu'à l'instar du réchauffement de la planète et des prochaines migrations de réfugiés climatiques il ne soit hélas déjà trop tard pour prendre réellement la mesure de ce que les grandes plateformes sont en train de préparer et d'instruire comme autant de conditions initiales d'un prochain chaos. Souvenons-nous que le démantèlement ou la nationalisation desdites plateformes ont d'abord prêté à sourire avant de finalement être envisagées même si cela ne fut que d'un point de vue purement théorique.
Comme le rappelle encore Zeynep Tufekci :
"Pour comprendre pleinement ce qui se passe, nous avons aussi besoin d'étudier comment les dynamiques des sociétés humaines, la connectivité ubiquitaire, et le modèle d'affaire des géants du numérique se combinent pour créer des environnements dans lesquels la désinformation prospère et où même une information authentique et vérifiée peut nous paralyser et nous rendre confus plutôt que de nous informer et de nous éclairer." (ma traduction)
Ce qui me semble le plus frappant dans cette histoire, finalement, c'est l'absence totale de réflexion et de prise de position politique (autre que celle visible de quelques dîners mondains ou celle, invisible, de formes aussi classiques que perverses de lobbying). Croire que les états n'ont pas à se mêler de la stratégie d'entreprises comme Google, Facebook ou Amazon au motif que nous ne serions, justement, pas en Chine ou dans un pays communiste est aujourd'hui le triple aveu d'un dépassement, d'une impuissance et d'une incapacité à penser ce qui se joue réellement à l'échelle politique.
Et en même temps ... imaginer que des états, que nos états actuels, gouvernés par des bouffons narcissiques de la finance ou par des clowns égocentriques ivres de leur nationalisme, imaginer que ces états puissent aujourd'hui se mêler du projet politique de ces mêmes firmes n'apparaît pas davantage comme une solution souhaitable.
Moralité.
Si tout cela n'était qu'une fable, la morale serait qu'aucune muraille ne peut arrêter une libellule ... pour autant que cette dernière ait encore l'envie de la franchir. Mais tout cela n'est pas une fable. Le drame est que nous n'avons plus confiance ni dans les murailles ni dans les libellules. Et que cette érosion totale de la confiance à l'égard du politique et de la technique (numérique) s'ajoute à l'incapacité du premier à penser la seconde alors même que les infrastructures techniques du numérique n'ont de sens que si elles servent un projet politique.
Ce que le numérique a fait voler en éclat depuis 20 ans, accompagnant le délitement politique autour de cette question essentielle, c'est la notion de territoire. Le territoire comme confluence de ce modèle d'affaire des géants du numérique, des dynamiques des sociétés humaines et de la connectivité ubiquitaire qui le déconstruit davantage qu'elle ne le renforce.
Sans territoire, impossible de fonder un projet politique. Et sans projet politique, un territoire n'a pas d'autre valeur que celle, purement spéculative, que lui assigne le modèle d'affaire de ceux qui cherchent à le vendre ou à l'acquérir. La question du territoire donc, est absolument centrale ; et celle de la langue aussi, qui est à la fois ce qui permet d'appartenir à un territoire et de s'en démarquer pour voyager, pour en sortir. La langue et le territoire plutôt que la libellule et la muraille. La géo-linguistique comme première question et comme dernier recours.
Apostille qui titille.
Au coeur de l'été je suis tombé sur cet entretien avec Bruno Latour publié par Le Monde (et intégralement disponible ici). Il n'y est ni question de la Chine, ni de Google. Pas davantage de libellule ou de muraille. Et pourtant il répond à (presque) toutes les questions que j'ai essayé de poser dans l'article que vous venez de lire.
"un territoire, ce n’est pas la circonscription administrative, par exemple la ville d’Avignon, c’est ce qui vous permet de subsister. Etes-vous capables de définir ce qui vous permet, vous, de subsister ?
Si oui, alors je prétends que la liste que vous pouvez dresser de vos conditions de subsistance définit le territoire que vous habitez. Peu importe si vous devez y inclure des éléments répartis sur la Terre entière. Ce n’est pas l’espace qui définit un territoire mais les attachements, les conditions de vie. Et j’ajouterais que vous avez un territoire si vous pouvez le visualiser et, bien sûr, que vous tentez de le faire prospérer et de le défendre avec et contre d’autres qui veulent se l’approprier.
Des questions liées : subsistance, visualisation, protection et défense. Mais supposez que vous n’ayez aucune idée précise de ce qui vous permet de subsister, ou une idée tellement abstraite que vous restiez suspendu en l’air, pratiquement hors sol, quand je vous pose la question : « Qui êtes-vous, que voulez-vous, où habitez-vous ? » Eh bien, je prétends que n’ayant pas de monde concret à décrire, vous êtes devenus incapables de définir vos « intérêts » et qu’ainsi, vous ne pourrez plus articuler aucune position politique vaguement défendable. Je prétends que la situation actuelle de retour général à l’Etat-nation derrière des murs vient directement de cette totale impossibilité de préciser quels intérêts on défend. Comment avoir des intérêts si vous ne pouvez pas décrire votre monde ?
L’exemple du Brexit peut servir d’illustration : vous bénéficiez des crédits européens et vous votez contre l’Europe : pourquoi ? Parce que vous n’avez pas pu décrire concrètement ce qui vous permet de subsister.
Je peux maintenant répondre à votre question sur la politique : si les partis ont quasiment disparu à gauche comme à droite, c’est parce qu’ils sont devenus incapables de décrire les conditions de subsistance, et donc les conflits de subsistance, de leurs mandants. Pas de monde, pas d’intérêt, pas de politique, c’est aussi simple que ça. C’est pourquoi je suis obsédé par cette affaire de description."
Je le suis aussi. Une obsession documentaire.
<Mise à jour du 17 septembre 2018> Il se confirme que ça pue et que le prototype de Google serait lié aux numéros de téléphone pour mieux permettre au gouvernement chinois de ... surveiller tout le monde. </Mise à jour>
Passionnant ! En général, on oppose les deux dimensions de la "vraie vie" (IRL) et de l'univers "virtuel" d'Internet (sans trop faire de jeu de mots, on pourrait y voir l'opposition IRL vs. URL...), mais le problème est qu'Internet n'a absolument rien de virtuel ! Le virtuel c'est le possible, ce qui est "en puissance", sans effet actuel. Or non seulement Internet est bien réel, mais le fait d'avoir une présence en ligne est une espèce de réalité augmentée : je vis "hic et nunc", mais aujourd'hui ce "hic et nunc" est démultiplié à l'infini entre ma présence "territoriale" (là où mes pieds et ce qui les surmonte sont plantés) et ma présence sur Internet, où toute sorte de "frontière" est totalement abolie : temps, espace, langue...
Et entre présences "racinaire" et "réticulaire", nous n'avons plus une opposition entre l'une et l'autre, mais une complémentarité, asymétrique certes, mais complémentarité quand même. Et pour faire court, je crois que l'être humain est encore loin d'être préparé (psychologiquement, culturellement, etc.) à vivre cette réalité augmentée ... désormais non plus potentielle ni virtuelle, mais bien réelle !
Rédigé par : Jean-Marie Le Ray | 18 août 2018 à 12:11
Merci pour cet article passionnant.
Je pense, pour ma part, que le bilan des GAFAM est jusqu'à présent globalement positif et joue un rôle d'accélération en matière de démocratisation du monde, même s'il dilue artificiellement la notion de territoire et de frontières comme vous le soulignez.
Le monde réel, la culture, l'histoire, nos mémoires n'ont toujours pas disparu et sont toujours aussi prégnantes sur nos comportements.
Le fait que Google cherche à s'adapter au vieux monde nous montre qu'il ne peut pas complètement réinventer le nouveau.
Rédigé par : Denis | 20 août 2018 à 07:59
Bonjour Olivier,
passionnant comme d'habitude. Et l'extrait de l'entretien de B. Latour que vous proposez est aussi brillant que terrifiant.
Bonne rentrée...
Vincent
Rédigé par : Vincent | 20 août 2018 à 16:02