La Silicon Valley a construit l'infrastructure de surveillance en Chine | Revue de presse n°23
J'ai sélectionné des nouvelles importantes sur l'intelligence artificielle pendant la semaine du 8 au 14 septembre 2025. Voici mon commentaire.
Bienvenue dans la 23ème revue de presse de Réalité artificielle. Je me suis focalisé cette semaine sur le rôle des entreprises états-uniennes dans la surveillance de masse en Chine, sur la mort mystérieuse d’un ancien employé d’OpenAI et sur l’intérêt d’une figure majeure de la Silicon Valley pour l’Antéchrist. Bonne lecture!
📰 À lire
La Silicon Valley a construit l'infrastructure de surveillance en Chine
Des entreprises états-uniennes ont développé une grande partie de la surveillance d’État en Chine au cours des vingt-cinq dernières années, a révélé Associated Press dans une enquête publiée mardi.
L’Empire du Milieu est connu pour avoir instauré une surveillance de masse visant ses propres citoyennes et citoyens. Les technologies permettant cette surveillance sont venues principalement d’entreprises basées aux États-Unis, un pays qui affirme pourtant défendre les libertés et la démocratie à travers le monde.
Des entreprises états-uniennes «ont vendu des technologies pour des milliards de dollars à la police, au gouvernement et à des entreprises de surveillance en Chine, malgré des avertissements répétés du Congrès et des médias que ces outils étaient utilisés pour réprimer la dissidence, persécuter des sectes religieuses et cibler des minorités», explique Associated Press. Ce faisant, elles «ont joué un rôle bien plus important dans la mise en oeuvre d’abus des droits humains qu’on ne le savait auparavant», ajoute l’agence de presse.
Police prédictive
Les technologies de surveillance états-uniennes ont notamment permis «une campagne brutale de détention massive» dans l’ouest de la région du Xinjiang, où la quasi totalité de la population des Ouïghours, une minorité musulmane, est ciblée et surveillée par les autorités dans le but de «les assimiler et les soumettre de force».
Cela a été possible grâce à la technologie de police prédictive que ces entreprises ont exportée en Chine. Cette méthode de surveillance a pour but d’empêcher des manifestations, des attaques terroristes ou des crimes avant qu’ils n’aient lieu. Pour ce faire, des systèmes informatiques captent et analysent de nombreuses données - des messages, des appels, des paiements, des vols en avion, des vidéos, des échantillons d’ADN, des livraisons postales, la navigation sur internet - afin de détecter des individus considérés comme suspects et prédire leur comportement. «Cela permet également à la police chinoise de menacer leurs amis et leur famille et de d’arrêter de manière préventive des personnes pour des crimes qu’elles n’ont même pas commis», indique Associated Press.
L’agence de presse a par exemple découvert que l’entreprise de défense chinoise Huadi a travaillé avec IBM pour développer un important système de police connu sous le nom de «bouclier doré». Celui-ci permet à Pékin de censurer l’internet et de surveiller des centaines de milliers de personnes en ligne afin de réprimer des terroristes présumés ou des individus considérés comme problématiques.
Un registre comptable divulgué par un lanceur d’alerte indique que la police chinoise a ensuite dépensé des dizaines de millions de dollars pour acquérir des produits d’IBM, Cisco, Oracle et Microsoft afin d’améliorer ce système.
«Tout était construit sur des technologies américaines»
Nvidia, IBM, Dell, Cisco, Seagate, Intel, Oracle, Motorola, Amazon Web Services, Microsoft et Western Digital ont toutes délibérément vendu des technologies ou des services à la police chinoise ou à des entreprises de surveillance dans le pays, affirme Associated Press. Leurs argumentaires de vente citaient même parfois des slogans du Parti Communiste concernant la répression des manifestations, par exemple «le maintien de la stabilité» et «les rassemblements anormaux». Certains de leurs programmes pour étouffer la dissidence étaient nommés «La police d’internet» et «Les yeux perçants».
Associated Press donne d’autres exemples de contrats controversés:
En 2011, IBM a acquis i2, un programme de surveillance policière permettant notamment d’analyser les réseaux sociaux. La multinationale a ensuite mandaté une entreprise basée à Shanghai pour le vendre à la police chinoise, y compris dans la région du Xinjiang.
Nvidia et Intel ont collaboré avec les trois plus grandes entreprises de surveillance de Chine pour ajouter des capacités d’intelligence artificielle aux caméras utilisées à travers le pays, y compris au Xinjiang et au Tibet, jusqu’à ce que des sanctions soient imposées. Nvidia a affirmé dans un post datant au plus tôt de 2013 qu’elle collaborait avec l’institut de recherche de la police chinoise sur des technologies de surveillance avancée.
IBM, Oracle, HP et Esri ont vendu des logiciels de cartographie pour des centaines de milliers de dollars à la police chinoise, afin que celle-ci puisse détecter quand des Ouïghours, des Tibétains ou des dissidents politiques s’éloignaient de certaines provinces ou de certains villages.
Dell a vendu des programmes de cloud et du stockage en ligne à la police au Tibet et au Xinjiang, y compris en 2022, lorsque les violations des droits humains dans ces régions étaient devenus largement connues.
IBM a travaillé avec Huadi pour construire la première base de données nationale d’empreintes digitales. HP et VMWare ont vendu des technologies utilisées par la police chinoise pour comparer des empreintes digitales, tandis qu’Intel s’est associée avec une entreprise chinoise spécialisée dans ce domaine pour rendre leurs appareils plus efficaces.
IBM, Dell et VMWare ont promu des programmes de reconnaissance faciale à la police chinoise.
La police chinoise et son laboratoire ADN ont acheté des programmes et des équipements de Dell et Microsoft pour enregistrer des données génétiques dans les bases de données des forces de l’ordre.
En 2016, Dell a affirmé sur son compte WeChat que ses services aidaient la police de l’internet chinoise à réprimer les «colporteurs de rumeurs».
En 2022, Seagate a écrit sur WeChat qu’elle vendait des disques durs «faits sur mesure» pour des systèmes de vidéo d’IA en Chine utilisés par la police pour «contrôler des personnes clefs».
«Tout était construit sur des technologies américaines», affirme Valentin Weber, un chercheur au sein du Conseil allemand en relations étrangères qui a étudié l’utilisation des technologies états-uniennes par la police chinoise. «Les capacités de la Chine étaient proches de zéro.»
Les fondations de la surveillance chinoise
La quantité de technologies que les entreprises états-uniennes exportent en Chine ont fortement ralenti à partir de 2019, suite à une vague de protestations concernant les abus du gouvernement chinois dans la région du Xinjiang et à des sanctions internationales. Toutefois, ce «déluge de technologies américaines» a posé les fondations de l’appareil de surveillance sur lesquelles les entreprises chinoises ont construit depuis et qu’elles ont parfois remplacées, souligne Associated Press.
Regarder: How US tech enabled China’s surveillance state (Associated Press)
Des experts en sanctions internationales notent cependant que les lois ont des failles importantes et sont souvent en retard par rapport aux nouvelles évolutions. Par exemple, une interdiction de vendre du matériel militaire et de police à la Chine après le massacre de la place Tian'anmen en 1989 n’inclut pas des technologies plus récentes ni des produits à usage général qui peuvent également être utilisés par la police.
Des inquiétudes persistent donc à ce jour concernant l’utilisation qui est faite en Chine des technologies états-uniennes. À la fin du mois de juillet, vingt anciens fonctionnaires et experts en sécurité nationale de la première puissance mondiale ont critiqué un accord permettant à Nvidia de vendre des puces H20, utilisées par des systèmes d’intelligence artificielle, à la Chine, avec 15% des revenus distribués à Washington. Selon eux, il importe peu à qui ces puces sont vendues car elles finiront de toute façon dans les mains de l’armée et des services de renseignement de Pékin.
Nvidia affirme qu’elle ne crée pas de systèmes de surveillance, ne travaille pas avec la police en Chine et qu’elle n’a pas développé les puces H20 pour de la surveillance policière. Mais en 2022, l’entreprise avait posté sur le réseau social WeChat que les entreprises de surveillance chinoises Watrix et GEOAI utilisaient ses puces pour entraîner des drones de patrouille et des systèmes d’IA pour identifier des personnes grâce à leur démarche. Ces rapports commerciaux ne sont toutefois plus actifs, a déclaré la multinationale.
De nombreux autres pays concernés
Associated Press précise que des entreprises allemandes, japonaises et coréennes ont également collaboré avec le gouvernement chinois à des fins de surveillance de la population.
En septembre 2020, Amnesty International avait dénoncé le fait que plusieurs entreprises européennes ont aussi doté la Chine de technologies de surveillance, notamment des systèmes de reconnaissance faciale, des caméras de vidéosurveillance et des dispositifs de captation vidéo destinés à mesurer les émotions, analyser les comportements et déduire le genre, l’âge et l’ethnicité des personnes filmées, avait rapporté Le Monde.
Sept nouvelles importantes cette semaine
ICE Spends Millions on Clearview AI Facial Recognition to Find People ‘Assaulting’ Officers (404 Media)
How ICE Is Using Fake Cell Towers To Spy On People’s Phones (Forbes)
Tech worker dissent over Gaza bubbles inside Amazon, Microsoft and Google (The Washington Post)
Meta suppressed research on child safety, employees say (The Washington Post)
FTC orders AI companies to hand over info about chatbots’ impact on kids (The Verge)
The MechaHitler defense contract is raising red flags (The Verge)
🎥 À regarder
La mort mystérieuse d’un ancien employé d’OpenAI
Le commentateur politique conservateur Tucker Carlson a interviewé Sam Altman, le directeur d’OpenAI, dans une vidéo publiée mercredi. Ils discutent notamment du suicide d’un adolescent qui avait posé des questions à ChatGPT sur les différentes façons possibles de se donner la mort avant de passer à l’acte.
Ils abordent également le décès controversé d’un ancien employé d’OpenAI qui avait été retrouvé mort dans son appartement à San Francisco quelques mois après avoir quitté l’entreprise. Suchir Balaji reprochait à OpenAI de ne pas respecter les lois sur les droits d’auteur et de menacer la viabilité commerciale des personnes et entreprises dont les données sont utilisées par les entreprises d’IA pour entraîner leurs modèles.
La police avait conclu à un suicide mais les parents de Suchir Balaji, qui ont notamment remarqué des signes d’une apparente confrontation dans l’appartement de leur fils, pensent qu’il a été tué.
Voir: "Signs of Struggle": Parents Seek Truth On OpenAI Whistleblower Death (Breaking Points) et OpenAI Whistleblower Found Dead: Suicide or Murder? (Breaking Points)
Tucker Carlson presse Sam Altman sur ce sujet, lui disant même que la mère de Suchir Balaji soutient que son fils a été tué «sur ses ordres». Ce passage commence à 34:28.
Sam Altman on God, Elon Musk and the Mysterious Death of His Former Employee (Tucker Carlson)
Sept vidéos importantes cette semaine
ICE reactivation of spyware contract raises alarm about next steps (MSNBC)
Superhuman AI: If Anyone Builds It ... Everyone Dies? (Semafor)
The Book That Could Wake Up the World to AI Risk (The AI Risk Network)
Ingénieur en IA : "L’extinction est le scénario par défaut." (Le Futurologue)
Big Tech Under Pressure: Hunger Strikes and the Fight for AI Safety (The AI Risk Network)
How AI Companies Created a Fake Arms Race (Species | Documenting AGI)
Demis Hassabis: The CEO Working to Solve Cancer With AI (Bloomberg)
🔈 À écouter
Peter Thiel et l’Antéchrist
Dans le nouvel épisode de The Nerd Reich, le journaliste Gil Duran commente le nouveau cycle de conférences de Peter Thiel, cofondateur de l’entreprise d’analyse de données Palantir, allié de Donald Trump et l’une des figures les plus influentes de la Silicon Valley. Ces présentations commencent ce lundi à San Francisco. Le thème? L’Antéchrist.
Voir: Peter Thiel and the Antichrist (Interesting Times with Ross Douthat)
Gil Duran interviewe Robert Fuller, auteur de «Naming the Antichrist: The History of An American Obsession» et le théologue Matthew Fox, qui explique comment le mythe de l’Antéchrist a été utilisé dans le passé pour justifier l’extrêmisme et pousser la société vers plus de violence.
Écouter The Nerd Reich sur PodBean
Merci d’avoir lu la 23ème revue de presse de Réalité artificielle! Abonne-toi gratuitement pour recevoir les revues directement dans ta boîte mail. Avec un abonnement payant, tu auras également accès à tous les articles ainsi qu'à une newsletter mensuelle exclusive.
Bonne semaine et à dimanche prochain,
Arnaud
