«Nous risquons l'instauration d'un état de surveillance permanent»
Dans son livre «Technopolitique», la politologue Asma Mhalla met en garde contre l'émergence d'une surveillance généralisée reposant sur les nouvelles technologies numériques, dont l'IA.
J'ai fini ce matin la lecture d'un livre passionnant d'Asma Mhalla, docteure en études politiques, chercheuse au Laboratoire d'Anthropologie Politique de l'Ehess, en France, et politologue spécialiste de la technologie et de l'intelligence artificielle. Intitulé «Technopolitique», son essai publié en février 2024 analyse l'état actuel du monde en se focalisant sur les technologies et la façon dont elles sont en train de transformer la politique, la géopolitique, les guerres et la surveillance.
L'intelligence artificielle est un thème qui m'intéresse beaucoup et il me semble important - et urgent - de l'aborder non pas en tant que consommateur, mais en tant que citoyen. Car en marge de ses usages civils (agents conversationnels et génération d'images ou de vidéos, par exemple), l'IA joue un rôle de plus en plus fondamental dans la surveillance de masse qui est en train de se répandre à bas bruit dans nos sociétés. La démocratie, déjà très fragile voire quasiment inexistante dans de nombreux pays, est encore davantage menacée.
L'IA, une technologie duale
«L'intelligence artificielle est duale, elle peut servir des intérêts et usages à la fois civils et militaires», explique Asma Mhalla dans son livre. Elle ajoute que les acteurs les plus avancés en termes de recherche et développement en IA sont les grandes entreprises technologiques aux États-Unis, telles que Google, Apple, Meta, Amazon et Microsoft, ainsi que des startups de pointe.
Ces «BigTech» investissent des sommes colossales pour construire des centres de données et entraîner leurs systèmes d'IA. Pour rentabiliser ces dépenses, elles peuvent donc déployer leurs technologies sur deux marchés, civil et militaire.
La plupart de ces grandes entreprises et startups ont déjà franchit le pas entre ces deux marchés et sont désormais actives dans l’industrie de la guerre. Asma Mhalla donne des exemples: Microsoft, Amazon, Google, Starlink, Palantir et Clearview ont toutes joué un rôle dans la guerre en Ukraine, notamment dans le domaine de la reconnaissance faciale, de la cybersécurité, du cloud, des données satellitaires et des systèmes de communication. Leur soutien se chiffre en centaines de millions de dollars.
Avant la guerre en Ukraine, Google s'était déjà positionné sur le marché militaire de la reconnaissance faciale en 2018 avec le projet Maven, avant de devoir l'annuler à la suite d'une vague de protestations.
Amazon, Microsoft, Google et Oracle se sont vu attribuer un projet multi-cloud du Pentagone en décembre 2022 pour un budget total de 9 milliards de dollars. Microsoft a également remporté le projet de casques immersifs HoloLens pour l'US Army en 2021 pour un budget initial de 22 milliards de dollars, avant que le contrôle de ce programme ne soit transféré à Anduril au début de l’année 2025. Meta, propriétaire d’Instagram, Facebook, WhatsApp et Threads, participe désormais au projet. Quant à Palantir, elle collabore avec la NSA et a signé un contrat avec le Pentagone en 2022 pour participer à un projet d'interopérabilité interarmées.
Lire aussi: OpenAI signe un contrat de $200 millions avec le Pentagone
D'après le site de recension BigTech Sells War, le Pentagone et le département de la sécurité intérieure auraient dépensé plus de 44 milliards de dollars entre 2004 et 2021 auprès des grandes entreprises technologiques de la Silicon Valley.
Les BigTech signent donc des contrats militaires très lucratifs avec le gouvernement des États-Unis. Mais leur soif de profits ne s'arrête pas là. Selon Asma Mhalla, «la rentabilisation de ces technologies [d’intelligence artificielle] pourrait parfaitement s'opérer sur le marché domestique de la technosurveillance, extension possible du domaine de la guerre.»
La technosurveillance
La surveillance technologique a pris son essor depuis une vingtaine d'année, explique la chercheuse: «Depuis le 11 septembre 2001, un arsenal juridique inédit par son ampleur entreprend d'institutionnaliser dans les démocraties libérales occidentales un édifice de surveillance généralisée à la faveur des nouvelles technologies numériques.»
Les usages technosécuritaires se sont effectivement développés à une vitesse exponentielle en l'espace de quelques années grâce à de nouvelles sources de données: «La collecte de données personnelles via les réseaux sociaux, les fichages biométriques et de données personnelles sensibles comme les données de santé, les logiciels de reconnaissance faciale, les drones, les satellites ou les logiciels de police prédictive rejoignent l'arsenal juridique et policier», détaille la politologue.
Le capitalisme de surveillance, qui repose sur la captation de données privées à des fins commerciales, est devenu hybride. Il alimente désormais non seulement le ciblage marketing, mais aussi le ciblage policier, souligne Asma Mhalla.
Selon elle, cette hybridation a été rendue possible par la généralisation des usages numériques et le désir d'exposition de soi. Les réseaux sociaux permettent en effet aux entreprises technologiques de capter d'énormes quantités de données personnelles sur leurs utilisatrices et utilisateurs, données qui peuvent ensuite être transférées à des gouvernements.
Le constat est clair: «L'intrication profonde entre les services de renseignement, les services d'ordre, les armées et les fournisseurs de services technologiques tisse une toile d'acteurs privés et publics qui nourrissent et enregistrent chaque donnée produite.»
Une surveillance normalisée
Asma Mhalla dénonce le fait que les usages technosécuritaires sont souvent précédés par des usages individuels et commerciaux, facilitant ainsi leur normalisation auprès des citoyennes et citoyens.
«La dualité de ces technologies pose une question éthique de premier ordre», affirme la politologue. «La reconnaissance faciale a par exemple d'abord été incorporée dans des objets de domotique domestique intelligente, sur les réseaux sociaux ou pour déverrouiller des smartphones. Ces expériences fluides, en apparence inoffensives, ouvrent la porte à une acceptabilité forte en créant l'accoutumance à des technologies par natures duales, qui servent à la fois confort personnel et usages sécuritaires. La banalisation de ces logiciels invisibles peut devenir rapidement invasive dès lors que le cadre législatif national les autorise.»
Asma Mhalla: «Les géants de la tech sont aussi des acteurs politiques, idéologiques, militaires»
On pourrait penser que cette surveillance de masse répond à un besoin de sécurité de la population et qu'il s'agit uniquement de repérer des individus dangereux. Son usage sert en fait également un autre objectif: s'assurer de la passivité de la majorité silencieuse.
Neutralisation politique
Afin de «neutraliser les éléments perturbateurs» dans les démocraties occidentales, c'est-à-dire les minorités actives contestataires ou réactionnaires, de nouvelles tactiques de pacification se développent. L'objectif est de maintenir le statu quo politique, de stabiliser la majorité silencieuse et de s'assurer de sa passivité ou de son adhésion politique, explique Asma Mhalla.
Pour ce faire, les gouvernements vont «capter toute l'information possible sur l'ensemble de la population» grâce à un ensemble de dispositifs de surveillance technologique. La neutralisation politique de la majorité passive passera ainsi par sa surveillance, une intériorisation de la norme sécuritaire, une mise en scène médiatique et politique jouant sur le sentiment d'insécurité et des affects négatifs relayés sur les réseaux sociaux.
Il s'agit en somme d'une doctrine contre-insurrectionnelle imperceptible: «En invisibilisant et en hybridant les techniques de contrôle social et de surveillance, l'économie de la donnée permet de maintenir sous contrôle la majorité silencieuse, sans besoin d'actions directes lourdes sur le terrain.»
Dérive autoritaire
Le fait que de nombreux gouvernements piétinent les droits fondamentaux de leurs citoyens, tel que le respect de la vie privée, est inquiétant. Asma Mhalla y voit une dérive autoritaire: «Pour maintenir la stabilité intérieure de leur société, les gouvernements occidentaux sont bien partis pour dessiner les contours d'un modèle politique mixte combinant à la fois des éléments de démocratie et d'autoritarisme sur une ligne de crête qui, à terme, pourra être complexe à tenir.»
La docteure en études politiques va même plus loin. Selon elle, la fragilité du cadre juridique et démocratique qui accompagne l'émergence des technologies de surveillance peut faire craindre une convergence du modèle politique libéral occidental et des régimes autoritaires comme la Russie ou la Chine.
Il s’agit d’un risque majeur: «Si le débat n'est pas posé dans les bons termes, si nous n'affrontons pas l'insoluble dilemme de “sécurité contre liberté”, nous risquons l'instauration subreptice d'un état de surveillance permanent.» Nous voilà prévenus.
- Arnaud Mittempergher
