«Nous risquons l'instauration d'un état de surveillance permanent»

Dans son livre «Technopolitique», la politologue Asma Mhalla met en garde contre l'émergence d'une surveillance généralisée reposant sur les nouvelles technologies numériques, dont l'IA.

Extrait de la couverture de «Technopolitique», publié aux Éditions du Seuil (source)

J'ai fini ce matin la lecture d'un livre passionnant d'Asma Mhalla, docteure en études politiques, chercheuse au Laboratoire d'Anthropologie Politique de l'Ehess, en France, et politologue spécialiste de la technologie et de l'intelligence artificielle. Intitulé «Technopolitique», son essai publié en février 2024 analyse l'état actuel du monde en se focalisant sur les technologies et la façon dont elles sont en train de transformer la politique, la géopolitique, les guerres et la surveillance.

L'intelligence artificielle est un thème qui m'intéresse beaucoup et il me semble important - et urgent - de l'aborder non pas en tant que consommateur, mais en tant que citoyen. Car en marge de ses usages civils (agents conversationnels et génération d'images ou de vidéos, par exemple), l'IA joue un rôle de plus en plus fondamental dans la surveillance de masse qui est en train de se répandre à bas bruit dans nos sociétés. La démocratie, déjà très fragile voire quasiment inexistante dans de nombreux pays, est encore davantage menacée.

L'IA, une technologie duale

«L'intelligence artificielle est duale, elle peut servir des intérêts et usages à la fois civils et militaires», explique Asma Mhalla dans son livre. Elle ajoute que les acteurs les plus avancés en termes de recherche et développement en IA sont les grandes entreprises technologiques aux États-Unis, telles que Google, Apple, Meta, Amazon et Microsoft, ainsi que des startups de pointe.

Ces «BigTech» investissent des sommes colossales pour construire des centres de données et entraîner leurs systèmes d'IA. Pour rentabiliser ces dépenses, elles peuvent donc déployer leurs technologies sur deux marchés, civil et militaire.

La plupart de ces grandes entreprises et startups ont déjà franchit le pas entre ces deux marchés et sont désormais actives dans l’industrie de la guerre. Asma Mhalla donne des exemples: Microsoft, Amazon, Google, Starlink, Palantir et Clearview ont toutes joué un rôle dans la guerre en Ukraine, notamment dans le domaine de la reconnaissance faciale, de la cybersécurité, du cloud, des données satellitaires et des systèmes de communication. Leur soutien se chiffre en centaines de millions de dollars.

Avant la guerre en Ukraine, Google s'était déjà positionné sur le marché militaire de la reconnaissance faciale en 2018 avec le projet Maven, avant de devoir l'annuler à la suite d'une vague de protestations.

Amazon, Microsoft, Google et Oracle se sont vu attribuer un projet multi-cloud du Pentagone en décembre 2022 pour un budget total de 9 milliards de dollars. Microsoft a également remporté le projet de casques immersifs HoloLens pour l'US Army en 2021 pour un budget initial de 22 milliards de dollars, avant que le contrôle de ce programme ne soit transféré à Anduril au début de l’année 2025. Meta, propriétaire d’Instagram, Facebook, WhatsApp et Threads, participe désormais au projet. Quant à Palantir, elle collabore avec la NSA et a signé un contrat avec le Pentagone en 2022 pour participer à un projet d'interopérabilité interarmées.

Lire aussi: OpenAI signe un contrat de $200 millions avec le Pentagone

D'après le site de recension BigTech Sells War, le Pentagone et le département de la sécurité intérieure auraient dépensé plus de 44 milliards de dollars entre 2004 et 2021 auprès des grandes entreprises technologiques de la Silicon Valley.

Les BigTech signent donc des contrats militaires très lucratifs avec le gouvernement des États-Unis. Mais leur soif de profits ne s'arrête pas là. Selon Asma Mhalla, «la rentabilisation de ces technologies [d’intelligence artificielle] pourrait parfaitement s'opérer sur le marché domestique de la technosurveillance, extension possible du domaine de la guerre.»

La technosurveillance

La surveillance technologique a pris son essor depuis une vingtaine d'année, explique la chercheuse: «Depuis le 11 septembre 2001, un arsenal juridique inédit par son ampleur entreprend d'institutionnaliser dans les démocraties libérales occidentales un édifice de surveillance généralisée à la faveur des nouvelles technologies numériques.»

Les usages technosécuritaires se sont effectivement développés à une vitesse exponentielle en l'espace de quelques années grâce à de nouvelles sources de données: «La collecte de données personnelles via les réseaux sociaux, les fichages biométriques et de données personnelles sensibles comme les données de santé, les logiciels de reconnaissance faciale, les drones, les satellites ou les logiciels de police prédictive rejoignent l'arsenal juridique et policier», détaille la politologue.

Le capitalisme de surveillance, qui repose sur la captation de données privées à des fins commerciales, est devenu hybride. Il alimente désormais non seulement le ciblage marketing, mais aussi le ciblage policier, souligne Asma Mhalla.

Selon elle, cette hybridation a été rendue possible par la généralisation des usages numériques et le désir d'exposition de soi. Les réseaux sociaux permettent en effet aux entreprises technologiques de capter d'énormes quantités de données personnelles sur leurs utilisatrices et utilisateurs, données qui peuvent ensuite être transférées à des gouvernements.

Le constat est clair: «L'intrication profonde entre les services de renseignement, les services d'ordre, les armées et les fournisseurs de services technologiques tisse une toile d'acteurs privés et publics qui nourrissent et enregistrent chaque donnée produite.»

Une surveillance normalisée

Asma Mhalla dénonce le fait que les usages technosécuritaires sont souvent précédés par des usages individuels et commerciaux, facilitant ainsi leur normalisation auprès des citoyennes et citoyens.

«La dualité de ces technologies pose une question éthique de premier ordre», affirme la politologue. «La reconnaissance faciale a par exemple d'abord été incorporée dans des objets de domotique domestique intelligente, sur les réseaux sociaux ou pour déverrouiller des smartphones. Ces expériences fluides, en apparence inoffensives, ouvrent la porte à une acceptabilité forte en créant l'accoutumance à des technologies par natures duales, qui servent à la fois confort personnel et usages sécuritaires. La banalisation de ces logiciels invisibles peut devenir rapidement invasive dès lors que le cadre législatif national les autorise.»