Les neurodroits contre la surveillance mentale
Des spécialistes en neurotechnologies affirment qu'il faut rapidement instaurer des nouveaux droits humains pour protéger notre esprit des risques d'intrusions et de manipulations cérébrales.
Dans mon premier article, j’expliquais que les neurotechnologies peuvent capter notre activité cérébrale et que l’intelligence artificielle peut analyser ces informations pour décoder notre état de concentration, nos émotions et même le contenu de nos pensées. Une aubaine pour les entreprises technologiques qui prospèrent en captant les données de leurs utilisatrices et utilisateurs, notamment pour vendre de la publicité ciblée à des annonceurs. À l’ère du capitalisme de surveillance, nos données personnelles ont déjà une grande valeur mais nos données neuronales, très riches en informations sensibles, vaudront de l’or.
De nombreuses sociétés vont bientôt s’activer pour enregistrer un maximum de données cérébrales afin d’entraîner des systèmes d’intelligence artificielle, faire de la publicité ciblée, du neuromarketing ou pour les revendre à d’autres entreprises ou institutions. En parallèle de ces pratiques commerciales intrusives mais plus ou moins librement consenties, des armées, des milices, des groupes terroristes, des entreprises de surveillance et d’armement vont également utiliser des neurotechnologies pour avancer vers leurs objectifs.
Notre esprit est le dernier bastion de notre vie privée dans nos sociétés où la surveillance de masse devient de plus en plus omniprésente et invasive. Cet ultime rempart est maintenant fortement menacé.
Une technologie de plus en plus répandue
Le développement à grande vitesse des technologies de captation et de modification de l’activité cérébrale ouvre de nouvelles possibilités en médecine, par exemple pour assister des personnes paralysées ou aveugles. Mais les neurotechnologies ne seront pas utilisées uniquement à des fins thérapeutiques. Des appareils équipés de capteurs cérébraux sont déjà distribués aux employés de milliers d’entreprises à travers le monde (lire The Battle for Your Brain de Nita Farahany, pp.40-64) et même à des jeunes élèves afin de surveiller leur état de concentration.
Des capteurs cérébraux se trouvent également dans des écouteurs, par exemple les MN8 d’Emotiv et peut-être prochainement les Airpods d’Apple. L’entreprise californienne a en effet déposé un brevet pour pouvoir équiper ses écouteurs d’électrodes détectant les signaux électriques du cerveau.
Des capteurs cérébraux grand public sont aussi disponibles, par exemple pour faciliter la méditation, améliorer la qualité de son sommeil ou jouer à des jeux vidéo.
Les neurotechnologies sont également progressivement intégrées aux appareils de réalité étendue. Les casques de réalité virtuelle tel que le Vision Pro d’Apple sont déjà équipés de plusieurs capteurs biométriques. Le suivi du regard permet par exemple aux utilisatrices et utilisateurs d’interagir avec l’appareil grâce à leurs yeux. La multinationale ne souhaite pas s’arrêter là et a déposé un brevet afin de pouvoir utiliser cette fonctionnalité pour obtenir des informations sur l’état biologique des usagers, en particulier leur état d’attention mentale.
Il est très probable que la plupart des casques et lunettes de réalité étendue seront également équipés de capteurs cérébraux dans le futur, qu’ils soient disposés dans les écouteurs ou sur la tête des usagers.
Les risques liés aux neurotechnologies
Les neurotechnologies vont donc être progressivement intégrées à de nombreux appareils pour le grand public et impacteront ainsi la vie d’un grand nombre de personnes. Mais la liste des risques qu’elles représentent est longue:
Surveillance de masse par des gouvernements et des acteurs privés (Lire le rapport des Nations Unies «Conséquences, apports potentiels et enjeux des neurotechnologies pour la promotion et la protection de tous les droits de l’homme», p.21)
Risques pour l’intégrité mentale, la dignité humaine, l’identité personnelle, la liberté de penser et l’autonomie (Lire le rapport de l’Unesco «Unveiling the neurotechnology landscape», p.27)
Cyberattaques des implants cérébraux, avec diverses conséquences telles que le vol, la modification ou l’effacement des souvenirs, la détérioration de l’autonomie de la personne attaquée, l’émergence d’anxiété, de dépression ou d’autres problèmes de santé mentale (Lire le rapport de l’Unesco «Unveiling the neurotechnology landscape», p.27)
Manipulation des consommateurs par des entreprises commerciales
Vente de nos données cérébrales à des tiers (Lire le rapport de la Neurorights Foundation «Safeguarding Brain Data: Assessing the Privacy Practices of Consumer Neurotechnology Companies», pp.51-57)
Un rapport des Nations Unies publié en août 2024 résume la situation actuelle en quelques lignes:
«Il existe une réelle possibilité que, dans les années à venir, des produits [utilisant des neurotechnologies] soient commercialisés à grande échelle alors qu’ils ne protègent pas assez leurs utilisateurs et que leurs risques pour les droits de l’homme ne sont pas clairement établis ou sont sous-estimés. Ces produits pourraient envahir la vie quotidienne car, dans la plupart des pays, les réglementations applicables sont peu claires, faibles ou inexistantes. Les grandes entreprises en quête de profits tireront certainement parti des vides réglementaires, du manque de connaissances spécialisées et de capacités techniques et de l’absence d’organes de contrôle appropriés. En l’absence des garde-fous nécessaires, le secteur risque de continuer à se développer sans entrave, en faisant prévaloir les questions de rentabilité et d’utilité avant les questions d’éthique et de droits de l’homme.»
- Rapport des Nations Unies «Conséquences, apports potentiels et enjeux des neurotechnologies pour la promotion et la protection de tous les droits de l’homme», p.5
Face à ces nombreux dangers, des chercheurs en neuroéthique et en neurobiologie se mobilisent pour protéger nos droits à l’aube de cette nouvelle ère des neurotechnologies.
Les neurodroits
En avril 2017, Marcello Ienca, chercheur en bioéthique à l’Université de Bâle, et Roberto Andorno, professeur de droit et chercheur en bioéthique à l’Université de Zurich, ont publié une analyse des droits humains à l’ère des neurotechnologies, accompagnée d’un article auxiliaire. Dans ces papiers, ils estiment que les droits en vigueur ne sont pas suffisants pour répondre aux risques créés par les neurotechnologies. Il promeuvent donc la reconceptualisation de certains droits humains ou la création de nouveaux droits au niveau international. Le terme de neurodroits était né. (Lire On Neurorights de Marcello Ienca, p.2)
Les neurodroits visent à nous protéger contre les dangers des neurotechnologies en garantissant:
La liberté cognitive
Elle protège contre un usage coercitif et non-consenti des neurotechnologies. Elle nous permet également de décider librement de nos usages de ces technologies. Il s’agit du droit principal duquel sont issus les trois droits suivants.Le droit à la vie privée mentale
Il protège contre des intrusions mentales et la collecte d’informations cérébrales par des tiers.Le droit à l’intégrité mentale
Ce droit, déjà reconnu dans la Charte des droits fondamentaux de l’Union européenne, doit être élargi pour inclure également la protection contre des manipulations illicites et néfastes de l’activité mentale par des neurotechnologies, selon Marcello Ienca et Roberto Andorno.Le droit à la continuité psychologique
Il nous préserve de tout changement involontaire d’identité par des tiers.
L’année 2017 était fondamentale pour les neurodroits. Un mois seulement après les publications de Marcello Ienca et Roberto Andorno, des neuroscientifiques, neurotechnologues, médecins, éthiciens et ingénieurs en intelligence artificielle de plusieurs pays se sont regroupés pendant trois jours à l’Université de Colombia, aux États-Unis, pour discuter des enjeux éthiques des neurotechnologies. Les leaders académiques, réunis sous le nom du Morningside Group, sont aussi arrivés à la conclusion que les directives éthiques actuelles étaient insuffisantes pour ce domaine. Ils ont alors élaboré une liste de recommandations pour combler ce déficit, qu’ils ont également nommées neurodroits.
Se basant sur les travaux du Morningside Group, l’Université de Colombia a lancé en 2019 la Neurorights Initiative, une organisation qui a pour but de défendre les droits humains et de développer des directives éthiques encadrant les neurotechnologies. Celle-ci a ensuite été intégrée à la Neurorights Foundation, fondée peu après.
La Neurorights Foundation est l’une des institutions à l’avant-garde de la défense des droits humains face aux dangers des neurotechnologies. Menée par le neurobiologiste Rafael Yuste, la fondation s’engage depuis des années auprès de nombreux gouvernements, institutions internationales, organisations régionales, entreprises et scientifiques pour les sensibiliser sur les enjeux éthiques des technologies neuronales. Son but? Que cinq droits neuronaux soient intégrés dans les traités internationaux des droits humains et dans les textes de loi des pays afin que les personnes soient protégées contre les potentielles utilisations abusives des neurotechnologies.
Certains de ces droits sont identiques à ceux défendus par Marcello Ienca et Roberto Andorno:
Le droit à la vie privée mentale
Il protège nos données cérébrales pour qu’elles restent privées et ne puissent pas être décodées, transférées et vendues sans notre consentement.Le droit de posséder une identité mentale
Il exclut tout changement de personnalité lors de l’utilisation de neurotechnologies.Le droit au libre-arbitre
Il empêche les neurotechnologies de manipuler nos perceptions, nos souvenirs et notre comportement afin que nous gardions le contrôle sur nos prises de décision.Le droit à l’égalité d’accès à l’augmentation neurologique
Il permet à chacune et chacun d’avoir un accès juste et équitable aux neurotechnologies.Le droit à la protection contre les biais algorithmiques
Il protège contre des potentiels préjugés et discriminations créés ou amplifiés par les neurotechnologies.
La Neurorights Foundation précise qu’elle ne souhaite pas la création de nouveaux droits. Il s’agit d’étendre et de clarifier l’interprétation des droits humains qui sont déjà en vigueur et d’amender les lois existantes.
Rafael Yuste, le directeur de la Neurorights Foundation, fait partie d’un documentaire sur les neurotechnologies et l’esprit humain réalisé par Werner Herzog.
Marcello Ienca, Roberto Andorno et Rafael Yuste sont des figures de proue de la défense des droits humains face aux neurotechnologies, mais ils ne sont pas les seuls.
La bataille pour notre cerveau
Nita Farahany est professeure de droit et de philosophie à l’Université de Duke, aux États-Unis. Auteure du livre The Battle for Your Brain, qui défend le droit de penser librement à l’ère des neurotechnologies, elle explore les enjeux éthiques des technologies cérébrales depuis plus de dix ans. Ses articles ont paru notamment dans The New York Times, The Washington Post, The Wall Street Journal, Wired, BBC, CNN, Politico ou The Atlantic et elle a été invitée dans de nombreuses émissions télévisées et podcasts. Ses deux conférences Ted sur notre droit à la vie privée à l’ère des neurotechnologies, When technology can read minds, how will we protect our privacy? et Your right to mental privacy in the age of brain-sensing tech, ont accumulé plus de trois millions de vues.
Nita Farahany affirme elle aussi que les droits humains actuellement en vigueur ne protègent pas assez les individus face aux risques des technologies neuronales. Pour corriger ce problème, elle promeut l’instauration d’un droit à la liberté cognitive au niveau international.
La neuroéthicienne définit la liberté cognitive comme un droit contre l’interférence mentale par autrui et un droit pour l’autodétermination sur nos expériences mentales. Cela implique la reconnaissance de trois droits humains interdépendants:
Le droit à la vie privée mentale
Il protège contre les interférences envers nos réactions mentales automatiques, nos émotions et nos pensées.La liberté de penser
Elle protège contre les interceptions, les manipulations et les punitions de nos pensées.L’autodétermination
Elle sécurise notre propriété individuelle sur nos expériences cérébrales et mentales.
Nita Farahany considère la liberté cognitive comme une mise à jour de la liberté à l’ère digitale. Elle estime que ce droit peut être reconnu comme existant déjà dans la Déclaration universelle des droits de l’homme, qui devrait être adaptée pour préciser notamment que le droit à la vie privée s’étend également à la vie privée mentale.
Des pas dans la bonne direction
Les spécialistes présentés dans cet article s’accordent à dire que les textes de loi et les chartes des droits humains actuellement en vigueur dans le monde ne sont pas suffisants pour nous protéger face aux neurotechnologies qui arrivent rapidement dans nos vies. Heureusement, leurs recommandations pour l’instauration de neurodroits sont parfois entendues. Plusieurs gouvernements et institutions internationales avancent en effet dans la bonne direction afin que nous puissions bénéficier de droits mis à jour pour notre ère digitale. Mais le temps presse. Dans mon prochain article sur les neurotechnologies, je présenterai un tour d’horizon de l’avancée des neurodroits sur la planète.
- Arnaud Mittempergher
