L’intelligence artificielle peut lire nos pensées
De nombreuses entreprises de neurotechnologies développent des capteurs cérébraux capables de décoder notre état de concentration, nos émotions et même le contenu de notre esprit.
Le développement de l’intelligence artificielle continue sa course effrénée et va même continuer de s’accélérer. Les récentes annonces d’investissements massifs dans cette industrie en sont la preuve. Aux États-Unis, une nouvelle entreprise nommée Stargate rassemblant OpenAI, Oracle et Softbank prévoit de dépenser 500 milliards de dollars au cours des prochaines années pour construire des centres de données dédiés à l’IA.
En France, quelques jours après le début du Sommet pour l’action sur l’intelligence artificielle qui s’est tenu à Paris du 6 au 11 février, le président Emmanuel Macron a annoncé sur France Télévisions que des fonds d’investissement et des entreprises privées vont investir 109 milliards d’euros pour faire de la France une puissance de l’IA. Peu après, la présidente de la Commission européenne Ursula von der Leyen déclarait que l’Union européenne veut mobiliser 200 milliards d’euros pour des investissements dans l’IA en Europe. Pourquoi dépenser de telles sommes stratosphériques dans l’IA? Quels sont les objectifs de ces entreprises technologiques et des gouvernements avec qui elles sont liées?
Pour beaucoup, l’intelligence artificielle est avant tout l’IA générative qu’on retrouve notamment dans des chatbots, ces agents conversationnels tels que ChatGPT d’OpenAI, Gemini de Google, Grok de xAI ou Deepseek de l’entreprise chinoise du même nom. Les programmes d’IA générative permettant de créer des images et des vidéos ont aussi rapidement été adoptés par le grand public.
On entend également de plus en plus parler d’applications médicales de l’IA, par exemple pour la détection de cancers. Questionné par le président américain Donald Trump sur les usages des systèmes d’IA qui seront entraînés grâce au projet Stargate, le co-fondateur et directeur technologique d’Oracle Larry Ellison a d’ailleurs parlé uniquement du domaine de la santé, promouvant des vaccins anti-cancer à base d’ARN messager créés sur mesure grâce à l’IA. Mais est-ce vraiment pour améliorer la santé des gens que des entreprises technologiques dépensent autant d’argent pour développer leurs systèmes d’IA? On est en droit de douter des soi-disants élans altruistes de ces grandes sociétés ultracapitalistes.
Dans cette vidéo, Larry Ellison d’Oracle explique que la surveillance par l’IA fera que les citoyens «se comporteront bien» car «nous serons constamment en train d’enregistrer tout ce qu’il se passe».
Et si une des réponses à la question de Trump se trouvait en fait... dans notre tête?
En parallèle du développement de l’IA générative, l’aspect le plus visible de l’intelligence artificielle et sur lequel se cristallise une grande partie des débats publics, de nombreuses entreprises technologiques avancent leurs pions dans d’autres domaines. Souvent discrètement, à l’abri des regards et des conversations démocratiques. Les sociétés actives dans l’armement et la surveillance en font partie. Mais les entreprises de neurotechnologies profitent elles aussi des avancées en intelligence artificielle.
Les neurotechnologies
Les neurotechnologies sont un ensemble de méthodes et d’appareils électroniques qui sont en interaction avec le système nerveux pour analyser, enregistrer et modifier l’activité du cerveau.
Les investissements privés dans les entreprises de neurotechnologies ont été multipliés par 22 (+2200%) entre 2010 et 2020, pour atteindre un total 33,2 milliards de dollars en 2020, selon un rapport de l'Unesco publié en juillet 2023. Les gouvernements sont aussi très actifs dans ce domaine, avec plus de 6 milliards de dollars investis entre 2013 et 2020. En 2025, le marché des neurotechnologies est estimé à 17,3 milliards de dollars et devrait dépasser les 50 milliards de dollars d’ici 2034.
Une des entreprises de neurotechnologies les plus connues est Neuralink, co-fondée en 2016 par l’homme d’affaires sud-africain Elon Musk, l’homme le plus riche du monde. Le 29 janvier 2024, il a annoncé que Neuralink avait implanté pour la première fois une puce dans le cerveau d’un patient. Peu après, Musk écrivait sur X que le premier produit de son entreprise s’appelle Telepathy et qu’il permettra de contrôler son téléphone et son ordinateur, et ainsi de nombreux autres appareils, uniquement par la pensée. Un autre produit de Neuralink s’appelle Blindsight et doit permettre aux personnes aveugles de retrouver la vue.
Les applications thérapeutiques des neurotechnologies s’annoncent vastes: faire remarcher des personnes paralysées, réduire ou éliminer les crises d’épilepsie, commander une prothèse ou un fauteuil roulant par la pensée ainsi que détecter et traiter des pathologies psychiatriques tels que les troubles obsessionnels compulsifs, la schizophrénie, la maladie d’Alzheimer et de Parkinson.
Cela va même plus loin: les neurotechnologies permettent de lire les pensées.
L’IA analyse le cerveau
L’intelligence artificielle provoque l’accélération du développement des neurotechnologies grâce à sa capacité à analyser de grandes quantités de données cérébrales (lire le rapport des Nations Unies «Conséquences, apports potentiels et enjeux des neurotechnologies pour la promotion et la protection de tous les droits de l’homme», p.3). L’IA générative en particulier permet désormais de décoder des informations neuronales auparavant indéchiffrables, comme les mots pensés par une personne.
Dans le cadre d’une étude qui a été publiée en décembre 2023, des chercheurs de l’Université de Technologie de Sydney ont connecté un casque d’électroencéphalographie (qui mesure l’activité électrique du cerveau) à des grands modèles de langage (des réseaux de neurones profonds tels que ceux utilisés par l’agent conversationnel ChatGPT). Des participants lisaient silencieusement des phrases tandis qu’une IA appelée DeWave analysait leurs données cérébrales pour les traduire en mots.
Dans cette vidéo, nous voyons un homme équipé d’un casque d’électroencéphalographie (EEG) qui pense par exemple à la phrase «Oui, j’aimerais un bol de soupe au poulet, s’il vous plaît». L’IA DeWave traduit alors ses données cérébrales par la phrase: «Oui, un bol de soupe au boeuf».
Cette neurotechnologie «brain-to-text» (du cerveau au texte) atteignait un score de précision d’environ 40% lors de cette étude, une des toutes premières de ce genre. Les chercheurs de l’Université de Technologie de Sydney pensent pouvoir atteindre un taux de précision de 90% dans le futur, ce qui signifie que cette IA pourra lire quasiment toutes les pensées au mot près...
Surveillance de l’esprit
L’IA DeWave est d’autant plus impressionnante qu’elle est utilisée avec un appareil non-invasif, un casque EEG, qui n’a pas besoin d’être placé à l’intérieur du crâne. Ce n’est pas le cas d’autres technologies «brain-to-text» qui reposent sur l’insertion d’une puce dans le cerveau, ou à la surface de celui-ci, lors d’une opération chirurgicale. De plus, un casque EEG est un dispositif léger, portatif et peu onéreux, contrairement à une machine d’imagerie par résonance magnétique, qui permet elle aussi de décoder les pensées.
De nombreuses entreprises dans le monde utilisent déjà des capteurs cérébraux non-invasifs pour surveiller leurs employés. Ces capteurs ne peuvent pas encore lire leurs pensées car la technologie «brain-to-text» est encore en cours de développement, en revanche ils peuvent détecter si les travailleurs ne sont pas assez concentrés.
Depuis une dizaine d’années, l’entreprise australienne SmartCap Technologies a vendu ses appareils de neurotechnologie a plus de 5000 entreprises à travers le monde actives dans l’industrie minière, la construction, le transport routier, l’aviation et le rail. Leur but? S’assurer que leurs employés sont toujours bien éveillés grâce à un capteur cérébral placé à l’intérieur de leur casque ou de leur casquette de travail qui leur envoie un signal quand ils deviennent somnolents. (Lire The Battle for Your Brain de Nita Farahany, pp.40-41)
Aux États-Unis, l’entreprise Emotiv a créé les MN8, des écouteurs dotés de capteurs cérébraux. Avec seulement deux électrodes, un dans chaque oreille, les MN8 permettent aux employeurs de surveiller l’état émotionnel et cognitif de leurs employés en temps réel. Ces écouteurs envoient également un message à l’employé et à sa supérieure lorsqu’ils détectent une baisse de concentration. (Lire The Battle for Your Brain de Nita Farahany, p.48)
En 2019, une école à Jinhua, en Chine, a utilisé des capteurs cérébraux sur des élèves pour surveiller leur niveau d’attention. Ce projet pilote a ensuite été annulé suite au tollé qu’il a provoqué. Il est toutefois probable que d’autres écoles utilisent des appareils de neurotechnologie similaires par la suite.
Les capteurs cérébraux sont donc déjà adoptés par des milliers d’entreprises et seront de plus en plus utilisés dans le futur, que ce soit au travail ou à l’école. Des modèles grand public sont aussi disponibles, par exemple pour faciliter la méditation, améliorer la qualité de son sommeil ou jouer à des jeux vidéo. Ce n’est qu’une question de temps avant que ces objets soient également capables de lire les pensées des utilisateurs.
Un reportage de Context sur les capteurs cérébraux. La vidéo commence par montrer qu’il est déjà possible d’en commander sur internet.
Une nouvelle ruée vers l’or: nos données cérébrales
L’intelligence artificielle a besoin de beaucoup de données pour être entraînée. Étant donné que quasiment tout l’internet en libre accès a déjà été analysé par les grandes entreprises d’IA, ces dernières ont désormais besoin de nouvelles données pour continuer d’améliorer leurs modèles. Dans ce contexte, les neurotechnologies représentent une aubaine pour ces sociétés car elles permettent de capter d’énormes quantités de données cérébrales, très riches en informations. De nombreuses entreprises vont donc saisir cette opportunité et la surveillance mentale va devenir de plus en plus répandue et intrusive.
Cela crée de nombreux risques, d’autant plus que ces capteurs neuronaux ont également la capacité de modifier l’activité du cerveau: surveillance de masse, perte complète de la vie privée, manipulation des pensées, des souvenirs, des émotions et du corps, vols de données cérébrales, cyberattaques... Conscients de ces dangers, des chercheurs en neurosciences et des institutions telle que l’Unesco s’activent pour protéger nos droits neuronaux, en particulier notre droit à la vie privée mentale, soulignant l’urgence d’agir face au développement très rapide des neurotechnologies. Ce sera le sujet de mon deuxième article.
- Arnaud Mittempergher
Merci d’avoir lu le tout premier article de Réalité artificielle! S’il t'a plu, tu peux t'abonner gratuitement pour recevoir une revue de presse tous les dimanches sur les dernières nouvelles importantes en intelligence artificielle. Avec un abonnement payant, tu auras également accès à tous les articles ainsi qu'à une newsletter mensuelle exclusive.
