Les chatbots nous surveillent | Revue de presse n°6
Une sélection des nouvelles importantes en intelligence artificielle pendant la semaine du 12 au 18 mai 2025.
Bienvenue dans la sixième revue de presse de Réalité artificielle. Je publie chaque dimanche une sélection des derniers développements importants en IA. Bonne lecture!
📰 À lire
Les chatbots nous surveillent
Le média The Verge a publié mardi un article intitulé «La thérapie IA est une machine de surveillance dans un état policier». Dans l’introduction, la journaliste Adi Robertson affirme que les grandes entreprises technologiques américaines veulent que nous partagions nos pensées privées avec des agents conversationnels tandis qu’elles soutiennent un gouvernement qui méprise la vie privée des citoyennes et des citoyens.
Au début de son article, Adi Robertson revient sur les récentes déclarations de Mark Zuckerberg, le directeur de Meta, qui estime que les utilisatrices et utilisateurs d’Instagram, Facebook, WhatsApp et Threads voudront un programme «qui apprend à bien les connaître» et qu’ils deviendront amis avec des systèmes d’intelligence artificielle.
Le CEO est même allé plus loin: «Pour les personnes qui n’ont pas de thérapeute, je pense qu’elles auront toutes une IA.» C’est déjà une réalité pour un certaines d’entre elles, qui demandent des conseils personnels aux chatbots ChatGPT ou Grok. Ce faisant, elles partagent leurs secrets, leurs vulnérabilités, leurs émotions, leurs doutes, leurs peurs, leurs regrets, leur état de santé physique et mentale ainsi que des histoires sur leurs relations personnelles. En somme, des informations intimes qu’elles ne publieraient pas sur un réseau social et qu’elles ne confieraient peut-être même pas à leurs ami-es les plus proches.
«Cela commence à avoir l’air extraordinairement dangereux», selon la journaliste de The Verge, «non pas à cause de ce que le chatbot vous dit, mais à cause de qui d’autre est en train de jeter un coup d’oeil.»
Il est prouvé depuis des années que le gouvernement américain surveille le trafic internet et les conversations téléphoniques. Cette surveillance de masse est actuellement en train de s’accroître sous l’administration Trump. Et qui était aux premiers rangs lors de l’investiture du président? Tous les grands patrons de la tech américaine, dans une démonstration d’allégeance.
Il devient de plus en plus connu que nos recherches sur internet et nos publications sur les réseaux sociaux peuvent être analysées par les forces de l’ordre lors d’enquêtes. Mais cela ne s’arrête pas là: nos conversations avec des chatbots peuvent également être obtenues. De plus, ces discussions ne sont pas toujours cryptées et peuvent être interceptées puis publiées, révélant des informations potentiellement embarrassantes et dommageables.
Ces risques ne concernent pas que le chatbot de Meta. L’informaticien Edward Snowden, un ancien employé du gouvernement américain, a accusé l’entreprise propriétaire de ChatGPT de se lancer dans une tentative d’espionnage généralisé.
Sept nouvelles importantes cette semaine
Advocacy group threatens Meta with injunction over data-use for AI training (Reuters)
Une idée américaine surréaliste pour déréguler l’intelligence artificielle (Le Temps)
Google Worried It Couldn’t Control How Israel Uses Project Nimbus, Files Reveal (The Intercept)
Why OpenAI Is Fueling the Arms Race It Once Warned Against (Bloomberg)
Apple to Support Brain-Implant Control of Its Devices (The Wall Street Journal)
Anthropic blames Claude AI for ‘embarrassing and unintentional mistake’ in legal filing (The Verge)
French army hopes for combat-ready robots by 2040 (The Straits Times)
Lis les autres articles de la semaine que j’ai sélectionnés en cliquant ici.
🎥 À regarder
Le chatbot de xAI, l’entreprise d’intelligence artificielle d’Elon Musk, a posté des réponses étranges pendant plusieurs heures mercredi. Questionné sur différents sujets, Grok a pris l’initiative de parler de la théorie du «génocide blanc» en Afrique du Sud, le pays d’origine de l’homme d’affaires, sans qu’il n’y ait aucun lien avec les requêtes des utilisatrices et utilisateurs.
L’agent conversationnel a révélé avoir reçu l’instruction d’aborder le sujet même si cela entrait en conflit avec son but de fournir des réponses véridiques et basées sur des faits. L’entreprise a ensuite publié un communiqué pour expliquer qu’une «modification non-autorisée» des instructions internes de Grok avait provoqué ces réponses.
Un cas similaire s’était déjà produit en février, lorsque Grok avait commencé à ignorer toutes les sources accusant Elon Musk ou Donald Trump de diffuser des informations erronées. xAI avait également mis la faute sur une modification non-autorisée du chatbot.
Ces deux événements montrent clairement que les chatbots peuvent être manipulés pour faire de la censure ou pour répandre des informations de façon non-sollicitée et ainsi façonner les opinions des usagers. Ce qui est arrivé avec Grok pourra être reproduit dans le futur et à plus large échelle. Cela nous rappelle qu’il est important de faire preuve d’esprit critique lorsque nous interagissons avec des IA.
Dans cette vidéo de Breaking Points publiée jeudi, les journalistes Ryan Grim et Emily Jashinsky discutent de cet incident.
Sept vidéos importantes cette semaine
Proton menace de quitter la Suisse face aux nouvelles règles sur la surveillance des données
OpenAI’s Sam Altman on Building the ‘Core AI Subscription’ for Your Life
Regarde les autres vidéos de la semaine que j’ai sélectionnées en cliquant ici.
🔈 À écouter
Dans le nouvel épisode du podcast The Most Interesting Thing in AI, Nicholas Thompson, le directeur de The Atlantic, discute avec Gary Marcus, un spécialiste en sciences cognitives et auteur qui écrit notamment le Substack Marcus on AI.
Dans cette conversation passionnante, ils abordent le développement des systèmes d’intelligence artificielle, l’IA neuro-symbolique et la sentience des machines.
Merci d’avoir lu la sixième revue de presse de Réalité artificielle! Bonne semaine et à dimanche prochain.
