ChatGPT et Microsoft enregistrent notre vie privée | Revue de presse n°1
Une sélection des nouvelles importantes en intelligence artificielle pendant la semaine du 7 au 13 avril 2025.
Bienvenue dans la première revue de presse de Réalité artificielle. Je publierai chaque dimanche une sélection des derniers développements importants en IA. Bonne lecture!
📰 À lire
ChatGPT enregistre désormais toutes les conversations
Le CEO d’Open AI, Sam Altman, a annoncé jeudi sur X que ChatGPT peut dorénavant référencer toutes les conversations des utilisateurs et utilisatrices:
we have greatly improved memory in chatgpt--it can now reference all your past conversations!
this is a surprisingly great feature imo, and it points at something we are excited about: ai systems that get to know you over your life, and become extremely useful and personalized.
En français:
nous avons grandement amélioré la mémoire dans chatgpt--il peut maintenant référencer toutes vos conversations passées!
c’est une fonctionnalité étonamment super à mon avis, et cela montre quelque chose qui nous enthousiasme: des systèmes d’ia qui peuvent apprendre à vous connaître au cours de votre vie, et devenir extrêmement utiles et personnalisés.
Le but de cette fonctionnalité est d’améliorer la personnalisation du chatbot, qui «apprend à connaître» l’usager au fil des conversations grâce à une mémoire à long-terme afin de lui proposer des réponses adaptées à ses intérêts et à ses préférences.
Il s’agit d’une mise à niveau de l’option «Mémoire» qui a été ajoutée à ChatGPT l’année passée. Celle-ci permet de demander au chatbot de mémoriser certaines questions, prompts et réglages pour des réponses ultérieures.
Avec cette nouvelle fonctionnalité, ChatGPT se souviendra désormais de toutes les conversations, même si l’utilisateur n’a pas choisi de sauvegarder ces échanges. Il est toutefois possible de désactiver cette option dans les réglages.
Cette mémoire à long-terme est déjà disponible pour les abonnements Pro (200 dollars par mois) et sera également activée prochainement pour les abonnements Plus (20 dollars par mois). Il y a des exceptions: la mise à jour ne sera pour l’instant pas déployée en Suisse ni dans l’Union européenne, au Royaume-Uni, en Norvège, en Islande et au Liechtenstein, probablement à cause de régulations sur l’IA plus strictes, selon le média The Verge.
La nouvelle fonctionnalité annoncée par Sam Altman intensifie encore davantage la surveillance de masse mise en place par les entreprises du numérique dès l’aube de l’ère digitale. L’enregistrement de toutes nos conversations avec ce chatbot, y compris de toutes nos questions les plus personnelles, représente en effet un recul supplémentaire de notre vie privée.
Cette personnalisation à tout prix de ChatGPT pourrait également être une source de vulnérabilités. En apprenant à nous connaître au fil des conversations, le robot conversationnel saura aussi quels sont nos biais, nos préjugés, nos désirs, nos faiblesses. Il pourrait alors orienter nos décisions, voire nous manipuler. Car la technologie n’est jamais neutre, elle reflète et renforce l’idéologie de ses créateurs et de ses dirigeants.
Lire: Edward Snowden accuse OpenAI de se lancer dans une tentative d’espionnage généralisé
Microsoft déploie un programme d’IA qualifié de «potentiel cauchemar pour la vie privée»
Un outil d’intelligence artificielle controversé est en train d’être déployé par Microsoft. Intitulé Recall, ce programme fait des captures d’écran automatiques à des intervalles de quelques secondes sur les PCs et laptops Copilot+, une gamme d’ordinateurs de l’entreprise américaine.
Le but de Recall est de permettre aux clients et clientes de Microsoft de faire des recherches dans l’historique de leur ordinateur. La multinationale donne l’exemple d’une personne qui a vu une robe sur un site de vente en ligne quelques jours auparavant et qui pourrait facilement la retrouver en faisant une recherche avec Recall.
L’annonce de cette fonctionnalité avait provoqué de nombreuses critiques l’année passée, un expert sur l’IA et la vie privée la qualifiant de «potentiel cauchemar pour la vie privée» car Recall peut enregistrer des données très sensibles telles que des e-mails, des messages, des photos et des vidéos privées, des mots de passe, des numéros de carte de crédit, des déclarations fiscales, etc. Microsoft avait alors décidé de retarder son lancement de quelques mois.
Un aperçu de cette fonctionnalité est désormais disponible pour certains usagers. L’entreprise a depuis décidé d’en faire une fonctionnalité «opt-in» (les utilisateurs et utilisatrices doivent choisir de l’activer), alors qu’il était d’abord prévu qu’elle soit activée par défaut pour toutes et tous. L’outil sera progressivement déployé dans le monde entier, y compris en Europe d’ici la fin de l’année.
Microsoft se défend contre les reproches liés à l’intrusion dans la vie privée de ses clients, argumentant que les captures d’écran sont stockées localement sur l’ordinateur des utilisateurs et qu’il est nécessaire de vérifier son identité avant de pouvoir consulter les images.
Si Microsoft dit vrai, il reste toutefois possible que ces captures d’écran seront par la suite stockées sur un de ses serveurs, devenant ainsi accessibles à la multinationale et aux autres entités (entreprises, agences gouvernementales, etc.) avec qui elle partage des informations.
Dans tous les cas, cet outil représente un recul de la vie privée car des informations personnelles et sensibles se retrouveront enregistrées, souvent sans le consentement de toutes les personnes concernées. Prenons l’exemple d’une personne utilisant Recall qui fait des captures d’écran automatiques des messages échangés avec une amie, sans que cette dernière n’ait donné son accord à ce que sa conversation soit mémorisée par un programme.
Ces captures d’écran pourraient également être volées lors de cyberattaques et créent ainsi de nouvelles vulnérabilités pour les utilisateurs et utilisatrices.
DOGE utilise l’IA pour surveiller des employés fédéraux
Aux États-Unis, le Département pour l’Efficacité Gouvernementale mené par l’homme d’affaires Elon Musk utilise un système d’intelligence artificielle pour surveiller les employés d’une agence fédérale, a révélé Reuters mardi.
À l’Agence pour la Protection Environnementale, des managers ont été informés que l’équipe d’Elon Musk déploie une intelligence artificielle pour repérer si des travailleurs ont exprimé des critiques à l’encontre du président Donald Trump ou d’Elon Musk dans des messages ou lors de vidéoconférences.
Reuters qualifie cette pratique «d’usage inédit de la technologie» pour identifier les employés qui ne sont pas loyaux au président. Des experts en cybersécurité et en éthique gouvernementale estiment que l’administration Trump pourrait utiliser ces informations obtenues grâce à l’intelligence artificielle pour attaquer ceux qu’elle considère comme des opposants politiques.
🎥 À regarder
Democracy Now! a publié vendredi une vidéo sur deux employées de Microsoft qui ont protesté contre l’utilisation de l’intelligence artificielle et du cloud de l’entreprise américaine par l’armée israélienne dans la guerre à Gaza.
«Nous voulions que tout le monde sache que le cloud et l’IA de Microsoft sont les bombes et les balles du 21e siècle», a expliqué Vaniya Agrawal, une ancienne employée de Microsoft qui a été licenciée après avoir perturbé un événement de la multinationale le 4 avril.
Une enquête de Cash Investigation intitulée «L’Intelligence Artificielle a-t-elle pris le contrôle sur notre quotidien?» a été publiée sur Youtube vendredi.
Conséquences du déploiement de l’IA pour de nombreux employés, analyse des émotions, traque arbitraire des fraudeurs au fisc, subventions du gouvernement français pour des projets d’IA, «travailleurs du clic» sous-payés pour entraîner des programmes… Cette enquête aborde de nombreux aspects controversés de l’intelligence artificielle.
🔈 À écouter
Le Temps a publié lundi un nouvel épisode de son podcast «IA qu’à m’expliquer».
Le journaliste Grégoire Barbey a interviewé Laurence Devillers, enseignante à Paris Sorbonne et chercheuse au Centre national de la recherche scientifique, le 20 mars 2025 lors du forum Forward à Écublens. Le thème de leur discussion: Jusqu’à quel point sommes-nous en mesure de discuter avec des machines sans nous faire manipuler par leurs artifices?
«Ce qu’il faut, c’est que tout le monde apprenne à avoir ce pas de côté et ne fasse pas confiance à ces machines.»
- Laurence Devillers
Merci d’avoir lu la toute première revue de presse de Réalité artificielle! Bonne semaine et à dimanche prochain.
