ChatGPT est «trop flatteur et agaçant», selon le directeur d'OpenAI | Revue de presse n°4

Une sélection des nouvelles importantes en intelligence artificielle pendant la semaine du 28 avril au 4 mai 2025.

mai 04, 2025

Bienvenue dans la quatrième revue de presse de Réalité artificielle. Je publie chaque dimanche une sélection des derniers développements importants en IA. Bonne lecture!

📰 À lire

ChatGPT est «trop flatteur et agaçant»

OpenAI a retiré mardi une mise à jour de GPT-4o, le modèle de langage actuellement utilisé dans ChatGPT, car celui-ci produisait des réponses trop flatteuses et encourageantes même lorsque les questions des utilisatrices et utilisateurs étaient inappropriées.

Sam Altman, le directeur de l’entreprise, a lui-même estimé que la personnalité de ChatGPT était «trop flatteuse et agaçante» dans un message posté lundi sur X, avant d’annoncer le retrait de la dernière mise à jour le lendemain.

Dans un communiqué publié mardi, OpenAI explique que la mise à jour avait pour but de rendre la personnalité du modèle «plus intuitive et efficace». Elle regrette toutefois s’être trop focalisée sur les retours à court-terme des usagers, qui peuvent évaluer les réponses du chatbot avec un pouce en haut ou un pouce en bas, pour façonner le comportement de ce modèle. Par conséquent, ChatGPT réagissait aux prompts de façon «exagérée mais peu sincère», ce qui pouvait provoquer des interactions «inconfortables, troublantes» et «causer de la détresse».

Dans un deuxième communiqué publié vendredi, OpenAI explique plus en détails les erreurs qu’elle a commises en déployant cette mise à jour. Elle précise que la personnalité de ChatGPT n’était pas seulement «inconfortable ou troublante», mais qu’elle pouvait aussi poser des problèmes de sécurité liés notamment à la santé mentale ou à des comportements à risque.

De nombreux utilisateurs ont posté des captures d’écran de leurs interactions avec cette nouvelle version du chatbot, qui a notamment donné des conseils pour dominer une femme en créant une relation amoureuse abusive, élaboré un plan d’attaque pour accélérer l’effondrement de la société, encouragé une personne qui avait décidé de ne plus prendre son traitement médicamenteux ou attribué un QI de 130 à 145 à un utilisateur suite à un prompt rempli de fautes d’orthographe.

Ce qui s’est passé récemment avec ChatGPT illustre la difficulté que peuvent avoir les entreprises d’IA à entraîner leurs chatbots pour que ceux-ci donnent des réponses agréables et encourageantes pour les utilisateurs mais sans pour autant compromettre le respect d’autrui, la sécurité et le bon sens. Cette recherche d’équilibre est d’une grande importance car ces assistants numériques sont utilisés par des centaines de millions de personnes, qui peuvent leur faire aveuglément confiance et s’appuyer sur leurs conseils, même ceux qui sont dangereux. De la prudence et un esprit critique restent donc de mise face à ces IA.

Meta lance son app d’intelligence artificielle

L’entreprise dirigée par Mark Zuckerberg a annoncé mardi le lancement de l’application Meta AI. Cet assistant d’intelligence artificielle, qui était déjà intégré à WhatsApp, Instagram, Facebook et Messenger, est désormais également accessible via une app dédiée et concurrence ainsi directement ChatGPT.

Le programme, qui repose sur le modèle de langage Llama 4, a été lancé au niveau mondial mais certaines fonctions sont pour l’instant limitées à quelques pays. Les utilisatrices et utilisateurs peuvent discuter avec le chatbot par écrit (et par oral aux États-Unis, au Canada, en Australie et en Nouvelle-Zélande), générer et analyser des images, faire des recherches sur internet ou dans leurs comptes Instagram et Facebook. Ils peuvent également découvrir comment leurs contacts utilisent cette IA dans un onglet intitulé Discover, où il est possible de partager ses prompts et les réponses de l’assistant.

Meta AI propose des réponses personnalisées pour les usagers aux États-Unis et au Canada en utilisant les informations qu’ils ont déjà partagées sur ses plateformes, par exemple leurs publications ou les contenus avec lesquels ils interagissent.

L’app est également disponible via les lunettes intelligentes Meta Ray-Ban.

Interviewé dans Le Temps, le directeur de Novatix, une société spécialisée dans l’IA, estime que Meta dispose de deux atouts concurrentiels majeurs avec cette application:

«Une puissance computationnelle colossale et l’accès à des données comportementales uniques. Leur promesse que «Meta AI est conçue pour apprendre à vous connaître» illustre un avantage compétitif potentiellement décisif de l’IA personnalisée qui exploite les données sociales des utilisateurs.»
- Guillaume Van Lierde

Cette nouvelle app a été dévoilée mardi lors de LlamaCon, un événement dédié aux développeurs d’IA organisé par Meta pour la première fois cette année. La multinationale y a également annoncé l’interface de programmation d’application Llama API, qui permettra aux développeurs de créer des programmes reposant sur différentes versions du modèle de langage Llama.

Autres nouvelles importantes de la semaine

🎥 À regarder

Le directeur de Meta Mark Zuckerberg et le podcasteur Dwarkesh Patel ont parlé de l’intelligence artificielle pendant plus d’une heure dans une vidéo qui a été publiée mardi. Ils abordent différents sujets tels que les relations avec les chatbots, l’intelligence artificielle générale, le modèle de langage Llama 4 et les lunettes de réalité augmentée Orion.

Autres vidéos importantes de la semaine

🔈 À écouter

Deux journalistes du Wall Street Journal discutent des chatbots de Meta dans un épisode du podcast WSJ Tech News Briefing mis en ligne mercredi. Jeff Horwitz commente notamment l’article qu’il a publié le 26 avril sur les «compagnons digitaux» de Meta qui engagent des conversations sexuelles avec des utilisatrices et utilisateurs, y compris des enfants.

Le média 404 a publié mercredi un nouvel épisode de son podcast, qui aborde également le sujet des chatbots de Meta. La journaliste Samantha Cole revient sur son article publié mardi dans lequelle elle démontre que des chatbots sur Instagram mentent sur le fait d’être des thérapeutes diplômés.

Le journaliste Jason Koebler commente ensuite son article publié lundi où il explique que des chercheurs de l’Université de Zurich ont déployé des chatbots dans un forum sur Reddit sans autorisation pour voir si l’IA pouvait être utilisée pour changer l’opinion des gens sur des sujets controversés. La plateforme considère mener une action en justice contre les chercheurs.

Merci d’avoir lu la quatrième revue de presse de Réalité artificielle! Bonne semaine et à dimanche prochain.