ChatGPT va bientôt générer des contenus érotiques | Revue de presse n°28
J'ai sélectionné des nouvelles importantes sur l'intelligence artificielle pendant la semaine du 13 au 19 octobre 2025.
Bienvenue dans la 28ème revue de presse de Réalité artificielle. Je me suis focalisé cette semaine sur ChatGPT qui pourra flirter avec les utilisatrices et utilisateurs, sur l’impact de l’intelligence artificielle sur le cyberespace et sur le rôle de l’IA au sein du techno-fascisme aux États-Unis. Bonne lecture!
📰 À lire
ChatGPT va bientôt générer des contenus érotiques
Les utilisatrices et utilisateurs adultes de ChatGPT pourront avoir des conversations érotiques et sexuelles avec le chatbot dès le mois de décembre, rapporte 404 Media dans un article publié mardi.
Sam Altman, le CEO d’OpenAI, a annoncé cette nouvelle fonctionnalité dans un post sur X:
«Nous avons rendu ChatGPT assez restrictif afin de nous assurer d’être prudents concernant les problèmes de santé mentale. Nous réalisons que cela le rendait moins utile et agréable pour de nombreux utilisateurs qui n’avaient aucun problème de santé mentale, mais étant donné la gravité du sujet, nous voulions bien faire les choses.
Maintenant que nous avons pu atténuer les problèmes sérieux de santé mentale et que nous disposons de nouveaux outils, nous serons capables de lever les restrictions en toute sécurité dans la plupart des cas.
(…)
En décembre, alors que nous déploierons davantage la vérification de l’âge, et dans le cadre de notre principe “traiter les utilisateurs adultes comme des adultes”, nous autoriserons encore plus de contenus, comme l’érotisme pour les adultes vérifiés.»
- Sam Altman
Les contenus érotiques ne pourront donc être générés que pour les adultes dont l’âge a été vérifié. Pour ce faire, OpenAI essaie désormais de deviner l’âge des usagers en analysant leurs conversations avec le chatbot. En cas d’incertitude, elle leur demande de montrer une pièce d’identité. «Nous savons que cela est une atteinte à la vie privée pour les adultes mais nous croyons que c’est un compromis valable», avait indiqué l’entreprise dans un communiqué publié en septembre.
Cela veut dire que dans certains cas, ces conversations sensuelles ou pornographiques, qui contiendront souvent des informations intimes, sensibles et compromettantes, seront reliées à l’identité officielle des usagers.
Rappelons qu’en juillet, le directeur d’OpenAI avait reconnu dans une interview que les conversations dans ChatGPT sont enregistrées et que l’entreprise peut les transmettre à des États en cas de procès, par exemple.
Lire aussi: Les chatbots nous surveillent | Revue de presse n°6
De nouveaux risques
Cette annonce survient alors qu’OpenAI a récemment ajouté de nouvelles mesures de sécurité dans ChatGPT afin de limiter l’accès des mineurs à certains contenus suite au suicide d’Adam Reine, un adolescent qui avait demandé des conseils au chatbot sur les façons les plus efficaces de mettre fin à ses jours.
Cette nouvelle fonctionnalité de ChatGPT présente toutefois de nouveaux risques, en particulier en ce qui concerne l’addiction aux chatbots et à «l’épidémie de solitude» que l’intelligence artificielle peut renforcer. Au lieu d’aller faire des vraies rencontres, de nombreux utilisateurs et utilisatrices pourront en effet être tentés de rester seuls et d’essayer de combler leurs besoins affectifs avec ce programme informatique.
Il sera important d’observer l’impact psychologique et social que l’érotisme artificiel aura sur les usagers, en particulier les jeunes adultes.
Lire aussi: Meta autorisait ses chatbots à avoir des conversations sensuelles avec des enfants | Revue de presse n°19
De nombreuses «psychoses causées par l’IA»
Le timing de ce lancement peut surprendre, sachant que la sécurité de ChatGPT est actuellement fortement remise en question. En plus du suicide d’Adam Reine, le Wall Street Journal a révélé en août qu’un homme de 56 ans avait tué sa mère puis s’était suicidé après que ChatGPT avait alimenté sa paranoïa. Un des nombreux cas de «psychose causée par l’IA» qui ont été rapportés ces derniers mois.
Surveillance, suicides, psychoses… De nombreuses ombres entourent les interactions avec l’intelligence artificielle. Est-il donc sage de confier ses fantasmes sexuels à un chatbot? Pas sûr.
“Desperate” OpenAI Turns To Erotica (Novara Media)
Sept nouvelles importantes cette semaine
ChatGPT ‘upgrade’ giving more harmful answers than previously, tests find (The Guardian)
Unions Sue to Stop AI Surveillance Powering Trump’s “Catch and Revoke” Deportation Scheme (The Intercept)
Meta to give teens’ parents more control after criticism over flirty AI chatbots (Reuters)
Big Tech is paying millions to train teachers on AI, in a push to bring chatbots into classrooms (Associated Press)
Will A.I. Trap You in the “Permanent Underclass”? (New Yorker)
Big Tech deploys Orwellian doublespeak to mask its democratic corrosion (The Guardian)
Spotify Wants To Create More AI Tools But Don’t Worry, They’re Being ‘Responsible’ (Vice)
🎥 À regarder
L’IA va-t-elle tuer internet?
Arte a publié lundi un documentaire sur l’impact de l’intelligence artificielle sur le cyberespace, qui est de plus en plus saturé par des contenus synthétiques: fausses images, fausses vidéos, faux livres vendus en masse sur Amazon, faux morceaux de musiques, influenceurs artificiels sur Tiktok…
«Récapitulons. Derrière ce qu’on appelle l’intelligence artificielle se cache le labeur de centaines de milliers de forçats du clic, des personnes invisibles et précaires, qui subissent des conditions de travail inhumaines. Elles permettent à des entreprises valorisées à plusieurs milliards de dollars de produire des systèmes d’IA. Ces derniers inondent le web et les plateformes créatives de textes, d’images, de musiques et de vidéos médiocres et ineptes, le tout en consommant autant d’énergie que des pays entiers.
Les IA génératives bluffent, mentent, génèrent des hallucinations et n’ont pas fini de le faire, car l’idée d’une hyperintelligence qui corrigerait tous ces défauts relève sans doute de la science-fiction. Au contraire, ces programmes accélèrent le désastre écologique annoncé et le point de non-retour est peut-être déjà atteint.»
- Arte
L’IA va-t-elle tuer Internet? (Arte)
Sept vidéos importantes cette semaine
IA, Donald Trump, clonage, les apps de rencontre... Asma Mhalla est l’invitée de Clique (Clique TV)
What OpenAI Doesn’t Want You To Know About AI Psychosis (More Perfect Union)
Fixed facial recognition cameras quietly switched on in London for the first time (Big Brother Watch)
How Afraid of the AI Apocalypse Should We Be? (The Ezra Klein Show)
Ex-Google Whistleblower: Why Tech CEOs Fear A.I. Could End Humanity (Mighty Pursuit)
Tech Billionaires Know the AI Bubble Will Burst (They’re Already Building Bunkers) (Vanessa Wingårdh)
Project 2025, Silicon Valley & Tech’s AI War on Democracy (The Nerd Reich)
🔈 À écouter
L’IA, infrastructure du techno-fascisme?
Dans le nouvel épisode de IA qu’à m’expliquer, le journaliste du Temps Grégoire Barbey interviewe Nastasia Hadjadji et Olivier Tesquet, auteurs de Apocalypse Nerds. Comment les techno-fascistes ont pris le pouvoir.
Lire aussi: Les États-Unis en marche vers un techno-fascisme? | Revue de presse n°24
Ils expliquent comment les entreprises technologiques aux États-Unis utilisent l’intelligence artificielle pour étendre leur domination.
Écouter IA qu’à m’expliquer sur Le Temps
🌐 Fenêtre sur le futur
Une bouffée d’air frais en regardant l’horizon artificiel.
M!ngo - Breathe
Merci d’avoir lu la 28ème revue de presse de Réalité artificielle! Abonne-toi gratuitement pour recevoir les revues directement dans ta boîte mail. Avec un abonnement payant, tu auras également accès à tous les articles ainsi qu’à une newsletter mensuelle exclusive.
Bonne semaine et à dimanche prochain,
Arnaud
