OpenAI veut autoriser l'érotisme et modifier les restrictions relatives à la santé mentale pour les adultes









Sam Altman a déclaré que l'entreprise prévoyait de traiter "les utilisateurs adultes comme des adultes" tout en maintenant des précautions pour les adolescents.

ChatGPT fait preuve de prudence pour l'instant, mais le chatbot pourrait devenir plus osé d'ici la fin de l'année.

Ces dernières semaines, le chatbot d'IA générative a été soumis à des restrictions quelque peu strictes, OpenAI essayant de répondre aux inquiétudes selon lesquelles il ne traitait pas bien les questions sensibles de santé mentale.

Mais le PDG Sam Altman a déclaré dans un message sur X mardi dernier que l'entreprise allait assouplir certaines de ces restrictions parce qu'elle avait "réussi à atténuer les graves problèmes de santé mentale".

M. Altman a précisé dans un message de suivi mercredi que les changements devraient donner la priorité à la sécurité des adolescents tout en "traitant les utilisateurs adultes comme des adultes".

Les outils intégrés aux modèles pour traiter les sujets sensibles et les crises de santé mentale resteront accessibles à tous les utilisateurs, mais les utilisateurs adultes auront plus de liberté pour utiliser ChatGPT sans fenêtres pop-up préventives ni détournement de modèle.

"Bien entendu, cela ne s'applique pas à tout le monde : par exemple, nous n'autoriserons toujours pas les choses qui causent du tort à autrui, et nous traiterons les utilisateurs qui traversent des crises de santé mentale très différemment de ceux qui n'en traversent pas", a déclaré M. Altman.

"Sans être paternalistes, nous essaierons d'aider les utilisateurs à atteindre leurs objectifs à long terme.

(Avertissement : Ziff Davis, la société mère , a intenté en avril une action en justice contre OpenAI, alléguant qu'elle violait les droits d'auteur de Ziff Davis dans la formation et l'exploitation de ses systèmes d'IA).

D'autres changements sont également attendus. M. Altman a indiqué que l'entreprise pourrait autoriser les contenus "érotiques" pour les utilisateurs adultes vérifiés lorsqu'elle mettra en place un système de classification par âge, ou contenu limité par l'âge, en décembre.

Le contenu mature fait partie du principe de l'entreprise qui consiste à "traiter les utilisateurs adultes comme des adultes", a déclaré M. Altman.

Dans son message, M. Altman a également annoncé une nouvelle version de ChatGPT dans les prochaines semaines, avec une personnalité qui se comporte davantage comme le modèle GPT-4o de l'entreprise.

Les utilisateurs de chatbots se sont plaints après que l'entreprise a remplacé le modèle 4o par le modèle impersonnel GPT-5 au début de l'année, affirmant que la nouvelle version n'avait pas la personnalité engageante et amusante des modèles de chatbots précédents.

"Si vous voulez que votre ChatGPT réponde d'une manière très humaine, ou qu'il utilise une tonne d'emoji, ou qu'il agisse comme un ami, ChatGPT devrait le faire (mais seulement si vous le voulez, et non pas parce que nous sommes en train d'abuser de l'usage)", a écrit Altman.

Après qu'OpenAI a été poursuivie en justice par des parents qui affirmaient que ChatGPT avait contribué au suicide de leur fils adolescent, l'entreprise a imposé une série de nouvelles restrictions et de changements, notamment des contrôles parentaux, des alertes en cas de comportement à risque et une version du chatbot adaptée aux adolescents.

Au cours de l'été, OpenAI a mis en place des rappels de pause qui encouragent les gens à arrêter de temps en temps de chatter avec le robot.

Mardi, l'entreprise a également annoncé la création d'un conseil d'experts sur l'IA et le bien-être, dont certains sont spécialisés dans la psychologie et le comportement humain.

Cette annonce intervient alors que les législateurs et les régulateurs tirent la sonnette d'alarme sur les risques que les outils d'IA font peser sur les personnes, en particulier les enfants.

Lundi, le gouverneur de Californie, Gavin Newsom, a promulgué une loi imposant de nouvelles restrictions aux chatbots compagnons de l'IA.

Le mois dernier, la Commission fédérale du commerce a lancé une enquête sur plusieurs entreprises d'IA, dont OpenAI.