OpenAI prévoit d'ajouter le contrôle parental à ChatGPT après une plainte concernant la mort d'un adolescent










Les parents d'un adolescent qui s'est suicidé en avril ont intenté une action en justice contre OpenAI, qualifiant le chatbot de "coach de suicide".

OpenAI a annoncé son intention de mettre en place des contrôles parentaux et des mesures de sécurité renforcées pour ChatGPT après que des parents ont intenté une action en justice cette semaine devant le tribunal de l'État de Californie, alléguant que le populaire chatbot d'IA a contribué au suicide de leur fils de 16 ans au début de l'année.

L'entreprise a déclaré qu'elle se sentait "profondément responsable d'aider ceux qui en ont le plus besoin" et qu'elle s'efforçait de mieux répondre aux situations impliquant des utilisateurs de chatbot susceptibles de traverser des crises de santé mentale et d'avoir des idées suicidaires.

"Nous introduirons bientôt des contrôles parentaux qui donneront aux parents des options pour mieux comprendre et façonner la façon dont leurs adolescents utilisent ChatGPT", a déclaré OpenAI dans un billet de blog.

Nous envisageons également de permettre aux adolescents (avec la supervision de leurs parents) de désigner un contact d'urgence de confiance.

Ainsi, dans les moments de détresse aiguë, ChatGPT peut faire plus qu'indiquer des ressources : il peut aider à connecter les adolescents directement à quelqu'un qui peut intervenir".

OpenAI n'a pas encore répondu à une demande de commentaire. (Disclaimer: Ziff Davis, la société mère de CNET, a intenté en avril une action en justice contre OpenAI, alléguant qu'elle violait les droits d'auteur de Ziff Davis dans la formation et l'exploitation de ses systèmes d'intelligence artificielle).

Parmi les fonctions de sécurité testées par OpenAI, l'une d'entre elles permettrait aux utilisateurs de désigner une personne à contacter en cas d'urgence, qui pourrait être jointe par "messages ou appels en un clic" au sein de la plateforme.

Une autre fonctionnalité est une option opt-in qui permettrait au chatbot de contacter directement ces personnes. OpenAI n'a pas fourni de calendrier précis pour ces changements.

Le procès, intenté par les parents d'Adam Raine, 16 ans, affirme que ChatGPT a fourni à leur fils des informations sur les méthodes de suicide, a validé ses pensées suicidaires et lui a proposé de l'aider à rédiger une lettre de suicide cinq jours avant sa mort, en avril.

La plainte désigne OpenAI et le PDG Sam Altman comme défendeurs et demande des dommages et intérêts non spécifiés.

"Cette tragédie n'était pas un pépin ou un cas limite imprévu - c'était le résultat prévisible de choix de conception délibérés", indique la plainte.

OpenAI a lancé son dernier modèle ("GPT-4o") avec des caractéristiques intentionnellement conçues pour favoriser la dépendance psychologique.

Cette affaire représente l'un des premiers grands défis juridiques lancés aux entreprises d'IA en matière de modération de contenu et de sécurité des utilisateurs, et pourrait créer un précédent sur la manière dont les grands modèles de langage tels que ChatGPT, Gemini et Claude gèrent les interactions sensibles avec les personnes à risque.

Ces outils ont été critiqués pour la manière dont ils interagissent avec les utilisateurs vulnérables, en particulier les jeunes.

L'American Psychological Association a conseillé aux parents de surveiller l'utilisation que font leurs enfants des chatbots et des personnages d'IA.

Si vous êtes en danger immédiat ou si vous craignez pour la sécurité d’une personne de votre entourage, appelez le 15 (ou le 112) ou rendez-vous directement aux urgences.

Expliquez qu’il s’agit d’une urgence psychiatrique et demandez à être mis en relation avec un professionnel formé à ce type de situation.

Si vous traversez une période difficile, que vous avez des idées suicidaires ou des pensées très négatives, sachez que des ressources existent pour vous aider.

Vous pouvez appeler le 3114, le numéro national de prévention du suicide, disponible 24h/24 et 7j/7, gratuit et confidentiel.