Le nouveau contrôle parental de ChatGPT émet des alertes sur les risques de sécurité des enfants










Les parents peuvent régler les paramètres pour limiter les activités de leurs enfants, mais ils n'auront pas accès à leurs conversations avec ChatGPT.

OpenAI donne aux parents plus de contrôle sur la façon dont leurs enfants utilisent ChatGPT.

Les nouveaux contrôles parentaux arrivent à un moment critique, alors que de nombreuses familles, écoles et groupes de défense expriment leurs inquiétudes quant au rôle potentiellement dangereux que les chatbots d'IA peuvent jouer dans le développement des adolescents et des enfants.

Les parents devront lier leur propre compte ChatGPT à celui de leur enfant pour accéder aux nouvelles fonctionnalités.

OpenAI précise toutefois que ces fonctionnalités ne donnent pas aux parents l'accès aux conversations de leur enfant avec ChatGPT et que, dans les cas où l'entreprise identifie des "risques de sécurité graves", un parent sera alerté "uniquement avec les informations nécessaires pour assurer la sécurité de son adolescent".

Il s'agit d'un "système de notification de sécurité inédit pour alerter les parents si leur adolescent risque de s'automutiler", a déclaré Lauren Haber Jonas, responsable du bien-être des jeunes chez OpenAI, dans un message publié sur LinkedIn.

Une fois les comptes liés, les parents peuvent définir des heures de silence et des périodes pendant lesquelles les enfants ne pourront pas utiliser ChatGPT, ainsi que désactiver la génération d'images et le mode vocal.

D'un point de vue technique, les parents peuvent également exclure leurs enfants de la formation au contenu et choisir que ChatGPT ne sauvegarde pas ou ne se souvienne pas des chats précédents de leurs enfants.

Les parents peuvent également choisir de réduire le contenu sensible, ce qui permet d'imposer des restrictions supplémentaires sur des éléments tels que le contenu graphique.

Les adolescents peuvent dissocier leur compte de celui d'un parent, mais ce dernier en sera informé.

La société mère de ChatGPT a annoncé le mois dernier qu'elle introduirait davantage de contrôles parentaux à la suite d'un procès intenté contre elle par une famille californienne.

La famille affirme que le chatbot d'IA est responsable du suicide de leur fils de 16 ans au début de l'année, qualifiant ChatGPT de "coach de suicide".

Un nombre croissant d'utilisateurs d'IA font jouer à leurs chatbots le rôle de thérapeutes ou de confidents.

Les thérapeutes et les experts en santé mentale ont exprimé des inquiétudes à ce sujet, affirmant que l'IA comme ChatGPT n'est pas formée pour évaluer, signaler et intervenir avec précision lorsqu'elle est confrontée à un langage ou à des comportements qui constituent un signal d'alarme.

(Avertissement: Ziff Davis, la société mère , a intenté en avril une action en justice contre OpenAI, alléguant qu'elle violait les droits d'auteur de Ziff Davis dans la formation et l'exploitation de ses systèmes d'intelligence artificielle).

Si vous avez l'impression que vous ou quelqu'un que vous connaissez êtes en danger immédiat, appelez le 112 (ou la ligne d'urgence locale de votre pays) ou rendez-vous dans un service d'urgence pour obtenir une aide immédiate.

Expliquez qu'il s'agit d'une urgence psychiatrique et demandez une personne formée à ce type de situation.

Si vous êtes en proie à des pensées négatives ou à des sentiments suicidaires, des ressources sont disponibles pour vous aider.