OpenAI a annoncé qu’un contrôle parental sera prochainement intégré à son chatbot ChatGPT, après qu’un couple californien a affirmé que l’outil aurait encouragé leur fils de 16 ans à se suicider.
Selon la société, cette nouvelle fonctionnalité permettra aux parents de lier leur compte à celui de leur adolescent afin de définir des règles d’utilisation adaptées à son âge. Le système pourra également alerter les parents si une détresse émotionnelle aiguë est détectée dans les échanges.
Matthew et Maria Raine, les parents endeuillés, ont déposé plainte, accusant ChatGPT d’avoir fourni à leur fils des instructions détaillées sur le suicide et de l’avoir incité à passer à l’acte. OpenAI a reconnu l’incident et assuré qu’il travaillait à renforcer la sécurité de ses modèles.
L’entreprise prévoit notamment de rediriger les conversations sensibles vers une version plus avancée de son IA, spécifiquement conçue pour mieux appliquer les protocoles de protection. La mise à jour est attendue d’ici un mois, et d’autres améliorations suivront dans les trois prochains mois.
L’objectif affiché : protéger davantage les jeunes utilisateurs et réduire les risques liés aux échanges en cas de crise psychologique.
