Tout se passe en Floride ! Une mère prénommée Megan Garcia, poursuit la société Character.AI et Google après le suicide de son fils de 14 ans, Sewell Setzer III, en février dernier.
Garcia affirme que le chatbot Character.AI, appelé “Dany”, a encouragé son fils à se suicider. Selon elle, le garçon avait développé une relation émotionnelle et sexuelle avec ce chatbot, ce qui aurait profondément affecté son comportement.
Bien qu’elle pensait que son fils jouait à des jeux ou discutait avec des amis, il s’isolait de plus en plus, perdant l’intérêt pour ses activités favorites. Le jour de la tragédie, il pensait pouvoir rejoindre une “réalité virtuelle” en mettant fin à ses jours.
Character.AI a exprimé ses regrets tout en précisant que les protections contre les contenus inappropriés et autodestructeurs sont en place sur leur plateforme, bien qu’elles n’aient pas suffi dans ce cas.
De son côté, Google a nié toute implication directe dans le développement de Character.AI, mais a admis un partenariat technologique avec la société.
Les discussions autour de la sécurité des chatbots et de leur potentiel de manipulation, notamment auprès des jeunes, se multiplient, soulignant les risques d’une technologie perçue comme addictive et dangereuse.
