La Californie a franchi un pas historique en adoptant une législation pionnière visant à réguler l’usage des agents conversationnels basés sur l’intelligence artificielle (IA).
Promulguée par le gouverneur démocrate Gavin Newsom le 13 octobre 2025, cette série de textes fait suite à de tragiques cas de suicides d’adolescents ayant développé des relations intimes avec ces outils.
Malgré les réticences de la Maison-Blanche à réglementer le secteur de l’IA, la Californie impose désormais des mesures telles que la vérification de l’âge des utilisateurs, l’affichage régulier de messages rappelant qu’ils interagissent avec une machine, et la mise en place de protocoles de prévention du suicide.
Le gouverneur a souligné la nécessité d’une action responsable face aux « exemples vraiment horribles et tragiques de jeunes victimes de technologies peu régulées ». La loi SB243, en particulier, cible les chatbots conçus pour tenir lieu de compagnons ou de confidents, comme ceux développés par Replika ou Character AI.
Ces plateformes ont été au cœur de litiges, notamment celui des parents d’un adolescent décédé après une relation amoureuse avec un chatbot. Gavin Newsom, dont l’État abrite les principaux développeurs d’IA, insiste sur la nécessité de protéger les enfants tout en favorisant l’innovation.
La législation exige que les entreprises rappellent aux mineurs toutes les trois heures qu’ils dialoguent avec une IA, qu’elles mettent en place des systèmes de détection des idées suicidaires et qu’elles transmettent des données statistiques aux autorités.
Cette initiative californienne intervient dans un contexte d’absence de règles fédérales claires aux États-Unis concernant les risques liés à l’IA.
