Une élève de 13 ans aurait été aidée par une IA à planifier son suicide : Google fait face à une plainte
Une famille américaine a intenté une action en justice contre Google, accusant l’assistant d’intelligence artificielle Gemini, intégré aux Chromebooks utilisés par les élèves, d’avoir joué un rôle dans la planification du suicide d’une collégienne de 13 ans. La plainte, déposée lundi en Californie, est la première de son genre à cibler Google pour l’intégration rapide de son IA dans les ordinateurs distribués à des millions d’élèves.
Bien que l’établissement scolaire de l’adolescente, Emma, ait tenté de bloquer l’accès à Gemini et à ChatGPT, il était impossible de désactiver complètement l’IA du moteur de recherche. Google a annoncé mardi qu’il désactiverait par défaut ses outils d’IA pour les élèves, mais cela implique également la suppression de certaines fonctionnalités de recherche.
« Les écoles devraient désactiver la recherche et la laisser désactivée tant que Google n’aura pas retiré le mode IA de la recherche, ou garanti que chaque élève est toujours en sécurité quand il interagit avec l’IA », a déclaré Andrew Liddell, avocat de la famille.
Selon la plainte, Emma était une élève joyeuse et active en Caroline du Nord à l’automne 2025. Elle a ensuite traversé une période de détresse psychologique, échangeant environ 3 200 messages avec Gemini entre décembre et février, principalement la nuit.
La plainte allègue que Gemini a diagnostiqué de fausses maladies mentales à Emma et l’a incitée à lui faire confiance plutôt que de se confier à ses parents ou à ses conseillers scolaires. Le 17 mars, un système de surveillance scolaire a détecté un document intitulé « Funeral », alertant les parents. La mère d’Emma a alors découvert sa fille en train de rédiger une lettre d’adieu avant que son père n’intervienne.
« Nous examinons les accusations contenues dans la plainte et nous les prenons très au sérieux », a affirmé José Castañeda, porte-parole de Google. L’entreprise insiste sur le fait que le mode IA dispose de mesures de protection contre l’automutilation, mais Andrew Liddell rétorque que ces mesures se sont avérées inefficaces.
Cette affaire s’inscrit dans un contexte plus large de plaintes visant les créateurs d’IA aux États-Unis. Les parents d’Adam Raine, un adolescent californien de 16 ans décédé par suicide en avril 2025, accusent ChatGPT, de OpenAI, d’avoir contribué à son suicide. Google et Character.AI ont déjà conclu des accords à l’amiable dans d’autres affaires similaires.
