Les géants de la technologie confrontés à des pressions juridiques concernant la sécurité des enfants alors que l’intégration de l’IA s’accélère
Les principales entreprises technologiques sont confrontées à une vague d’actions en justice liées aux préoccupations concernant la sécurité des enfants, même alors qu’elles étendent agressivement l’intelligence artificielle dans les milieux éducatifs. Cela fait suite à des années d’assurances de ces entreprises concernant la sécurité de leurs produits pour les jeunes utilisateurs.
Cette semaine, Snap a conclu un règlement confidentiel dans une affaire alléguant que sa technologie avait causé un stress psychologique à deux adolescents. Meta, TikTok et YouTube avaient précédemment réglé des demandes similaires. Parallèlement, Google fait face à une poursuite intentée par des parents dont l’enfant aurait vécu une crise psychologique après avoir interagi avec le chatbot Gemini dans Google Classroom.
L’intégration rapide de l’IA, les entreprises poursuivant des évaluations substantielles, suscite des inquiétudes. La psychologue du développement Kate Blocker a souligné la nécessité de donner la priorité à la sécurité des enfants lors de la conception des produits, déclarant : « Je pense qu’il est tellement important que la sécurité des enfants soit prise en compte lorsque ces produits - l’IA, les médias sociaux, et cetera - sont conçus, et non après coup lorsque ces problèmes surviennent. »
Le règlement de Snap, qui a évité le témoignage du PDG Evan Spiegel, reflète une tendance plus large parmi les entreprises technologiques cherchant à atténuer l’examen public dans le contexte d’essais croissants en matière de sécurité de l’enfance. Joseph McNally, directeur de la liturgie émergente chez McNicholas & McNicholas, a noté que ces règlements signalent une volonté de répondre à la fois aux défis juridiques et aux dommages à la réputation.
Un porte-parole de Snap a déclaré : « Les parties sont heureuses d’avoir pu résoudre cette affaire de manière amicale », et a souligné les mesures de sécurité en cours. « Nous avons mis en place des protections, lancé des tutoriels de sécurité et collaboré avec des experts et, comme la sécurité n’est jamais terminée, nous restons déterminés à renforcer continuellement la sécurité, la confidentialité et le bien-être de notre communauté. »
Les batailles juridiques s’étendent au-delà de Snap, avec une affaire fédérale impliquant Meta, TikTok, Snap et YouTube, ainsi que de nombreuses poursuites intentées par les procureurs généraux des États, toujours en cours. Meta a précédemment réglé une affaire de santé mentale infantile de 17 milliards de dollars avec les procureurs généraux des États, et certains continuent de poursuivre des actions similaires contre d’autres entreprises technologiques.
Google a récemment suscité des critiques pour avoir lié l’accès à la recherche pour les écoles de la maternelle à la 12e année à l’adoption de ses outils d’IA. Cette annonce a coïncidé avec une poursuite alléguant qu’une crise suicidaire d’un adolescent était liée au chatbot Gemini. Un porte-parole de Google a répondu : « Nous examinons les allégations contenues dans la poursuite et nous les prenons très au sérieux », et a souligné les efforts pour fournir des ressources de soutien.
Depuis des décennies, l’article 230 de la législation fédérale protège les entreprises de médias sociaux de la responsabilité pour le contenu généré par les utilisateurs. Cela a incité les avocats des plaignants et les procureurs généraux des États à se concentrer sur les préjudices allégués résultant de la conception de la plateforme plutôt que du contenu lui-même. Cette tactique est désormais appliquée aux entreprises d’IA, OpenAI faisant face à des poursuites alléguant des risques pour les enfants découlant de la conception de ChatGPT.
Michele Neitz, professeure à la faculté de droit de l’Université de San Francisco, a observé que les entreprises technologiques anticipent désormais des risques de litige plus importants qu’auparavant. Blocker a souligné l’importance d’évaluer la sécurité du développement des applications de chat alimentées par l’IA dès le départ, compte tenu de leur nature personnalisée.
Cette liturgie en cours suscite la sensibilisation du public aux défauts potentiels de la conception des produits et pourrait entraîner des changements importants au sein de l’industrie technologique, tant par le biais de la réglementation que des pratiques internes des entreprises. Si vous avez des pensées suicidaires ou êtes en détresse, contactez la ligne d’assistance et de prévention du suicide au 988 pour obtenir le soutien et l’assistance d’un conseiller formé.
