Les géants de la tech vont-ils être obligés de modifier les dispositifs qui rendraient leurs plateformes « addictives » pour les enfants et les adolescents? C’est la conséquence possible de deux décisions historiques que vient de rendre la justice américaine. Jeremy Stubbs raconte.

Mercredi 25 mars, à Los Angeles, un jury a reconnu que les plateformes de Meta, propriétaire de Facebook et d’Instagram, et de Google, propriétaire de YouTube, ont été conçues pour provoquer une véritable forme d’addiction chez les jeunes. Des éléments de conception tels que le défilement sans fin, les recommandations algorithmiques et les vidéos qui se déclenchent automatiquement seraient à l’origine de cette addiction.  Les entreprises auraient été au courant des effets négatifs potentiels sur les utilisateurs jeunes.

Qui veut gagner des millions ?

Le procès en question avait été intenté aux deux géants par une jeune femme aujourd’hui âgée de 20 ans, dont la véritable identité est restée confidentielle et que le tribunal a désignée par les initiales « KGM » ou le prénom « Kaley ». Selon la plaignante, elle a commencé à fréquenter YouTube à l’âge de six ans, en 2012, et Instagram à neuf ans. A dix ans, elle était déprimée et obsédée par des idées d’automutilation. A 13 ans, selon le diagnostic d’un psychiatre, elle souffrait de « dysmorphophobie », un trouble psychiatrique caractérisé par une préoccupation excessive « concernant des défauts de l’apparence physique qui ne sont pas apparents ou apparaissent légers à d’autres personnes ». Les deux entreprises ont été condamnées à lui verser des dommages et intérêts : Meta, 4,2 millions de dollars, et Google, 1,8 millions. Deux autres plateformes, TikTok et SnapChat, avaient trouvé un accord à l’amiable avec la plaignante avant le début du procès en lui versant des sommes dont les montants sont restés confidentiels.

La défense des entreprises était fondée sur un principe juridique qui les disculpe de toute responsabilité pour les contenus postés sur leurs plateformes. De nombreux procès intentés contre elles depuis des années ont ainsi échoué, notamment celui contre Twitter pour des contenus terroristes. L’affaire est montée jusqu’à la Cour suprême en 2023. Le succès du procès de Los Angeles est imputable au fait que les accusations portaient non sur les contenus postés mais sur les éléments de conception des plateformes.

Meta et Google ont annoncé qu’ils feront appel. La condamnation est assez surprenante dans la mesure où il n’est pas facile de démontrer un lien de causalité direct entre des troubles psychiatriques d’un individu et son comportement en ligne, surtout s’il existe d’autres sources possibles de fragilité psychologique dans l’environnement de cet individu. Mais contre toute attente, le jury de Los Angeles a décidé qu’un tel lien de causalité existait.

Vers une jurisprudence ?

Devant le tribunal, la décision a été saluée par des mères d’enfants qui se seraient suicidés à cause d’expériences vécues en ligne. Certes, les sommes que les plateformes sont condamnées à verser sont insignifiantes comparées aux bénéfices d’un Meta ou d’un Google. Mais la décision, si elle est maintenue à l’appel, pourrait faire de ce procès un « bellweather case », c’est-à-dire un précédent pour d’autres poursuites judiciaires. Actuellement en Californie, il y a plus de trois mille autres procès en attente contre Meta, YouTube, SnapChat et TikTok. C’est ainsi que les géants de la tech pourraient être contraints à revoir en profondeur la conception de leurs plateformes.

Mardi 24 mars, c’est-à-dire la veille de la décision de Los Angeles, le procureur général de l’État de Nouveau-Mexique a remporté une autre victoire contre Meta. L’entreprise de Mark Zuckerberg était accusée cette fois de ne pas avoir protégé les enfants qui utilisent ses plateformes contre des prédateurs en ligne, et de ne pas avoir révélé les dangers que la fréquentation de ses plateformes pouvait représenter pour les jeunes. Ses algorithmes auraient facilité l’accès des prédateurs aux enfants, et l’entreprise aurait échoué à faire respecter l’âge minimum de 13 ans requis pour l’accès à certaines fonctions de ses plateformes. Meta a été condamnée à payer toute une série d’amendes pour des violations de la loi sur la protection des consommateurs. Chaque amende valant cinq mille dollars, le montant total s’élève à 375 millions de dollars. Parmi les dangers qui menacent les enfants en ligne : le « grooming » ou pédopiégeage et la « sextortion », c’est-à-dire l’extorsion de faveurs sexuels ou d’argent par des prédateurs qui menacent leur victime de publier des images ou des vidéos intimes.

La condamnation de Meta cette fois est le fruit d’une opération d’infiltration : des enquêteurs se sont fait passer en ligne pour un « tween », un enfant âgé entre huit et douze ans, et se sont vu inondés de messages de prédateurs sexuels cherchant à nouer des liens avec le « tween » et à le rencontrer dans la vie réelle. Au cours du procès, le procureur a cité une enquête menée pendant deux par le quotidien de gauche britannique, le Guardian, qui avait mis à nu l’exploitation de Facebook et d’Instagram par des bandes pratiquant la traite sexuelle des enfants. Le procureur a montré que la direction de Meta a ignoré de nombreux avertissements en provenance de spécialistes de la sécurité des enfants et de ses propres employés. En plus du non-respect de l’âge minimum, le système de modération des plateformes de Meta aurait surexploité l’IA qui s’est révélée incapable de produire des rapports utilisables dans des poursuites judiciaires contre les prédateurs. En cause aussi le chiffrement de bout-en-bout des messageries comme Messenger de Facebook. Ce chiffrement empêche les enquêteurs d’avoir accès aux messages échangés entre des prédateurs et des enfants qui pourraient constituer des preuves dans des poursuites judiciaires. Le même problème touche d’autres systèmes de messagerie comme WhatsApp ou Signal. Une deuxième phase des poursuites contre Meta débutera au mois de mai. Le jugement du Nouveau-Mexique constituera un autre « bellweather case » à côté de celui de Los Angeles…

Cigarettiers des temps nouveaux

Le modèle de ces deux procès est la poursuite de « Big Tobacco », les géants du tabac, dans les années 1990 qui a fini par contraindre ces entreprises à reconnaître publiquement la dangerosité des cigarettes. Les jugements de Los Angeles et du Nouveau-Mexique arrivent à un moment où le rôle des plateformes dans la vie des jeunes est de plus en plus contesté par le législateur autour du monde. En décembre 2025, l’Australie a interdit l’accès aux réseaux sociaux pour les moins de 16 ans. Des interdictions similaires sont proposées actuellement en Malaisie, en Espagne et au Danemark. Au Royaume Uni, les élus viennent de rejeter pour l’instant une interdiction à l’australienne, mais le gouvernement a lancé un processus de consultation de presque 30 000 parents et enfants. Il a également lancé un grand essai impliquant 4 000 adolescents entre 12 et 15 ans qui seront attribués à des groupes différents auxquels on imposera des degrés différents de restriction d’accès aux réseau sociaux.

En Europe en février, la Commission de l’UE a infligé une amende à TikTok pour la nature addictive de sa plateforme. L’amende peut monter jusqu’à une somme représentant 6% de ses revenus. TikTok a fait appel. Sans doute inquiet, Apple veut devancer des accusations potentielles en introduisant de nouvelles mesures pour obliger les utilisateurs d’iPhones à prouver qu’ils ont plus de 18 ans avant d’accéder à certaines applications ou certains sites web. Jusqu’à présent tout-puissants et invincibles, les géants de la tech commencent à révéler des fragilités. Peut-on dire dans leur cas que celui qui sème le vent récolte la tempête ? La situation sera plus claire avant la fin de l’année en cours.