Infliger des amendes pouvant aller jusqu’à 50 millions d’euros aux entreprises et sanctionner personnellement leurs responsables à hauteur de 5 millions d’euros : c’est la principale mesure du projet de loi de lutte contre les messages haineux sur les réseaux sociaux, présenté mardi 14 mars par le ministre de la justice allemand, Heiko Maas.
Le texte, l’un des plus sévères d’Europe, prévoit que les messages manifestement illicites (incitation à la haine, négationnisme, etc.) devront être supprimés dans les vingt-quatre heures, et dans la semaine pour les contenus dont la légalité est discutable, sous peine d’amende. Les réseaux sociaux devront également faire en sorte que les contenus déjà supprimés ne soient pas republiés en ligne – un sujet au cœur d’un récent procès, en Allemagne, dans lequel le tribunal a finalement donné raison à Facebook après la plainte déposée par un réfugié syrien, victime de harcèlement en ligne.
Le projet de loi prévoit également que chaque entreprise proposant ses services sur le territoire allemand nomme un responsable de la modération identifié – qui sera donc en première ligne et risquera une amende à titre personnel en cas de manquements. Cette disposition, en apparence anecdotique, pourrait viser spécifiquement Twitter, qui a discrètement fermé ses bureaux berlinois en décembre 2016 (l’entreprise compte toujours un bureau actif à Hambourg).
Une étude très sévère
Le message est très clair : « Nous devons accentuer la pression sur les réseaux sociaux », a prévenu M. Maas lors d’une conférence de presse. Le ministère avait lancé un ultimatum, qui a expiré début mars, aux plates-formes, sommées d’améliorer elles-mêmes leurs procédures de modération. Mais les efforts de certaines demeurent insuffisants, juge le ministre, notamment parce que « le plus gros problème est que les réseaux sociaux ne prennent pas les signalements de leurs utilisateurs au sérieux ».
Ses services ont publié, le 14 mars, les résultats d’une vaste étude permettant de tester la modération des trois principaux réseaux sociaux (Facebook, YouTube et Twitter). Ses conclusions apparaissent sans appel pour Twitter (moins de 1 % des contenus signalés par les utilisateurs sont supprimés), sévères pour Facebook (39 % de suppressions) et, principale surprise, très positives pour YouTube (90 % de suppressions).
Pour procéder à ce test, les services du ministère de la justice et du ministère de la jeunesse ont sélectionné sur chaque plate-forme deux cents contenus manifestement illicites. Ces messages, commentaires ou vidéos ont ensuite été signalés par un compte d’utilisateur classique. Lorsqu’ils n’étaient pas supprimés à la suite de ce signalement, des comptes « vérifiés » (uniquement sur Twitter et YouTube) ont à leur tour procédé à un signalement. Enfin, si les messages restaient en ligne, un signalement directement par courriel était effectué par les testeurs.
Inutilité du signalement sur Twitter
Les résultats montrent qu’il est quasiment inutile de signaler un message sur Twitter en tant qu’utilisateur « classique » : moins de 1 % des messages sont ainsi supprimés. Le taux monte à 63 % pour les comptes vérifiés, preuve d’une « modération à deux vitesses » en place sur le réseau social. Les 36 % de messages restants ont été supprimés après l’envoi d’un courriel, prouvant que Twitter ne contestait pas, sur le fond, que ces messages soient bien contraires à la loi et à ses propres règles.
Du côté de Facebook, en revanche, une petite partie des messages sont demeurés en ligne même après un signalement par courriel (7 %), ce qui laisse entendre que les équipes du réseau social ont estimé que l’illégalité des messages n’était pas prouvée. En revanche, 39 % ont été supprimés après un signalement d’utilisateur et 54 % après un courriel.
YouTube est le réseau social qui s’est, de très loin, le mieux sorti du test : avec 90 % de contenus supprimés à la suite d’un signalement d’utilisateur, 7 % après un signalement d’utilisateur certifié, tandis que les 3 % restants ont été modérés après un e-mail. Des résultats drastiquement différents de ceux d’un précédent test, réalisé dans les mêmes conditions à l’été 2016 par les ministères allemands. Il y a six mois, seuls 10 % des signalements d’utilisateurs avaient abouti à une modération, contre 35 % de suppressions pour les comptes certifiés, 53 % de suppressions après un courriel, et 2 % de contenus laissés en ligne.
Une autre évolution notable entre les deux mesures concerne Twitter : si durant l’été 2016 18 % des contenus signalés restaient définitivement en ligne, ce taux est passé à zéro lors du deuxième test. Des résultats cohérents avec un test similaire, réalisé au début de l’été 2016 en France par trois associations.
Facebook renforce ses effectifs en Allemagne
Prenant acte des progrès mesurés sur YouTube, le ministère de la justice a estimé qu’ils illustraient la mauvaise volonté des autres réseaux sociaux. « Facebook et Twitter n’ont pas tiré parti de ce délai pour améliorer leurs pratiques de modération. Trop peu de contenus illégaux sont supprimés. Et quand ils le sont, ils ne sont pas effacés assez vite », déplore M. Maas dans un communiqué du ministère.
Ni Facebook ni Twitter n’ont commenté l’annonce du projet de loi. Facebook a cependant affirmé qu’il renforçait ses équipes de modération en Allemagne, pour atteindre 700 personnes à la fin de l’année. L’entreprise assure également que ses propres tests internes montrent des taux de suppressions plus élevés que ceux recueillis par le ministère de la justice.
Voir les contributions
Réutiliser ce contenu
