Au Royaume-Uni, le gouvernement rêve tout haut d’un Internet ultra-sécuritaire

Le rapport "Online Harms", qui annonce de futures règles de modération en ligne, sacrifie la liberté sur l'autel de la sécurité.

La réputation du Royaume-Uni en termes de surveillance et de contrôle des libertés publiques n’est plus à faire. Au pays d’Orwell et de la CCTV, les télécommunications sont déjà strictement encadrées par le texte de loi considéré comme le plus restrictif du continent, l’Investigatory Powers Bill, signé en novembre 2016 et épinglé en septembre 2018 par la Cour européenne des droits de l’homme (CEDH). Cette condamnation récente ne semble pas poser de problème au gouvernement britannique, qui a dévoilé le 8 avril un livre blanc de 102 pages intitulé Online Harms ("Dangers en ligne" en VF), consultable en ligne.

En instaurant les premières règles de sécurité en ligne au monde, l’objectif du gouvernement est de fixer le cadre légal et politique du futur Internet britannique, qui deviendrait "l’endroit le plus sûr au monde où naviguer en ligne". Contrairement à la France, où l’exercice du "livre blanc" ne débouche pas nécessairement sur des réformes, le Royaume-Uni envisage bel et bien de mettre en place les dispositifs proposés par le texte, comme l’a annoncé Theresa May le 9 avril via Twitter. Entre-temps, les propositions seront soumises à une consultation populaire en ligne, qui durera jusqu’au 1er juin.

Publicité

Tout l’Internet public est concerné

Publicité

Rédigé par le ministère du Numérique, de la Culture, des Médias et du Sport (DCMS) et le ministère de l’Intérieur, le document détaille une stratégie de régulation des contenus des plateformes en ligne et des réseaux sociaux. Première mesure du texte : imposer aux entreprises du Web un "devoir de protection" ("duty of care", en VO), qui les rendra (enfin) directement responsables du contenu publié sur leurs plateformes.

Un séisme légal dans le monde de la tech, qui parvenait jusque-là tant bien que mal à éviter les assauts des régulateurs. Conséquence directe de ce changement de régime : les géants de la tech seront invités à prendre "des mesures raisonnables" pour lutter contre le contenu illégal et nuisible, certaines catégories étant plus sensibles que d’autres.

Si les contenus terroristes et ceux impliquant l’exploitation d’enfants, comme la pédopornographie, sont identifiés comme prioritaires, les strictes régulations proposées concernent de nombreux autres types de contenus : incitation à la violence, intimidation, contenu violent, incitation au suicide, désinformation, harcèlement en ligne, "incitation aux comportements illégaux" ou encore "matériau inapproprié" accessible aux enfants, écrit TechCrunch. La liste est aussi longue que large.

Publicité

Contrairement aux précédents textes de loi votés par le Parlement britannique ces dernières années au sujet de l’activité en ligne (la fameuse loi de surveillance de 2016, donc, mais aussi l’interdiction de la pornographie en ligne aux mineurs, votée en 2017 et difficile à mettre en place techniquement), ce futur règlement concerne toutes les entités du Web "qui fournissent des services ou des outils qui autorisent, permettent ou facilitent le partage et la découverte de contenu généré par des utilisateurs et l’interaction mutuelle en ligne".

Réseaux sociaux, évidemment, mais aussi hébergeur des contenus (Flickr, YouTube), start-up diverses et variées, forums, moteurs de recherche et jusqu’aux applications de messagerie, comme WhatsApp ou Telegram, qui permettent d’échanger du contenu entre utilisateurs : là encore, l’éventail de services concernés est extrêmement large.

Un régulateur pour les gouverner tous… et dans la coercition les lier

(© Flickr/designwallah)

Publicité

Pour superviser cette énorme entreprise de régulation des entreprises de la tech, le texte propose en priorité la création d’une nouvelle structure : une "super-autorité" unique et indépendante pour remplacer les sept ou huit agences de régulation actuellement en place. En centralisant les pouvoirs de régulation, le Royaume-Uni souhaite ériger une structure suffisamment grande pour regarder les titans de la Silicon Valley dans les yeux.

À l’heure actuelle, précise TechCrunch, les candidats se nomment Ofcom (le régulateur actuel des télécoms) et ICO (le régulateur de la vie privée en ligne, équivalent britannique de la Cnil), même si une gouvernance hybride n’est pas à exclure. Le futur régulateur sera financé, en partie du moins, par l’industrie du Web, via une future taxe que le gouvernement n’a pas précisée. Une fois l’identité de la structure dévoilée, a précisé sans ambiguïté le secrétaire d’État au numérique Jeremy Wright, il sera temps de "montrer les dents".

Un arsenal légal terrifiant

Une fois créé, cet organisme de surveillance sera donc doté de superpouvoirs impressionnants, à en croire le texte. À la manière du règlement général sur la protection des données (RGPD), le régulateur pourra infliger des "amendes substantielles", allant jusqu’à 4 % du chiffre d’affaires annuel mondial de l’entreprise fautive. La précision est capitale : dans le cas de Facebook, avec 55 milliards de dollars de chiffres d’affaires en 2018, ça vous situe l’amende à 2,2 milliards.

Dans le cas de plateformes récidivistes que les amendes ne suffiraient pas à faire plier, le texte prévoit que le régulateur pourra prendre la décision d'"imposer la responsabilité légale à des membres individuels des cadres supérieurs" – en clair, sous cette nouvelle législation, il ne serait pas impossible de voir un PDG des Gafam comparaître devant un tribunal pour diffusion de contenu terroriste, par exemple.

La nouvelle autorité pourra également décider de bloquer l’accès aux plateformes concernées, en l’ordonnant directement aux fournisseurs d’accès à Internet (FAI) si les mesures de modération, censées suivre un patron de "sécurité par design" imaginé par les autorités britanniques, ne lui semblent pas suffisantes. En d’autres termes, l’arme nucléaire.

Enfin, le nouveau régulateur pourra exiger de toutes les entreprises concernées des rapports de transparence annuels, comme le font déjà entre autres Google et Facebook pour détailler le nombre de contenus modérés. "L’ère de l’autorégulation des entreprises en ligne est révolue. Les mesures volontaires prises par le secteur pour lutter contre les contenus nuisibles sur Internet n’ont pas été appliquées de manière cohérente ou ne sont pas allées assez loin", a martelé le secrétaire d’État au Numérique le 8 avril. Le Royaume-Uni a donc décidé de sévir, pour de bon.

Régulation, liberté d’expression : l’impossible équilibre ?

Comme tout débat tournant autour de la modération des contenus du Web, rappelle The Register dans une brillante analyse des enjeux, la discussion s’est vite résumée à un concours de hurlements entre les tenants d’un Internet tout sécuritaire et les défenseurs de la liberté d’expression en ligne.

Le débat, coincé entre le Charybde de la censure et le Scylla de la dérégulation, est extrêmement épineux. On peut se réjouir de voir qu’un pays européen – autre que l’Allemagne, qui mène également des efforts admirables dans ce sens — ait décidé de prendre le taureau des Gafam par les cornes et de sortir de ce consensus mou qui permet depuis trop longtemps à ces géants de s’autoréguler sans que personne (ou presque) n’y trouve à redire.

De fait, ces entreprises ne sont ni ingouvernables ni insaisissables, malgré leur implantation transnationale, rappelle le MIT Technology Review. Il faut mettre fin à ce statu quo dangereux et retourner la hiérarchie des pouvoirs entre autorités publiques et multinationales, cela ne fait aucun doute – et nous l’appelons de nos vœux depuis plusieurs années déjà.

Les plateformes doivent assumer leur rôle de modérateur… Mais comment, et surtout à quel prix ? La liberté individuelle en ligne doit-elle faire office d’agneau sacrificiel sur l’autel d’un Internet "sain" ? Pour le gouvernement britannique et son tropisme sécuritaire, la fin justifie visiblement les moyens.

Le ministère de la Vérité, version 2019

(© Danjaq/EON Productions)

Dans le camp d’en face, en revanche, on s’alarme des conséquences sur la liberté d’expression en ligne. La formulation vague des contenus ciblés, la concentration des pouvoirs dans un seul organisme de régulation et la difficulté technique d’implémenter les systèmes de modération souhaités par le gouvernement britannique font tiquer à la fois des think tanks, éditorialistes, ONG et… géants de la tech, qui se retrouvent alliés pour la seconde fois après la bataille contre la directive européenne sur le droit d’auteur. Des plateformes qui, comme le rappelle Wired, risquent de répondre aux nouvelles règles en jouant l’excès de prudence et en censurant énormément de contenu a priori, pour éviter les sanctions.

De fait, la méthode du gouvernement britannique fait peur en ce qu’elle prépare le terrain pour une prise de contrôle gouvernementale sur l’Internet du pays, à la manière de la Russie ou de la Chine – qui, au nom de la "sécurité", ont chacune à leur manière imposé une censure active des contenus aux plateformes et banni celles qui refusaient de s’y plier. Dans sa fermeté affichée, la réponse britannique semble donc, à tout le moins, disproportionnée.

À la lecture du livre blanc, plusieurs questions centrales émergent : comment empêcher cette entité régulatrice de devenir une sorte de "ministère de la Vérité" tout-puissant, tout en restant suffisamment autonome pour lutter efficacement contre les Gafam ? Une fois ce cadre légal mis en place, qui est concrètement en charge de décider qu’un contenu est "nuisible" ? Nuisible pour qui, dans quelle mesure, pour quelles raisons ?

À partir de combien de signalements jugera-t-on qu’un contenu est offensant ? Les conversations privées devront-elles également être expurgées de contenu litigieux, comme sur la messagerie chinoise WeChat ? À partir de quel biais idéologique jugera-t-on qu’un titre de presse d’opposition, par exemple, verse dans la désinformation ? Quid des sections "commentaires" des journaux en ligne ? Dans ce cadre général, la version gouvernementale fera-t-elle office de boussole de la vérité ?

Le futur de la gouvernance européenne en la matière ?

D’autre part, sachant que les meilleurs systèmes de censure automatique – déjà mis en place par Facebook, Google ou YouTube — avoisinent les 99 % de fiabilité pour les contenus terroristes et que cela signifie quand même que des dizaines de milliers de contenus sont labellisés par erreur, est-il seulement possible et souhaitable d’entraîner des systèmes automatiques à identifier des contenus à nocivité variable en fonction des décisions du régulateur ?

L’aspect technique semble insoluble, sachant que le gouvernement britannique n’arrive même pas à mettre en place son blocage des sites pornographiques aux mineurs, pourtant voté en 2017 – et désormais prévu, promis juré, pour ce mois d’avril.

Selon les différents experts sollicités par la presse britannique, le processus d’implémentation du texte devrait prendre au moins deux ans. Ce qui laisse relativement peu de temps aux législateurs pour réfléchir à des amendements, avant que le Royaume-Uni ne se réveille grimé en régime autoritaire.

Et que d’autres nations ne lui emboîtent le pas : selon le MIT Technology Review, cette approche ultra-agressive et centralisée de la gouvernance du Web par les pouvoirs publics pourrait, si elle venait à être implémentée, inspirer d’autres pays européens à faire de même et à s’imposer, doucement, comme le patron de l’Internet du futur.

En 2019, petit miracle, Mark Zuckerberg, les États-nations et les militants pour les libertés individuelles en ligne semblent tous d’accord sur un point : il faut réguler les flux de contenu du Web. Il faudrait maintenant s’accorder sur la méthode.

Par Thibault Prévost, publié le 11/04/2019

Copié

Pour vous :