Le gouvernement britannique a proposé une loi sur la sécurité en ligne qui vise à obliger les plateformes à utiliser certaines technologies pour identifier et supprimer les contenus illégaux, comme l’exploitation et les abus sexuels sur les enfants. Signal et d’autres services de messagerie chiffrée, comme WhatsApp et iMessage, s’opposent à cette loi, car elle pourrait affaiblir le chiffrement de bout en bout et créer des failles de sécurité exploitables par des acteurs malveillants.Meredith Whittaker, la présidente de Signal, a déclaré qu’elle quitterait le marché britannique si la loi était adoptée, car elle ne compromettrait jamais la confiance que les gens placent en Signal pour fournir un moyen de communication vraiment privé.
Whittaker a également critiqué un système appelé analyse côté client, qui consiste à scanner les images avant de les chiffrer. Elle a dit qu’un tel système transformerait le téléphone de chacun en un « dispositif de surveillance de masse » qui ferait des rapports aux entreprises technologiques, aux gouvernements et aux entités privées.
Le projet de loi sur la sécurité en ligne (Online Safety Bill), proposé par l'ancien Premier ministre Boris Johnson, veut obliger les fournisseurs de services de messagerie chiffrée tels que Signal et WhatsApp à mettre en place un système d'analyse du côté de l'appareil afin de rechercher dans les messages des utilisateurs le matériel pédopornographique (Child sexual abuse material - CSAM) et le signaler aux autorités. L'objectif annoncé est donc la protection des enfants en ligne au détriment du chiffrement de bout en bout qui s'en retrouverait profondément affaibli.
« Ce sera une décision périlleuse pour le Royaume-Uni », a-t-elle déclaré. « Nous ne pouvons pas continuer à offrir un service de communication véritablement privé et saper ou falsifier notre chiffrement ».
Signal ne veut pas faire de compromis avec la sécurité des utilisateurs
Avec des dizaines de millions d'utilisateurs dans le monde, Signal est l'une des principales applications de messagerie offrant un chiffrement pour protéger les messages contre les espions. En conséquence, l'application est également devenue la cible des législateurs cherchant à saper la technologie.
Chargée de superviser une équipe d'un peu plus de 40 personnes dans la petite organisation à but non lucratif qui assure le fonctionnement de l'application, la présidente de Signal, Meredith Whittaker, est la voix de l'entreprise lorsqu'il s'agit de lutter contre les politiques qui menacent la vie privée des utilisateurs. Et dernièrement, les risques ne manquent pas. Récemment, Signal s'est joint à des critiques, dont Meta, pour demander des modifications à ce projet de loi britannique sur la sécurité en ligne.
Éminent chercheur en intelligence artificielle qui travaillait auparavant chez Google avant d'aider à cofonder l'institut de recherche AI Now, Whittaker est également une voix de premier plan dans la mise en garde contre les dommages potentiels de la technologie aux libertés civiles. Dans un entretien, Whittaker a évoqué les menaces mondiales contre le chiffrement et de la façon dont l'IA pourrait alimenter une « réflexion magique » sur la façon dont les gouvernements tentent d'échapper aux technologies chiffrées.
« Ce sera une décision périlleuse pour le Royaume-Uni », a-t-elle déclaré. « Nous ne pouvons pas continuer à offrir un service de communication véritablement privé et saper ou falsifier notre chiffrement ».
Certaines personnes disent que nous entrons dans une autre étape des guerres de chiffrement. Comment décririez-vous le moment où nous sommes?
La menace est bien réelle et très immédiate. De mon temps, je n'ai pas vu de menace plus grande. Et je pense qu'il faut qu'on repousse et qu'on clarifie les termes. Maintenant, si nous devions présenter cela comme une guerre, je ne pense pas que allons définitivement gagner. Parce qu'il ne s'agit pas d'un malentendu sur le fonctionnement de la technologie, du moins ce n'est pas basé sur un malentendu. Nous n'allons pas convaincre ceux qui sont au pouvoir qu'ils devraient abandonner leur poursuite de l'asymétrie de l'information en tant qu'outil de pouvoir, ce qui est effectivement ce que la surveillance génère pour ceux qui surveillent ceux qui sont surveillés. La volonté de centraliser le pouvoir s'est accompagnée d'une sorte de volonté de gérer, de surveiller, de contrôler socialement les populations, et je ne pense pas que ce genre de noyau va disparaître. Mais en ce moment, je pense que nous sommes dans un moment assez important. Il est vraiment important que nous continuions à clarifier les termes et que nous continuions finalement à gagner là-dessus, sinon nous pourrions être confrontés à un scénario où la possibilité de communications numériques privées est pratiquement réduite.
Que voulez-vous dire par « clarifier les termes » ?
Il y a une veine de pensée magique qui prétend que des technologies telles que la numérisation côté client seront en quelque sorte capables de surveiller les communications de chacun au nom du gouvernement et qu'un mélange d'entités privées déterminera si ces communications sont considérées comme acceptables ou non, et agira sur cette détermination. Et d'une manière ou d'une autre, faites-le en privé. Je pense que nous devons être très clairs sur le fait qu'il n'y a aucun moyen de mettre en œuvre une porte dérobée sûre. L'intelligence artificielle - quoi que vous ayez laissé croire par le marketing de ces entreprises - n'est en fait pas capable de magie.
Les affirmations qui sont faites sur ce qui est possible via ce type de surveillance ne sont en fait pas fondées sur la réalité. Il y a un certain démystification et un certain dégonflement du battage médiatique qui doit se produire. Et puis je pense qu'il est nécessaire de placer cela dans un contexte historique plus fondé qui reconnaît les enjeux de la création d'un système qui permet au gouvernement de surveiller efficacement les communications privées de chacun tout le temps. Le prétexte de cette surveillance peut changer. Mais c'est quelque chose que nous devons vraiment souligner - à quel point ce type de régime pourrait être dangereux.
Nous sommes à l'ère post-Dobbs maintenant [ndlr. en juin 2022, la Cour suprême a annulé le droit à un avortement légal établi par l'affaire Roe c. Wade en 1973. Dans une décision avec 6 voix pour et 3 contre, le tribunal a voté pour annuler la décision d'un tribunal inférieur dans l'affaire Dobbs c. Jackson Women's Health Organization, confirmant une Loi du Mississippi interdisant les procédures d'avortement après 15 semaines de gestation]. Nous avons déjà vu Jessica Burgess, qui était une mère dans le Nebraska, qui a été accusée d'un crime pour avoir aidé sa fille à accéder aux soins d'avortement après que l'État les a soudainement interdit. Et les preuves fournies qui ont conduit à cette accusation étaient des messages Facebook. Nous avons une idée de la façon dont cela pourrait être utilisé dans un monde où l'identité des gens est criminalisée et où l'accès des gens à l'information est criminalisé. Cela doit vraiment être une partie beaucoup plus importante du débat.
Selon vous, quelles sont les menaces les plus imminentes pour le chiffrement ?
Je surveille de près les dispositions de chiffrement du projet de loi sur la sécurité en ligne du Royaume-Uni. Je dois préciser que le projet de loi lui-même est une sorte de recueil omnibus d'un certain nombre de dispositions différentes, dont certaines sont bonnes. Je pense que les chercheurs ayant accès aux données des entreprises technologiques sont vraiment positifs et nous ne devrions pas jeter cela. Cependant, il y a des dispositions vraiment troublantes qui donneraient au régulateur britannique des télécommunications et de la concurrence la possibilité d'imposer une technologie de numérisation approuvée par le gouvernement sur l'appareil de chacun qui mettrait en œuvre un régime de surveillance de masse, qui vérifierait les communications des gens avant qu'ils ne soient envoyé contre une base de données opaque de discours inacceptables en utilisant très probablement une variante de l'intelligence artificielle ou des modèles de machines pour détecter en quelque sorte le contenu interdit et prendre des mesures en fonction de ces détections. Et c'est absolument inacceptable. Et ce serait une éviscération totale du droit à la vie privée en plus de simplement mettre en place un régime extraordinairement coûteux et inapplicable.
Vous avez déjà mentionné que l'analyse côté client a gagné en popularité en tant que solution de contournement pour le chiffrement. Pourquoi pensez-vous qu'elle a gagné en popularité?
Le genre de moment où nous nous trouvons, où il y a tellement de battage médiatique non fondé sur l'IA, y contribue. Vous avez des dirigeants de la technologie qui arrivent sur scène en disant qu'ils croient que ces systèmes sont conscients. Nous avons de très nombreuses entreprises différentes et de très nombreux «pères de l'IA» différents qui font des déclarations sur les capacités de ces systèmes qui ne sont tout simplement pas fondées sur la réalité. Et donc cela crée une atmosphère dans laquelle il n'est pas difficile de comprendre pourquoi quelqu'un qui n'est pas familier avec les détails matériels de ces technologies pourrait croire que, "Oh, je suppose que si l'IA peut penser mieux qu'un être humain, pourquoi l'analyse côté client ne pourrait-elle pas accomplir l'impossible en analysant le contenu en privé ? » Et je pense qu'il y a une suspension de l'incrédulité qui s'est produite parce que nous sommes inondés de revendications sans fondement. Et alors pourquoi cette autre affirmation sans fondement ne serait-elle pas également vraie ?
Meredith Whittaker dirige le dernier effort de l'industrie technologique dominée par les États-Unis pour éviter le projet de loi britannique sur la sécurité en ligne
Michelle Donelan, la secrétaire à la technologie, souhaite que l'Ofcom (le régulateur britannique des communications) élargisse ses pouvoirs en tant que régulateur britannique de l'Internet et est sur le point de lui accorder de nouveaux droits pour examiner le fonctionnement interne des entreprises technologiques. Dans le cadre de ces plans, l'Ofcom pourra obliger les entreprises technologiques à installer des «logiciels accrédités» pour rechercher les messages terroristes et pédopornographiques sur des services tels que Signal, WhatsApp et iMessage d'Apple.
Le gouvernement affirme que ce type de logiciel de numérisation de masse est sûr et ne portera pas atteinte à la vie privée de quiconque.
Les défenseurs de la technologie tels que Whittaker, un ancien cadre supérieur de Google qui est maintenant président de Signal, sont fortement en désaccord.
« Il y a donc une certaine confusion au cœur de ce débat », a déclaré l'Américain, « parce que ce que nous entendons des gens [qui soutiennent les nouveaux pouvoirs de l'Ofcom], c'est qu'ils sont d'accord avec nos arguments, ils comprennent qu'une porte dérobée sûre n'existe pas et que le chiffrement est une technologie fondamentale pour assurer la sécurité et la sûreté de l'infrastructure numérique.
« Mais lorsqu'il s'agit d'apporter des précisions, de clarifier cet ensemble de faits de base dans le texte du projet de loi, il y a une source d'hésitation qui ne m'est pas claire. Je ne sais pas comment faire la quadrature de ce cercle.
« Le débat actuel sur le projet de loi a atteint son paroxysme alors que les défenseurs de la technologie, les militants des droits de l'enfant et même les ministres en exercice se lancent des accusations véhémentes ».
Tom Tugendhat, le ministre de la Sécurité, a affirmé en mai que le patron de Meta, Mark Zuckerberg, se souciait davantage des « énormes profits » de son entreprise réalisés sur les enfants que de « les protéger des dangers sur la propre plate-forme [de Meta] ». Certains du côté technique de la clôture ont décrit en privé le projet de loi sur la sécurité en ligne comme « stupide » et « incompréhensible », s'en prenant aux ministres et aux fonctionnaires.
Source : interview de Meredith Whittaker
Et vous ?
Que pensez-vous de la position de Signal face à la loi sur la sécurité en ligne ? Êtes-vous d’accord ou pas d’accord avec sa décision de quitter le Royaume-Uni si la loi est adoptée ? Utilisez-vous Signal ou une autre application de messagerie chiffrée ? Si oui, pourquoi ? Si non, pourquoi pas ? Pensez-vous que le chiffrement de bout en bout est essentiel pour protéger la vie privée et la sécurité des utilisateurs ? Quels sont les avantages et les inconvénients du chiffrement de bout en bout ? Comment voyez-vous l’avenir de la communication en ligne ? Croyez-vous que les gouvernements et les entreprises technologiques vont respecter le droit à la confidentialité des utilisateurs ou qu’ils vont chercher à le violer ? 
Envoyé par Bruno
