Signal déclare qu'il ne se conformera pas à la proposition de loi britannique sur la « surveillance de masse »

Exigeant l'analyse obligatoire des messages avant le chiffrement

Le gouvernement britannique a proposé une loi sur la sécurité en ligne qui vise à obliger les plateformes à utiliser certaines technologies pour identifier et supprimer les contenus illégaux, comme l’exploitation et les abus sexuels sur les enfants. Signal et d’autres services de messagerie chiffrée, comme WhatsApp et iMessage, s’opposent à cette loi, car elle pourrait affaiblir le chiffrement de bout en bout et créer des failles de sécurité exploitables par des acteurs malveillants.

Meredith Whittaker, la présidente de Signal, a déclaré qu’elle quitterait le marché britannique si la loi était adoptée, car elle ne compromettrait jamais la confiance que les gens placent en Signal pour fournir un moyen de communication vraiment privé.

Whittaker a également critiqué un système appelé analyse côté client, qui consiste à scanner les images avant de les chiffrer. Elle a dit qu’un tel système transformerait le téléphone de chacun en un « dispositif de surveillance de masse » qui ferait des rapports aux entreprises technologiques, aux gouvernements et aux entités privées.

Le projet de loi sur la sécurité en ligne (Online Safety Bill), proposé par l'ancien Premier ministre Boris Johnson, veut obliger les fournisseurs de services de messagerie chiffrée tels que Signal et WhatsApp à mettre en place un système d'analyse du côté de l'appareil afin de rechercher dans les messages des utilisateurs le matériel pédopornographique (Child sexual abuse material - CSAM) et le signaler aux autorités. L'objectif annoncé est donc la protection des enfants en ligne au détriment du chiffrement de bout en bout qui s'en retrouverait profondément affaibli.

« Ce sera une décision périlleuse pour le Royaume-Uni », a-t-elle déclaré. « Nous ne pouvons pas continuer à offrir un service de communication véritablement privé et saper ou falsifier notre chiffrement ».


Signal ne veut pas faire de compromis avec la sécurité des utilisateurs

Avec des dizaines de millions d'utilisateurs dans le monde, Signal est l'une des principales applications de messagerie offrant un chiffrement pour protéger les messages contre les espions. En conséquence, l'application est également devenue la cible des législateurs cherchant à saper la technologie.

Chargée de superviser une équipe d'un peu plus de 40 personnes dans la petite organisation à but non lucratif qui assure le fonctionnement de l'application, la présidente de Signal, Meredith Whittaker, est la voix de l'entreprise lorsqu'il s'agit de lutter contre les politiques qui menacent la vie privée des utilisateurs. Et dernièrement, les risques ne manquent pas. Récemment, Signal s'est joint à des critiques, dont Meta, pour demander des modifications à ce projet de loi britannique sur la sécurité en ligne.

Éminent chercheur en intelligence artificielle qui travaillait auparavant chez Google avant d'aider à cofonder l'institut de recherche AI Now, Whittaker est également une voix de premier plan dans la mise en garde contre les dommages potentiels de la technologie aux libertés civiles. Dans un entretien, Whittaker a évoqué les menaces mondiales contre le chiffrement et de la façon dont l'IA pourrait alimenter une « réflexion magique » sur la façon dont les gouvernements tentent d'échapper aux technologies chiffrées.

« Ce sera une décision périlleuse pour le Royaume-Uni », a-t-elle déclaré. « Nous ne pouvons pas continuer à offrir un service de communication véritablement privé et saper ou falsifier notre chiffrement ».


Certaines personnes disent que nous entrons dans une autre étape des guerres de chiffrement. Comment décririez-vous le moment où nous sommes?

La menace est bien réelle et très immédiate. De mon temps, je n'ai pas vu de menace plus grande. Et je pense qu'il faut qu'on repousse et qu'on clarifie les termes. Maintenant, si nous devions présenter cela comme une guerre, je ne pense pas que allons définitivement gagner. Parce qu'il ne s'agit pas d'un malentendu sur le fonctionnement de la technologie, du moins ce n'est pas basé sur un malentendu. Nous n'allons pas convaincre ceux qui sont au pouvoir qu'ils devraient abandonner leur poursuite de l'asymétrie de l'information en tant qu'outil de pouvoir, ce qui est effectivement ce que la surveillance génère pour ceux qui surveillent ceux qui sont surveillés. La volonté de centraliser le pouvoir s'est accompagnée d'une sorte de volonté de gérer, de surveiller, de contrôler socialement les populations, et je ne pense pas que ce genre de noyau va disparaître. Mais en ce moment, je pense que nous sommes dans un moment assez important. Il est vraiment important que nous continuions à clarifier les termes et que nous continuions finalement à gagner là-dessus, sinon nous pourrions être confrontés à un scénario où la possibilité de communications numériques privées est pratiquement réduite.

Que voulez-vous dire par « clarifier les termes » ?

Il y a une veine de pensée magique qui prétend que des technologies telles que la numérisation côté client seront en quelque sorte capables de surveiller les communications de chacun au nom du gouvernement et qu'un mélange d'entités privées déterminera si ces communications sont considérées comme acceptables ou non, et agira sur cette détermination. Et d'une manière ou d'une autre, faites-le en privé. Je pense que nous devons être très clairs sur le fait qu'il n'y a aucun moyen de mettre en œuvre une porte dérobée sûre. L'intelligence artificielle - quoi que vous ayez laissé croire par le marketing de ces entreprises - n'est en fait pas capable de magie.

Les affirmations qui sont faites sur ce qui est possible via ce type de surveillance ne sont en fait pas fondées sur la réalité. Il y a un certain démystification et un certain dégonflement du battage médiatique qui doit se produire. Et puis je pense qu'il est nécessaire de placer cela dans un contexte historique plus fondé qui reconnaît les enjeux de la création d'un système qui permet au gouvernement de surveiller efficacement les communications privées de chacun tout le temps. Le prétexte de cette surveillance peut changer. Mais c'est quelque chose que nous devons vraiment souligner - à quel point ce type de régime pourrait être dangereux.

Nous sommes à l'ère post-Dobbs maintenant [ndlr. en juin 2022, la Cour suprême a annulé le droit à un avortement légal établi par l'affaire Roe c. Wade en 1973. Dans une décision avec 6 voix pour et 3 contre, le tribunal a voté pour annuler la décision d'un tribunal inférieur dans l'affaire Dobbs c. Jackson Women's Health Organization, confirmant une Loi du Mississippi interdisant les procédures d'avortement après 15 semaines de gestation]. Nous avons déjà vu Jessica Burgess, qui était une mère dans le Nebraska, qui a été accusée d'un crime pour avoir aidé sa fille à accéder aux soins d'avortement après que l'État les a soudainement interdit. Et les preuves fournies qui ont conduit à cette accusation étaient des messages Facebook. Nous avons une idée de la façon dont cela pourrait être utilisé dans un monde où l'identité des gens est criminalisée et où l'accès des gens à l'information est criminalisé. Cela doit vraiment être une partie beaucoup plus importante du débat.

Selon vous, quelles sont les menaces les plus imminentes pour le chiffrement ?

Je surveille de près les dispositions de chiffrement du projet de loi sur la sécurité en ligne du Royaume-Uni. Je dois préciser que le projet de loi lui-même est une sorte de recueil omnibus d'un certain nombre de dispositions différentes, dont certaines sont bonnes. Je pense que les chercheurs ayant accès aux données des entreprises technologiques sont vraiment positifs et nous ne devrions pas jeter cela. Cependant, il y a des dispositions vraiment troublantes qui donneraient au régulateur britannique des télécommunications et de la concurrence la possibilité d'imposer une technologie de numérisation approuvée par le gouvernement sur l'appareil de chacun qui mettrait en œuvre un régime de surveillance de masse, qui vérifierait les communications des gens avant qu'ils ne soient envoyé contre une base de données opaque de discours inacceptables en utilisant très probablement une variante de l'intelligence artificielle ou des modèles de machines pour détecter en quelque sorte le contenu interdit et prendre des mesures en fonction de ces détections. Et c'est absolument inacceptable. Et ce serait une éviscération totale du droit à la vie privée en plus de simplement mettre en place un régime extraordinairement coûteux et inapplicable.

Vous avez déjà mentionné que l'analyse côté client a gagné en popularité en tant que solution de contournement pour le chiffrement. Pourquoi pensez-vous qu'elle a gagné en popularité?

Le genre de moment où nous nous trouvons, où il y a tellement de battage médiatique non fondé sur l'IA, y contribue. Vous avez des dirigeants de la technologie qui arrivent sur scène en disant qu'ils croient que ces systèmes sont conscients. Nous avons de très nombreuses entreprises différentes et de très nombreux «pères de l'IA» diff...