En 2014, des cofondateurs d'OkCupid ont transmis quasi clandestinement les photos de près de trois millions d'utilisateurs à une entreprise de reconnaissance faciale dans laquelle ils avaient eux-mêmes investi. Douze ans, une enquête obstruée et un accord à l'amiable plus tard, la sanction se résume à une promesse de mieux se tenir. Sans un centime d'amende.L'affaire commence en septembre 2014 par un simple courriel. Le fondateur de Clarifai contacte par email un cofondateur d'OkCupid pour lui demander l'accès à de vastes ensembles de photos d'utilisateurs. La démarche n'a rien d'une négociation commerciale ordinaire : les cofondateurs d'OkCupid, Sam Yagan et Max Krohn, avaient investi dans Clarifai via leur fonds de capital-risque Corazon. Ils avaient donc un intérêt financier direct à alimenter cette startup en données précieuses.
L'un des cofondateurs d'OkCupid a fourni les photos depuis sa messagerie personnelle. Ce détail, qui pourrait sembler anecdotique, illustre à quel point la transaction était informelle, opaque, et délibérément tenue à l'écart des circuits officiels de l'entreprise. OkCupid a ainsi fourni à Clarifai un accès à près de trois millions de photos d'utilisateurs, accompagnées de données de localisation et d'informations démographiques, sans imposer la moindre restriction formelle ou contractuelle sur l'usage qui pouvait en être fait.
Les utilisateurs, eux, n'ont jamais été informés. La politique de confidentialité d'OkCupid stipulait explicitement que les données personnelles ne seraient pas partagées avec des tiers en dehors de cas précis : prestataires de services, partenaires commerciaux, ou entités du groupe Match. Clarifai ne relevait d'aucune de ces catégories. Les conditions d'un opt-out, pourtant prévu par la même politique, n'ont jamais été proposées.
Clarifai : entraîner des algorithmes de reconnaissance faciale à partir de portraits intimes
Pourquoi ces millions de photos de profils de rencontres intéressaient-ils à ce point une startup d'intelligence artificielle ? Clarifai a utilisé les photos d'OkCupid pour développer des logiciels de reconnaissance faciale capables d'identifier l'âge, le sexe et la race des visages analysés. Les clichés téléchargés par des célibataires en quête d'une relation amoureuse sont ainsi devenus du carburant pour entraîner des systèmes biométriques commerciaux, sans que leurs propriétaires en aient la moindre idée.
Interrogé sur ses intentions par le New York Times, le PDG de Clarifai, Matthew Zeiler, avait déclaré que la société serait prête à vendre sa technologie de reconnaissance faciale à des gouvernements étrangers, des opérations militaires et des services de police, selon les circonstances. Ce positionnement commercial, énoncé sans détour, donne la pleine mesure de ce à quoi les données des utilisateurs d'OkCupid auraient pu (ou peuvent encore) servir : les photos sont toujours en possession de Clarifai.
L'affaire a d'abord émergé dans la presse en juillet 2019, quand le New York Times a rapporté que le fondateur de Clarifai avait lui-même reconnu avoir constitué une base de données de visages à partir des images d'OkCupid. Confrontée à cette révélation, une porte-parole d'OkCupid a indiqué que Clarifai les avait approchés pour une possible collaboration et qu'aucun accord commercial n'avait été conclu,sans toutefois répondre à la question centrale : Clarifai avait-il accédé aux photos sans consentement ?
Clarifai : de la startup de la Silicon Valley au prestataire du Pentagone
Pour mesurer la portée réelle du scandale, il faut comprendre ce qu'est devenue Clarifai depuis 2014. Fondée en 2013 à New York par Matthew Zeiler, la société s'est d'abord positionnée comme un outil de vision par ordinateur à destination des entreprises : modération de contenu, analyse d'images pour le commerce en ligne, classification automatisée de vidéos. Ses API de reconnaissance faciale lui ont rapidement valu une réputation dans le secteur, mais ses revenus commerciaux restaient modestes et sa clientèle fragmentée.
Le tournant s'est opéré du côté militaire. En 2019, Clarifai a annoncé la création d'une filiale dédiée exclusivement aux contrats gouvernementaux, baptisée Neural Net One, implantée à Washington. L'objectif : décrocher des contrats dans la défense, le renseignement, la sécurité aux frontières et la surveillance. Ce pivot assumé a provoqué des tensions internes : quatre anciens employés ont indiqué que le manque de transparence de Zeiler sur les contrats militaires avait nui au moral des équipes, compliqué les recrutements et fragilisé la confiance au sein de l'entreprise. Au moins deux salariés ont quitté Clarifai en raison de leurs inquiétudes face à cette orientation.
Ces réticences n'ont pas freiné la trajectoire de l'entreprise. Clarifai a travaillé sur Project Maven, le premier grand programme d'intelligence artificielle du département américain de la Défense, et a fourni des solutions à l'United States Special Operations Command (USSOCOM), à la National...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.