La startup Reality Defender dévoile un outil de détection des vidéos deepfakes en temps réel. L'outil est disponible via un plug-in pour Zoom et peut faire des prédictions actives pour savoir si les autres participants à un appel vidéo sont réels ou s'il s'agit d'imitations alimentées par l'IA. Même si l'outil est encore en évaluation, cela confirme l'inquiétude autour des vidéos deepfakes. Des rapports confirment que les escroqueries par l'IA sur les vidéos deepfakes ont déjà causé des pertes massives pour les entreprises et les particuliers.Différents rapports montrent que l'inquiétude autour des deepfakes ne cesse de grandir. Un récent rapport révèle que les deepfakes se classent désormais au deuxième rang des incidents de cybersécurité les plus courants pour les entreprises britanniques et que plus d'un tiers des organisations en ont fait l'expérience. Les attaquants utilisent la technologie d'IA pour améliorer l'efficacité des attaques et inciter les victimes à effectuer des transferts de fonds.
Face à cette situation, une startup a dévoilé un outil de détection des vidéos deepfakes. Reality Defender est une entreprise qui crée des outils pour lutter contre la désinformation par l'IA. Christopher Ren, chef de produit chez Reality Defender, a commencé par faire une excellente imitation d'Elon Musk. Lors d'un appel vidéo, il a utilisé une seule photo pour générer un deepfake simpliste d'Elon Musk qui se superpose à son propre visage.
Cette imitation numérique visait à démontrer comment le nouvel outil de détection de l'IA de la startup pouvait fonctionner. Alors que Ren se faisait passer pour Musk lors de la conversation vidéo, des images fixes de l'appel étaient activement envoyées au modèle personnalisé de Reality Defender pour analyse, et le widget de l'entreprise sur l'écran avertissait que c'était probablement une image générée par l'IA et non pas le vrai Elon Musk.
Cette démonstration a mis en évidence le problème très réel des deepfakes. Les vidéo deepfakes en temps réel constituent une menace croissante pour les gouvernements, les entreprises et les particuliers. Récemment, le président de la commission des affaires étrangères du Sénat américain a pris par erreur un appel vidéo avec un deepfake. Une société internationale d'ingénierie a également été victime d'un deepfake vidéo au début de l'année 2024.
Ces incidents soulignent le potentiel d'utilisation de cette technologie dans le cadre d'activités frauduleuses. "Ce n'est probablement qu'une question de mois avant que nous n'assistions à une explosion des fraudes par deepfake vidéo et face-à-face", déclare Ben Colman, PDG et cofondateur de Reality Defender. Lorsqu'il s'agit d'appels vidéo, en particulier dans les situations à fort enjeu, il ne faut pas se fier à ce que l'on voit.
La startup Reality Defender se concentre donc sur le partenariat avec les entreprises et les gouvernements pour les aider à contrecarrer les deepfakes alimentés par l'IA. Selon Reality Defender, son plan pour le détecteur en temps réel est de commencer par un plug-in pour Zoom qui peut faire des prédictions actives pour savoir si les autres participants à un appel vidéo sont réels ou s'il s'agit d'imitations alimentées par l'IA. L'entreprise travaille encore à l'évaluation comparative de l'outil afin de déterminer avec quelle précision il distingue les vrais participants d'un appel vidéo des faux.
Détecter les "deepfakes" en temps réel
Pour l'instant, la nouvelle fonction logicielle ne sera disponible qu'en version bêta pour certains clients de la startup. Ce n'est pas la première fois qu'une entreprise technologique fait part de ses projets pour aider à repérer les deepfakes en temps réel.
En 2022, Intel a présenté son FakeCatcher, conçu pour analyser les changements dans le flux sanguin d'un visage afin de déterminer si un participant à une vidéo est réel. L'outil d'Intel n'est pas encore accessible au public. Les chercheurs universitaires explorent également différentes approches pour faire face à ce type spécifique de menace de "deepfake".
"Ces systèmes sont de plus en plus sophistiqués pour créer des deepfakes. Nous avons maintenant besoin de moins de données", explique Govind Mittal, doctorant en informatique à l'université de New York. "Si j'ai 10 photos de moi sur Instagram, quelqu'un peut les prendre et les utiliser pour créer un deepfake." Les deepfakes en temps réel ne sont plus réservés aux milliardaires, aux personnalités publiques ou à ceux qui sont très présents en ligne.
Les recherches de Mittal à l'Université de New York...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.