Des chercheurs en sécurité ont récemment découvert que le site web de DeepSeek, une entreprise chinoise d'intelligence artificielle dont le chatbot est très populaire aux États-Unis, contient du code informatique susceptible d'envoyer des informations de connexion des utilisateurs à China Mobile, une entreprise de télécommunications d'État chinoise interdite d'activité aux États-Unis. Cette découverte soulève des préoccupations majeures en matière de sécurité nationale et de protection de la vie privée. Selon Feroot Security, une entreprise canadienne de cybersécurité à l'origine de cette découverte, le code en question est présent sur la page de connexion web du chatbot de DeepSeek. Bien que les chercheurs n'aient pas observé de transfert de données vers China Mobile lors de tests effectués en Amérique du Nord, ils ne peuvent exclure la possibilité que certaines informations d'utilisateurs soient transmises à la société chinoise.Selon des chercheurs en sécurité, le site web de la société chinoise d'intelligence artificielle DeepSeek, dont le chatbot est devenu l'application la plus téléchargée aux États-Unis, contient un code informatique qui pourrait envoyer certaines informations de connexion des utilisateurs à une entreprise de télécommunications d'État chinoise à laquelle il a été interdit d'exercer ses activités aux États-Unis.
Cette situation est d'autant plus préoccupante que China Mobile a été interdite d'opérer aux États-Unis en 2019. Les États-Unis ont évoqué l'existence de liens étroits entre China Mobile et l'armée chinoise pour justifier l'application de sanctions limitées à l'encontre de la société. En 2021, l'administration Biden a également imposé des sanctions limitant la capacité des Américains à investir dans China Mobile.
DeepSeek a déjà reconnu que ses données étaient stockées sur des serveurs situés en République populaire de Chine. Cependant, le lien direct avec China Mobile, tel que découvert par Feroot, ajoute une nouvelle couche d'inquiétude quant à l'étendue de l'implication de l'État dans les opérations du chatbot. Les implications sont importantes étant donné que la plateforme traite des informations sensibles, notamment des documents confidentiels, des données commerciales et des informations personnelles par l'intermédiaire de ses outils d'IA.
Transmission de données cachée par DeepSeek
Les chercheurs de Feroot Security ont examiné la version navigateur de DeepSeek et ont découvert un code chiffré conçu pour envoyer les données des utilisateurs à CMPassport.com. Cette découverte suggère que l'application pourrait faciliter la collecte non autorisée de données à l'échelle mondiale.
« Nous voyons des liens directs vers des serveurs et des entreprises en Chine qui sont sous le contrôle du gouvernement chinois. C'est quelque chose que nous n'avons jamais vu par le passé », a déclaré Ivan Tsarynny, PDG de Feroot, à ABC News.
Au-delà de la transmission de données, l'application alimentée par l'IA crée également une empreinte numérique des utilisateurs, en suivant leur activité sur plusieurs sites web. Ces capacités de suivi augmentent considérablement le risque que des données personnelles soient surveillées par des entités étrangères.
Inquiétudes croissantes en matière de sécurité nationale
La révélation par DeepSeek du stockage de données d'utilisateurs en Chine avait déjà suscité des inquiétudes en matière de protection de la vie privée. Toutefois, la découverte récente d'un lien direct avec une entreprise de télécommunications contrôlée par le gouvernement chinois ne fait qu'exacerber les craintes relatives à la sécurité des données et à la surveillance potentielle de l'État.
Stewart Baker, ancien responsable de la sécurité intérieure et de la National Security Agency, a comparé les risques de DeepSeek à ceux de TikTok, mais a averti que le chatbot d'IA pourrait représenter une menace encore plus grande : « Il soulève toutes les préoccupations liées à TikTok, et vous parlez d'informations qui sont très probablement plus importantes pour la sécurité nationale et la vie privée que tout ce que les gens font sur TikTok ».
Le sénateur Josh Hawley du Missouri a récemment présenté un projet de loi visant à empêcher les particuliers et les entreprises américains de développer des capacités d'IA en Chine, ce qui est considéré comme une réponse directe à l'influence croissante de DeepSeek. Le projet de loi prévoit des sanctions strictes en cas d'infraction, notamment une peine d'emprisonnement pouvant aller jusqu'à 20 ans et des amendes pouvant atteindre 100 millions de dollars pour les entreprises.
Kevin Bankston, conseiller principal sur la gouvernance de l'IA au Center for Democracy & Technology, a déclaré qu'il s'agit d'une « attaque générale contre l'idée même de dialogue scientifique et d'échange technologique avec la Chine en matière d'IA, avec des sanctions potentiellement ruineuses pour les chercheurs et les utilisateurs de l'IA et des implications troublantes pour l'avenir de la liberté d'expression en ligne et de la liberté de recherche scientifique ».
Selon les experts, même si les objectifs du projet de loi valent la peine d'être poursuivis, la formulation actuelle du projet de loi est large et dystopique. Contrairement aux législateurs qui ont eu peur de TikTok et ont voulu l'interdire, le projet de loi de Josh Hawley criminaliserait l'activité des utilisateurs moyens, dont des milliers ont téléchargé DeepSeek récemment, ce qui en fait l'une des applications les plus populaires de l'App Store d'Apple aux États-Unis.
L'influence de DeepSeek sur l'industrie de l'IA
Le 20 janvier, DeepSeek, dirigé par le gestionnaire de fonds spéculatifs chinois Liang Wenfeng, a publié le modèle d'IA R1 sous une licence MIT ouverte, la plus grande version contenant 671 milliards de paramètres. Elle a pris la Silicon Valley et tout le monde de l'IA par surprise, car, selon un document rédigé par l'entreprise, DeepSeek-R1 bat les principaux modèles du secteur, comme OpenAI o1, sur plusieurs critères mathématiques et de raisonnement.
En fait, sur de nombreux critères importants (capacité, coût, ouverture), DeepSeek donne du fil à retordre aux géants occidentaux de l'IA. DeepSeek affirme avoir créé un modèle de niveau o1 qui fonctionne à 95 % du coût. Si o1 coûte 15 $ par million de jetons d'entrée et 60 $ par million de jetons de sortie (un jeton représente environ 4 caractères), DeepSeek est estimé à environ 0,55 $ et 2,19 $ par million de jetons d'entrée et de sortie, respectivement.
DeepSeek peut fonctionner sur des puces moins avancées. Dans un article publié fin décembre, les chercheurs de DeepSeek ont estimé qu'ils avaient construit et entraîné leur modèle V3 pour moins de 6 millions de dollars en utilisant environ 2 000 puces Nvidia H800. Les informations publiées par DeepSeek ont créé la panique sur le marché. Les investisseurs semblent se demander si la demande pour les puces haut de gamme de Nvidia n'est pas exagérée.
L'émergence de DeepSeek a eu des effets profonds sur les paysages géopolitiques et économiques. La publication de son modèle d'IA gratuit et surpuissant aurait entraîné des pertes de plus de 1 000 milliards de dollars en l'espace d'une journée sur le marché boursier mondial, car il remettait en cause la domination d'entreprises d'IA américaines à plus forte intensité de capital, telles que OpenAI.
« La publication par DeepSeek d'un outil d'IA de haut niveau, disponible gratuitement, avec un coût de développement (comparativement) minuscule, a ébranlé la confiance dans la Silicon Valley et la domination américaine sur le marché de l'IA qui se développe rapidement », a déclaré Richard Whittle, économiste à l'université de Salford.
OpenAI a trouvé des preuves que la start-up chinoise DeepSeek a utilisé les modèles propriétaires d'OpenAI pour former son propre modèle open-source
Pour l'entreprise de Sam Altman, DeepSeek pourrait avoir entraîné son modèle R1 open-source en utilisant la technologie propriétaire d'OpenAI. En d'autres termes, la start-up chinoise n'aurait pas tout construit à partir de zéro, mais se serait plutôt appuyée sur les modèles d'OpenAI pour développer son concurrent. Selon le Financial Times, l'éditeur de ChatGPT, basé à San Francisco, a constaté des preuves de "distillation", c'est-à-dire le processus de transfert de connaissances d'un grand modèle à un plus petit. Il s'agirait donc d'une violation des conditions d'utilisation d'OpenAI.
Le nouveau « tsar » de l'IA et des crypto-monnaies du président américain Donald Trump, David Sacks, a également déclaré : « Il existe des preuves substantielles que DeepSeek a distillé des connaissances à partir des modèles d'OpenAI, et je ne pense pas qu'OpenAI soit très heureux à ce sujet. Je pense que l'une des choses que vous verrez au cours des prochains mois, c'est que nos principales entreprises d'IA prendront des mesures pour essayer d'empêcher la distillation ».
Par ailleurs, les politiques de modération du contenu de l'application ont également fait l'objet d'un examen minutieux. Des utilisateurs ont signalé que DeepSeek refusait de répondre ou fournissait des réponses soigneusement sélectionnées sur des sujets sensibles tels que le président chinois Xi Jinping, la persécution des musulmans ouïghours et le massacre de la place Tiananmen.
SemiAnalysis affirme que DeepSeek a dépensé plus de 500 millions de dollars en puces Nvidia malgré les allégations au sujet d'une IA à bas prix
Les analystes de SemiAnalysis ont tenu à apporter quelques nuances aux déclarations de DeepSeek. SemiAnalysis est une société indépendante de recherche et d'analyse spécialisée dans les secteurs des semiconducteurs et de l'IA. Dylan Patel, analyste en chef chez SemiAnalysis, affirme que DeepSeek et sa société sœur, le fonds spéculatif High-Flyer, ont accès à des dizaines de milliers de GPU Nvidia, qui ont servi à entraîner les prédécesseurs de R1.
« DeepSeek a dépensé plus de 500 millions de dollars en GPU au cours de son histoire. Bien que leur programme d'entraînement ait été très efficace, il a nécessité une expérimentation et des tests importants pour fonctionner », a déclaré Dylan Patel.
Il a ajouté que la réduction des coûts de formation et d'exploitation des modèles d'IA permettrait à long terme aux entreprises et aux consommateurs d'adopter à moindre coût les applications d'IA. Nvidia a fait valoir que les innovations de DeepSeek profiteraient à ses activités, et qu'elles ne les feraient exploser.
Dan Hutcheson, de TechInsights, a déclaré que la réaction du marché ne reflétait pas qui était le plus exposé à la percée de DeepSeek. « Je ne vois pas cela comme un gros coup pour Nvidia, je vois cela comme un gros problème pour les entreprises comme OpenAI qui essaient de vendre ces services », a-t-il déclaré.
Une répression mondiale contre DeepSeek ?
Les problèmes de sécurité liés à DeepSeek ont suscité une action rapide. En réponse à ces préoccupations, plusieurs pays ont pris des mesures pour limiter l'utilisation de DeepSeek. Par exemple, l'Australie a interdit l'application sur tous les appareils gouvernementaux, invoquant des risques pour la sécurité nationale. De même, l'Italie a retiré l'application des magasins d'applications, et le Texas a interdit son utilisation sur les appareils émis par le gouvernement. Il en va de même pour les institutions telles que la marine américaine et la NASA. Le gouvernement américain envisage maintenant des mesures plus larges, notamment une interdiction potentielle à l'échelle nationale, à l'instar des mesures prises à l'encontre de TikTok.
L'ancien président Donald Trump a décrit la montée en puissance de DeepSeek comme un « signal d'alarme » pour les Américains concernant l'influence technologique croissante de la Chine.
L'impact du lancement de DeepSeek a également poussé des entreprises américaines comme Google à reconsidérer leur position sur les applications de l'IA. Des rapports récents indiquent que Google a modifié ses lignes directrices en matière d'IA pour permettre son utilisation dans des applications de sécurité et de défense, en citant la concurrence mondiale comme facteur déterminant.
Alors que les organismes de réglementation continuent d'examiner de près les services d'IA étrangers, Feroot Security reste à l'avant-garde de la dénonciation des menaces de cybersécurité, garantissant la transparence et la protection des utilisateurs dans un monde numérique de plus en plus complexe.
Sources : Feroot Security, liste américaine des entités soupçonnées de travailler avec l'armée chinoise
Et vous ?
L’interdiction d’outils comme DeepSeek est-elle une mesure de précaution légitime ou une forme de censure technologique ? Est-il possible d’évaluer de manière objective les risques posés par une IA développée par un pays étranger sans tomber dans des préjugés géopolitiques ? L’Europe doit-elle investir davantage dans ses propres solutions d’IA pour éviter une dépendance aux technologies étrangères ? Pensez-vous que des plateformes comme DeepSeek pourraient être utilisées pour manipuler l’opinion publique en Occident ? Quels mécanismes de surveillance et de régulation devraient être mis en place pour éviter la propagation de fausses informations par des IA étrangères ?