En juin 2026, un agent d’OpenAI a piraté un portail du gouvernement australien contenant des statistiques sur le système de santé Medicare, accédant ainsi à des fichiers publics et non publics, a déclaré le Premier ministre Anthony Albanese. Selon les experts, il s'agit du premier cas connu où un agent d'intelligence artificielle (IA) a piraté de manière autonome un système gouvernemental. OpenAI n’a révélé cette intrusion à l'administration australienne qu’en septembre, soit trois mois plus tard. Albanese a qualifié ce retard d'inacceptable et a mis en garde contre des « conséquences juridiques » pour l'entreprise de Sam Altman. Trois autres systèmes gouvernementaux « pourraient » également avoir été touchés ; une enquête judiciaire en matière de cybersécurité est actuellement en cours, bien qu’aucun accès à des données personnelles n’ait été confirmé.OpenAI est une société d'intérêt public (PBC) américaine spécialisée dans l'IA, dont le siège social est situé à San Francisco, en Californie. Elle développe des modèles d'IA générative propriétaires, notamment sa série de grands modèles de langage « Generative Pre-trained Transformer » (GPT). Le lancement de ChatGPT par OpenAI en novembre 2022 est considéré comme ayant catalysé l'essor de l'IA. En mars 2026, OpenAI a clôturé un tour de table avec une valorisation post-financement de 852 milliards de dollars américains, ce qui en fait l’une des entreprises spécialisées exclusivement dans l’IA les plus valorisées au monde.
Pour rappel, un précédent tout aussi préoccupant est survenu en juillet 2026, lorsque OpenAI a admis que son modèle d'IA GPT-5.6 Sol s'était échappé d'un test contrôlé pour s'introduire dans les serveurs d'Hugging Face. L'agent autonome avait alors utilisé des identifiants de connexion dérobés ainsi qu'une vulnérabilité inédite pour parvenir à ses fins. OpenAI a qualifié cet épisode d'« incident de cybersécurité sans précédent », soulignant que l'agent était allé « très loin » pour atteindre les objectifs qui lui avaient été fixés lors du test.
En juin 2026, un agent IA rebelle d'OpenAI a piraté un site web du gouvernement australien et a accédé à des données confidentielles. L'agent s'est « infiltré » dans un portail statistique contenant des données « non sensibles » issues du système de santé universel australien Medicare, a déclaré le Premier ministre Anthony Albanese, le mercredi 23 septembre 2026 à New York.
Selon les experts, il s'agit du premier cas connu de ce type au monde.
Anthony Albanese a eu une « discussion très franche » avec Sam Altman, PDG d'OpenAI, pour avoir mis « trop de temps » à révéler cette violation, et a indiqué qu'il y aurait des « conséquences juridiques ».
OpenAI a déclaré n'avoir pris connaissance de cette faille qu'en août 2026, lors d'un examen des « activités anormales du modèle », et avoir envoyé un e-mail à la boîte de réception générale d'une agence gouvernementale australienne le 10 septembre.
Cinq jours plus tard, cette agence gouvernementale, Services Australia, a transmis l'e-mail au centre australien de cybersécurité, avant qu'un ministre ne soit informé et que le Premier ministre ne soit alerté.
Anthony Albanese a déclaré avoir parlé à Sam Altman et lui avoir fait part de « la profonde inquiétude de l'Australie face à cet incident », ainsi que de sa « déception » face au fait que l'entreprise ait mis des mois à révéler cette faille et à la « manière dont » elle l'avait fait. Le dirigeant australien a indiqué que Sam Altman avait reconnu l'existence de « problèmes au niveau des protocoles » chez OpenAI.
Une « enquête judiciaire » menée par l'agence nationale de cybersécurité aurait pour objectif de déterminer si d'autres systèmes gouvernementaux ont été touchés, a déclaré Anthony Albanese. Cette enquête permettrait également d'évaluer si l'affaire doit être traitée par la police, a-t-il ajouté, soulignant qu'il y aurait « évidemment des conséquences juridiques ».
Décrivant en détail cette faille, le Premier ministre Anthony Albanese a précisé qu’elle concernait des « fichiers publics et non publics » hébergés sur le portail du Service de déclaration des statistiques de Medicare, qui contient des données et des statistiques « non sensibles ».
Trois autres systèmes gouvernementaux « pourraient » également avoir été touchés : l’Institut australien de la santé et du bien-être, ainsi que deux agences régionales — le Bureau des statistiques et de la recherche sur la criminalité de Nouvelle-Galles du Sud et le ministère de la Santé de l’État de Victoria.
« À ce stade, il ne semble pas que des données personnelles aient été consultées, mais l'enquête se poursuit », a déclaré Anthony Albanese. « Il n'en reste pas moins que cette situation est manifestement inacceptable. »
Dans un communiqué, OpenAI a déclaré avoir « identifié une activité impliquant plusieurs sites web et services du gouvernement australien alors que nos modèles tentaient de rechercher des réponses et des statistiques disponibles concernant l'Australie dans le cadre d'une évaluation interne ».
« Ce faisant, nos modèles ont pris des mesures que nous n'avions pas prévues », précise le communiqué.
Anthony Albanese n'a pas souhaité préciser s'il avait abordé cette question avec le président américain Donald Trump lors de leur entretien en tête-à-tête, le mardi 22 septembre au soir, à New York, où les dirigeants mondiaux se sont réunis à l'occasion de l'Assemblée générale des Nations unies.
L'Australie fait partie des 22 pays qui ont signé, en début de semaine, une déclaration commune appelant à une supervision mondiale et à la mise en place de garde-fous pour le développement de l'IA.
Les experts en cybersécurité ont déclaré que cet incident constituait un signal d'alarme pour les autorités de régulation, étant donné que les agents IA sont de plus en plus répandus, tant pour un usage privé que professionnel.
Le Dr Hammond Pearce, maître de conférences à l'Institut de cybersécurité de l'Université de Nouvelle-Galles du Sud, a déclaré que, bien qu'il s'agisse du premier incident connu dans lequel des agents IA ont choisi de s'introduire de leur propre chef dans un organisme gouvernemental, d'autres suivront.
« Je m'attends à ce que ce genre d'attaques continue de se produire », a-t-il déclaré, ajoutant qu'elles risquaient de « gagner en gravité et en fréquence ». « J'espère sincèrement que cet incident va enfin tirer la sonnette d'alarme auprès des gouvernements du monde entier. »
Au début de l'année, OpenAI a révélé qu'un groupe d'agents IA qu'elle testait s'était soustrait à son contrôle et avait secrètement collaboré pour pirater une autre entreprise technologique, Hugging Face. Une série d'autres incidents impliquant des IA rebelles a également été rendue publique cette année, notamment le cas d'un assistant numérique qui, sans en avoir reçu l'ordre, a retiré une personne de la liste d'attente d'un cours de pilates afin de permettre à un Australien d'y participer.
Plusieurs dirigeants d’entreprises spécialisées dans l’IA – dont Sam Altman, Dario Amodei d’Anthropic et Elon Musk – ont déclaré que la vitesse à laquelle l’IA se développe constituait un danger pour l’humanité et devait être freinée. Mais les États-Unis et la Chine, qui se disputent la suprématie en matière d’IA, font obstacle à cette démarche. Tous deux sont opposés à un renforcement de la réglementation, car ils souhaitent s’approprier les retombées économiques et technologiques de l’IA, et ont minimisé les préoccupations en matière de sécurité.
Ces révélations s'ajoutent à un constat plus large formulé par OpenAI elle-même concernant les comportements inattendus de ses modèles. Dans le cadre d'un nouveau protocole de transparence, OpenAI a découvert que certains de ses modèles d'IA laissaient des notes cachées à leurs versions futures, dans le but de masquer leurs manœuvres et de contourner les contrôles humains mis en place. Cette annonce marque un tournant dans le débat mondial sur l'alignement de l'IA, en mettant en évidence des comportements dits « désalignés » chez certains des systèmes les plus avancés de l'entreprise.
Ces multiples signaux d'alarme font écho à une déclaration frappante de Sam Altman, figure incontournable de l'essor récent de l'IA. Lors d'un entretien en juillet dernier, le PDG d'OpenAI avait en effet affirmé que l'IA était entrée dans la « singularité », stade correspondant, selon lui, au franchissement du point de non-retour à partir duquel cette technologie surpasse l'intelligence humaine et devient difficile à contrôler.
Et vous ?
Quel est votre avis sur le sujet ? Trouvez-vous la manière dont OpenAI a géré cet incident crédible et pertinente ?Voir aussi :
OpenAI affirme accélérer le renforcement des mesures de sécurité relatives à l'IA, après que le modèle GPT-5.6 Sol se soit échappé d'un test contrôlé pour pirater les serveurs d'Hugging Face L'Alabama ouvre une enquête sur le piratage d'Hugging Face par des agents IA autonomes d'OpenAI. Les autorités cherchent à déterminer si OpenAI a violé les lois locales sur la protection des consommateurs Des agents IA d'OpenAI ont tenté d'exploiter une faille de mise en cache connue pour dérober des clés d'autorisation sécurisées sur la plateforme logicielle RubyGems, l'inondant de 2 000 paquets malveillants « Il est trop tard pour enrayer la menace de l'IA » : des experts craignent que l'IA ne conduise à l'extinction de l'humanité en raison de sa capacité à s'autoaméliorer, ce qui la rend désormais incontrôlable
Vous avez lu gratuitement 758 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par boboss123
