Netskope, spécialiste sur le marché du SASE (Secure Access Service Edge), dévoile les conclusions d’une nouvelle étude selon laquelle pour 10 000 utilisateurs, les entreprises subissent chaque mois environ 183 incidents de partage de données sensibles avec l’application ChatGPT. Le code source représente la part la plus importante des données sensibles compromises.Parmi les résultats clés :
L’usage croissant des applications d’IA :
- Au moins 10 000 collaborateurs emploient en moyenne cinq IA applicatives par jour, ChatGPT comptant à elle seule plus de huit fois plus d’utilisateurs quotidiens actifs que toute autre application
- Des données sensibles sont partagées avec des applications d’IA générative chaque heure dans une journée de travail dans les grandes entreprises
- Google Bard est l’application d’IA qui a enregistré la croissance la plus soutenue, avec une hausse hebdomadaire du nombre d’utilisateurs de 7,1 %, contre 1,6 % pour ChatGPT
Les utilisateurs alimentent ChatGPT en données sensibles :
- Les codes source sont publiés dans ChatGPT, plus que tout autre type de données sensibles, avec un taux mensuel de 158 incidents pour 10 000 utilisateurs
- Des données confidentielles sont partagées sur ChatGPT : figurent des données réglementées, notamment financières, ou médicales, et des informations personnellement identifiables
L’accès à ChatGPT : dans des secteurs fortement réglementés tels que les services financiers et la santé, près d’une entreprise sur cinq interdit purement et simplement à ses employés d’utiliser ChatGPT, contre seulement une sur vingt dans le secteur technologique.
La conversation autour de l'IA est souvent centrée sur des questions existentielles, telles que les opportunités et les menaces potentielles que l'IA peut apporter à l'humanité. Pourtant, les organisations du monde entier et leurs dirigeants sont confrontés à une préoccupation plus immédiate : comment utiliser les applications d'IA en toute sécurité ?
Les organisations s'efforcent d'exploiter les applications d'IA pour améliorer leurs opérations et l'expérience de leurs clients, ainsi que pour faciliter la prise de décisions fondées sur des données. L'essentiel est d'y parvenir tout en garantissant la sûreté et la sécurité. Cependant, le principal obstacle à la sécurité réside dans la manière dont certains utilisateurs peuvent employer ces applications.
Par exemple, ChatGPT peut être utilisé pour examiner le code source à la recherche de failles de sécurité ou pour aider à éditer du contenu écrit. ChatGPT a été utilisé pour éditer ce résumé. Inévitablement, certaines personnes téléchargeront un code source propriétaire ou un texte contenant des données réglementées ou de la propriété intellectuelle. Le défi consiste à décourager ce type de comportement sans entraver la productivité de l'ensemble de l'organisation. Un blocage pur et simple des applications d'IA pourrait résoudre ce problème, mais cela se ferait au détriment des avantages potentiels offerts par les applications d'IA.
Alors que le battage médiatique autour des possibilités de l'IA se poursuit, il est évident que ChatGPT et d'autres applications d'IA sont en passe de devenir des piliers de l'entreprise. Parmi les clients de Netskope, leur popularité croît de manière exponentielle et devrait doubler au cours des sept prochains mois s'ils continuent à croître au rythme actuel. Ce rapport se penche sur l'importance croissante des applications d'IA dans les entreprises, décrit les risques associés, notamment les fuites de données et l'activité potentielle des attaquants, et propose des stratégies pour intégrer en toute sécurité ChatGPT et d'autres outils d'IA dans l'environnement de l'entreprise.
Les applications d'IA gagnent en popularité
Le nombre d'utilisateurs accédant à des applications d'IA dans l'entreprise augmente de façon exponentielle. Au cours des deux derniers mois, le pourcentage d'utilisateurs d'entreprise accédant à au moins une application d'IA chaque jour a augmenté de 2,4 % par semaine, soit une augmentation totale de 22,5 % sur cette période. Au rythme actuel de croissance, le nombre d'utilisateurs accédant à des applications d'IA doublera au cours des sept prochains mois. Au cours de la même période, le nombre d'applications d'IA utilisées dans les entreprises est resté stable, les organisations comptant plus de 1 000 utilisateurs utilisant en moyenne 3 applications d'IA différentes par jour, et les organisations comptant plus de 10 000 utilisateurs utilisant en moyenne 5 applications d'IA par jour. À la fin du mois de juin, 1 utilisateur d'entreprise sur 100 interagissait avec une application d'IA chaque jour.
L'application d'IA d'entreprise la plus populaire est de loin ChatGPT, avec plus de 8 fois plus d'utilisateurs actifs quotidiens que n'importe quelle autre application d'IA. ChatGPT a fait l'objet d'un grand battage médiatique au cours des six derniers mois et est également très polyvalente, ce qui a probablement contribué à sa popularité. L'application la plus populaire est Grammarly, qui se concentre exclusivement sur l'aide à la rédaction. Bard, le chatbot de Google, arrive juste après Grammarly. Toutes les autres applications d'IA combinées (dont nous suivons plus de 60, y compris Jasper, Chatbase et Copy.ai) sont moins populaires que Google Bard.
Au cours des deux derniers mois, l'application d'IA qui a connu la croissance la plus rapide dans les entreprises est Google Bard. Bien qu'elle soit encore loin de ChatGPT en termes de popularité, Google Bard compte actuellement 7,1 % d'utilisateurs supplémentaires par semaine, contre 1,6 % pour ChatGPT. À ce rythme, Google Bard devrait rattraper ChatGPT dans un peu plus d'un an. Toutefois, l'espace des applications d'IA étant très dynamique, nous nous attendons à ce que de nombreux autres changements interviennent au cours de cette période, ce qui perturbera les taux de croissance actuels.
Netskope Threat Labs suit la popularité des applications d'IA dans les environnements d'entreprise, plutôt que la popularité globale des applications parmi les consommateurs. Par exemple, alors que la popularité de ChatGPT a grimpé en flèche parmi les consommateurs avant de se calmer en juin, son adoption dans les entreprises a été plus mesurée et continue d'augmenter de façon exponentielle. Le reste de ce rapport met en évidence certaines des raisons de cette augmentation mesurée, notamment les risques de fuite de données et les contrôles relatifs à son utilisation.
Risques liés à l'IA - Données sensibles
Ce segment se concentre sur ChatGPT, l'application d'IA la plus répandue dans les entreprises. Un utilisateur moyen de ChatGPT interagit avec l...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.