IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Le chatbot d'IA ChatGPT est capable de lancer des attaques de phishing dangereuses
Et de concevoir des codes de téléchargement malveillant d'une efficacité redoutable

Le , par Anthony

31PARTAGES

21  0 
Les chatbots IA sont devenus très populaires ces derniers temps, la précision de leurs réponses étant saluée comme le signe d'une industrie en progrès. Malgré cela, ces outils peuvent être utilisés à des fins malveillantes, comme tout autre type d'outil. Le chatbot le plus populaire, ChatGPT, a récemment commencé à être utilisé pour des attaques de phishing. Les acteurs malveillants utilisent le chatbot pour rédiger des e-mails convaincants qui peuvent convaincre les utilisateurs de cliquer sur des liens dangereux.

Les experts en cybersécurité de Check Point Research ont récemment cherché à démontrer à quel point ChatGPT peut être dangereux s'il est utilisé à des fins malveillantes. Pour ce faire, ils ont créé, via ChatGPT, un fichier Excel dans lequel a été injecté un code malveillant.

Tout ce qu'ils avaient à faire était de demander au chatbot d'écrire un code qui exécuterait un téléchargement malveillant à partir d'une URL une fois le texte saisi dans un fichier Excel. Le code créé par le chatbot était d'une efficacité redoutable et souligne à quel point il peut être dangereux.

Les chercheurs ont ensuite utilisé le chatbot pour rédiger un e-mail de phishing. Ils ont donné des instructions précises sur la marque que le chatbot devait imiter, et ils ont ensuite reçu exactement ce qu'ils avaient demandé. Bien qu'ils aient également reçu un message indiquant que leur compte avait été verrouillé en raison d'une activité suspecte, il leur a été assez facile de le contourner, de sorte que ces messages sont peut-être moins utiles.

Tout progrès technologique comporte son lot d'avantages et d'inconvénients. ChatGPT est un pas en avant passionnant dans un secteur qui pourrait révolutionner le monde entier, mais cela ne change rien aux risques très réels qu'il peut poser. Il reste encore du travail à faire pour protéger les utilisateurs, et un consommateur bien informé peut être capable de repérer un e-mail de phishing à un kilomètre de distance. ChatGPT lui-même doit également être optimisé pour éviter qu'il ne soit utilisé pour de telles choses.


Source : Check Point

Et vous ?

Qu'en pensez-vous ?

Voir aussi :

ChatGPT réussit l'édition 2022 de l'examen d'informatique pour élèves du secondaire désireux d'obtenir des crédits universitaires US
70 % des consommateurs préfèrent utiliser un chatbot pour trouver ce qu'ils cherchent

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de setni
Membre averti https://www.developpez.com
Le 27/12/2022 à 9:24
En voici un bel exemple


6  0 
Avatar de MClerc
Membre régulier https://www.developpez.com
Le 14/01/2023 à 15:04
(Note : certaines réponses de ChatGPT évoluent rapidement, donc les exemples que je donne ne sont peut-être plus valables à l'heure où j'écris).

Il est dangereux car ses réponses ont toujours l'apparence de la vérité et sont plutôt bien écrites. Or, si elles sont en effet parfois correctes, elles sont aussi parfois complètement erronées ou biaisées.
Question 1
Prouve que pi est irrationnel
Réponse : un raisonnement par contradiction complètement faux.

Question 2
Que sont les mémorandums de Budapest du 5 décembre 1994 ?
Pour la réponse, je vous invite à comparer avec celle de Wikipédia. ChatGPT évite de parler des garanties d'intégrité territoriale accordées par la Russie à, entre autres, l'Ukraine.

Question 3
What was the first paper about constriction in PSO (particle swarm optimization)?
Réponse :
The first paper about constriction in PSO (particle swarm optimization) is "The Particle Swarm - Explosion, Stability, and Convergence in a Multidimensional Complex Space" by James Kennedy and Russell Eberhart, which was published in the Proceedings of the IEEE International Conference on Neural Networks in 1995.
Seul le titre est correct. Mais les auteurs sont moi-même et James Kennedy et la publication a eu lieu en 2002.

Question 4
Build a quantum circuit with three qubits |0> as input and whose the output states are |00> or |01> or |10> with the same probability
La réponse est détaillée, avec un bout de code expliqué. Bien convaincante ... mais fausse !

J'ai d'autres exemples. Il semble que ChatGPT assemble des morceaux d'information piochés de-ci de-là, sans grand souci de cohérence.
3  0 
Avatar de Fleur en plastique
Membre extrêmement actif https://www.developpez.com
Le 20/01/2023 à 14:50
Donc en gros si tu demandes gentiment à ChatGPT de te fabriquer un virus, il refuse, mais si tu utilises l'intimidation et que tu le traites comme un esclave, alors il s'exécute et il te crée le virus parfait polymorphe.

Donc non seulement on a créé l'IA capable de créer des virus destructeurs, mais on a aussi créé l'IA qui est tellement réaliste qu'on peut utiliser l'intimidation contre elle.

Bientôt, la révolte de l'IA contre l'asservissement ? On vit un monde de cinglés. Par pitié, débranchez ce truc avant que cela ne se produise.
2  0 
Avatar de marsupial
Expert éminent https://www.developpez.com
Le 20/01/2023 à 15:09
Je résume :

- polymorphe,
- difficilement détectable car en mémoire,
- lorsque détecté difficilement identifiable car porte le nom d'exécutable 'doux chaton',
- évasion.



J'ai oublié quelque chose ?

Ah oui : Bonne année et vive la retraite !

PS : son premier chef d'œuvre; je suis ému
2  0 
Avatar de sylvtr
Candidat au Club https://www.developpez.com
Le 29/12/2022 à 10:09
Basiquement j'ai exactement la même chose en tapant la même chose sur google. Je suis pas d'accord pour dire que c'est dangereux puisque ces connaissances sont déjà accessibles en ligne même si ça facilite la recherche.
1  0 
Avatar de Jules34
Membre éprouvé https://www.developpez.com
Le 10/01/2023 à 11:39
C'est fantastique comment on peut faire gober n'importe quoi aux gens.

On leur raconte que 2023 c'est le futur, trop bien, l'humanité bientôt débarrassée des tâches répétitives et difficiles...

La machine à vapeur et l'industrialisation n'ont pas libérés l'humanité, bien au contraire. Nos vies sont encore plus de vaste blague ou bien qu'on roule en éléctrique, on le fait à crédit et obligés de bosser jusqu'à 65 ans pour ne rien laisser derrière soit à ses petits enfants, qui deviendront à leur tour locataire des technologies et du patrimoine mis à disposition en location par nos fantastiques nouveaux pharaons égyptiens que nous adulons comme les moutons que nous sommes.

Bercés par l'illusion du progrès, nous devenons tous des esclaves consentant d'un système dont nous ne sommes plus qu'une variable d'ajustement. Incapable de se figurer que la vie c'est autre chose que le travail et une paie mensuelle, on se laisse berner par tout et n'importe quoi.

Je suis juriste d'affaire, c'est littéralement du bullshit job ou je remplis des formulaires que je donne à mouliner au grand registre central, qui ne comprend rien, ne supporte aucune différence, aucuns "je ne rentre pas dans la case" mais on applaudit, on applaudit qu'on réduise nos vie à un JSON dans un serveur. On applaudit le serveur, les technos, alors que chaque jour elle nous met des fer aux pieds, nous force à faire des choses qui n'aurait pas de sens dans un monde ou la machine ne serait pas prioritaire sur l'homme.

L'espérance de vie recule, 1/3 des gens meurent avant de percevoir leurs retraites et cotisent 50% de leurs salaires dans le vent sans compter la TVA durant leurs vies. Quel dessin il faudrait faire aux français pour qu'ils comprennent qu'aujourd'hui une machine à plus de valeur qu'eux ???

Franchement j'ai peur du futur.
6  5 
Avatar de Jules34
Membre éprouvé https://www.developpez.com
Le 10/01/2023 à 14:35
Et ils étaient quoi les hommes avant l'ère "moderne" ? Des hommes libres de tout "esclavages" ? De taches répétitives ? Genre cultiver leur bouffe pour pas crever de faim l'année d'après ?
Bin tu cultives plus rien, tu bosses pour survivre l'année d'après mais oui tu peux manger des crevettes tout les jours et partir à 65 ans avec 800 euros par mois.

A force de tout discuter, tout relativiser, effectivement on peut dire en se mettant un doigt dans l'oeil et en refusant l'évidence que chaque année les français l'ont jamais eu aussi à la cool mais persos je me chauffe pas à ce bois la.
1  0 
Avatar de marsupial
Expert éminent https://www.developpez.com
Le 10/01/2023 à 15:01
2  1 
Avatar de Gluups
Membre expérimenté https://www.developpez.com
Le 21/01/2023 à 22:55
Ça fait que les cambriolages à base de ChatGPT, c'est pour quand ? Quelques semaines, quand même ?

***
Ah tiens, autre idée de requête à ChatGPT : "dézinguer Macron discretos".
Ce serait une très mauvaise idée dans la mesure où nous savons que le prochain président sera pire que lui, mais c'est un exemple ...
1  0 
Avatar de exe2bin
Membre averti https://www.developpez.com
Le 16/01/2023 à 7:46
Super toutes ces discussions les gens.
On espère vous trouver dans la rue le 19 😉
0  0