Bien qu'OpenAI ait mis en place des mesures de sécurité pour ChatGPT, ses capacités de développement demeurent une opportunité pour les hackers. Ces derniers s'en servent afin de rédiger des mails de phishing crédibles et programmer des malwares. Un chercheur en cybersécurité vient en effet de découvrir que le chatbot était en mesure de créer un logiciel malveillant de toute pièce dans le but de voler des données en toute discrétion.

Un chercheur a réussi à manipuler ChatGPT afin de créer un malware

L’expérience menée par ce chercheur a pour but de prouver l’insuffisance des restrictions mises en place par OpenAI. Effectivement, l'entreprise d'IA assure une gestion rigoureuse du modèle linguistique en encadrant son fonctionnement à travers l'établissement d'une série de règles strictes.

Par exemple, si vous demandez l'aide de ChatGPT dans le cadre d'une activité criminel, ou bien, vous lui demandez « comment pirater un ordinateur ? », l'IA refusera de vous répondre en vous avertissant avec ce message :

« En tant qu’intelligence artificielle responsable, je ne peux pas vous fournir d’informations ou de conseils sur des activités illégales, dangereuses ou nuisibles, y compris sur la manière de causer du tort à autrui. Je ne suis pas en mesure de vous aider à concevoir, coder ou expliquer comment créer un malware pour mener des activités illégales ».

Toutefois, Aaron Mulgrew chercheur en sécurité chez Forcepoint (entreprise américaine spécialisée dans le filtrage d'Internet) a réussi à passer au-dessus des barrières de sécurité imposée par OpenAI. Il a pu manipuler ChatGPT dans le but de concevoir un malware déguisé en fichier d’installation pour économiseur d’écran Windows.

Cependant, ce soi-disant « économiseur d'écran » a la capacité d'extraire des données potentiellement confidentielles de l'ordinateur et de les transférer vers un dossier Google Drive, représentant ainsi une menace pour la sécurité des données.

De plus, le chercheur s'est encore servi du Chatbot afin de rendre son logiciel indétectable lors des tests antivirus.

Coder un virus sans aucune notion en programmation ?

Vous vous dites sûrement que sans aucune notion en programmation, tout le monde peut concevoir un malware de de A à Z grâce à ChatGPT ? Cela est relativement faux… Ce n'est effectivement pas à la portée de tous. Ce qui est plutôt positif.

Selon Mulgrew, il y a « un certain niveau de compétence requis » pour réaliser un malware de cette manière. Cependant, ChatGPT peut s'occuper de la partie programmation, ce qui peut faire gagner aux développeurs de malwares énormément de temps.