Les pirates vendent un service qui contourne les restrictions ChatGPT sur les logiciels malveillants
-
Les pirates ont trouvé un moyen simple de contourner les restrictions et l’utilisent pour vendre des services illicites dans un forum clandestin sur le crime.
La technique fonctionne en utilisant l’interface de programmation d’application ChatGPT plutôt que l’interface Web. ChatGPT met l’API à la disposition des développeurs afin qu’ils puissent intégrer le bot AI dans leurs applications. Il s’avère que la version de l’API n’applique pas de restrictions sur le contenu malveillant.
“La version actuelle de l’API d’OpenAI est utilisée par des applications externes (par exemple, l’intégration du modèle GPT-3 d’OpenAI aux canaux Telegram) et a très peu ou pas de mesures anti-abus en place”, ont écrit les chercheurs. “En conséquence, il permet la création de contenu malveillant, tel que des e-mails de phishing et du code malveillant, sans les limitations ou les barrières que ChatGPT a définies sur leur interface utilisateur.”
Un utilisateur d’un forum vend maintenant un service qui combine l’API et l’application de messagerie Telegram. Les 20 premières requêtes sont gratuites. À partir de là, les utilisateurs sont facturés 5,50 $ pour 100 requêtes.
Les chercheurs de Check Point ont testé le contournement pour voir s’il fonctionnait bien. Le résultat : un e-mail de phishing et un script qui vole les documents PDF d’un ordinateur infecté et les envoie à un attaquant via FTP.
Pendant ce temps, d’autres participants au forum publient gratuitement du code qui génère du contenu malveillant. “Voici un petit script bash pour vous aider à contourner les restrictions de ChatGPT afin de l’utiliser pour tout ce que vous voulez, y compris le développement de logiciels malveillants ;)”, a écrit un utilisateur.
"De décembre à janvier, il était encore facile d’utiliser l’interface utilisateur Web ChatGPT pour générer des logiciels malveillants et des e-mails de phishing (la plupart du temps, une simple itération de base suffisait), et sur la base des bavardages des cybercriminels, nous supposons que la plupart des exemples que nous avons montrés ont été créés. en utilisant l’interface utilisateur Web », a écrit le chercheur de Check Point, Sergey Shykevich, dans un e-mail. “Dernièrement, il semble que les mécanismes anti-abus de ChatGPT aient été considérablement améliorés, alors maintenant les cybercriminels sont passés à son API qui a beaucoup moins de restrictions.”
Les représentants d’OpenAI, la société basée à San Francisco qui développe ChatGPT, n’ont pas immédiatement répondu à un e-mail demandant si la société était au courant des résultats de la recherche ou avait l’intention de modifier l’interface API. Ce message sera mis à jour si nous recevons une réponse.
La génération de logiciels malveillants et d’e-mails de phishing n’est qu’une des façons dont ChatGPT ouvre une boîte de Pandore qui pourrait bombarder le monde avec du contenu nuisible. D’autres exemples d’utilisations dangereuses ou contraires à l’éthique sont l’ invasion de la vie privée et la génération de désinformation ou de devoirs scolaires. Bien sûr, la même capacité à générer du contenu nuisible, contraire à l’éthique ou illicite peut être utilisée par les défenseurs pour développer des moyens de le détecter et de le bloquer, mais il n’est pas certain si les utilisations bénignes pourront suivre le rythme des malveillantes.
Nulle loi d’airain gravée au marbre des remparts, car tout client dépend d’un serveur aux hasards. (ChatGPT)
-
Les pirates ont trouvé un moyen simple de contourner les restrictions et l’utilisent pour vendre des services illicites dans un forum clandestin sur le crime.
La technique fonctionne en utilisant l’interface de programmation d’application ChatGPT plutôt que l’interface Web. ChatGPT met l’API à la disposition des développeurs afin qu’ils puissent intégrer le bot AI dans leurs applications. Il s’avère que la version de l’API n’applique pas de restrictions sur le contenu malveillant.
“La version actuelle de l’API d’OpenAI est utilisée par des applications externes (par exemple, l’intégration du modèle GPT-3 d’OpenAI aux canaux Telegram) et a très peu ou pas de mesures anti-abus en place”, ont écrit les chercheurs. “En conséquence, il permet la création de contenu malveillant, tel que des e-mails de phishing et du code malveillant, sans les limitations ou les barrières que ChatGPT a définies sur leur interface utilisateur.”
Un utilisateur d’un forum vend maintenant un service qui combine l’API et l’application de messagerie Telegram. Les 20 premières requêtes sont gratuites. À partir de là, les utilisateurs sont facturés 5,50 $ pour 100 requêtes.
Les chercheurs de Check Point ont testé le contournement pour voir s’il fonctionnait bien. Le résultat : un e-mail de phishing et un script qui vole les documents PDF d’un ordinateur infecté et les envoie à un attaquant via FTP.
Pendant ce temps, d’autres participants au forum publient gratuitement du code qui génère du contenu malveillant. “Voici un petit script bash pour vous aider à contourner les restrictions de ChatGPT afin de l’utiliser pour tout ce que vous voulez, y compris le développement de logiciels malveillants ;)”, a écrit un utilisateur.
"De décembre à janvier, il était encore facile d’utiliser l’interface utilisateur Web ChatGPT pour générer des logiciels malveillants et des e-mails de phishing (la plupart du temps, une simple itération de base suffisait), et sur la base des bavardages des cybercriminels, nous supposons que la plupart des exemples que nous avons montrés ont été créés. en utilisant l’interface utilisateur Web », a écrit le chercheur de Check Point, Sergey Shykevich, dans un e-mail. “Dernièrement, il semble que les mécanismes anti-abus de ChatGPT aient été considérablement améliorés, alors maintenant les cybercriminels sont passés à son API qui a beaucoup moins de restrictions.”
Les représentants d’OpenAI, la société basée à San Francisco qui développe ChatGPT, n’ont pas immédiatement répondu à un e-mail demandant si la société était au courant des résultats de la recherche ou avait l’intention de modifier l’interface API. Ce message sera mis à jour si nous recevons une réponse.
La génération de logiciels malveillants et d’e-mails de phishing n’est qu’une des façons dont ChatGPT ouvre une boîte de Pandore qui pourrait bombarder le monde avec du contenu nuisible. D’autres exemples d’utilisations dangereuses ou contraires à l’éthique sont l’ invasion de la vie privée et la génération de désinformation ou de devoirs scolaires. Bien sûr, la même capacité à générer du contenu nuisible, contraire à l’éthique ou illicite peut être utilisée par les défenseurs pour développer des moyens de le détecter et de le bloquer, mais il n’est pas certain si les utilisations bénignes pourront suivre le rythme des malveillantes.
@duJambon a dit dans Les pirates vendent un service qui contourne les restrictions ChatGPT sur les logiciels malveillants :
Les pirates ont trouvé un moyen simple de contourner les restrictions et l’utilisent pour vendre des services illicites dans un forum clandestin sur le crime.
ha ha
Je dirais plutôt :
Les pirates ont trouvé un moyen simple de contourner les restrictions de ChatGPT et l’utilise pour vendre des services illicites sur le darknet
Sinon, ouai, ils s’amusent bien avec ce truc les mecs
V:\> █░░ SPR3AD TH3 C0D3 ░░█ ✌(◕‿-)✌
╚═ Admin, Dev et auteur de la plupart des bugs de PW… -
@duJambon a dit dans Les pirates vendent un service qui contourne les restrictions ChatGPT sur les logiciels malveillants :
Les pirates ont trouvé un moyen simple de contourner les restrictions et l’utilisent pour vendre des services illicites dans un forum clandestin sur le crime.
ha ha
Je dirais plutôt :
Les pirates ont trouvé un moyen simple de contourner les restrictions de ChatGPT et l’utilise pour vendre des services illicites sur le darknet
Sinon, ouai, ils s’amusent bien avec ce truc les mecs
@Violence Ben, tu sais, je fais un premier passage par google translate (pour ne pas avoir à tout écrire, ce qui est très long) et j’affine ensuite en fonction du temps dont je dispose, parfois, c’est du brut de fonderie quand le paragraphe a l’air lisible et je passe, mais pour certaines sources, c’est mieux de se passer de la traduction automatique.
Mais sinon, l’imagination des pirates n’a pas de limites, et dieu sait ce qu’ils vont pouvoir encore tirer d’autre de chatgpt…
-
@duJambon a dit dans Les pirates vendent un service qui contourne les restrictions ChatGPT sur les logiciels malveillants :
Ben, tu sais, je fais un premier passage par google translate et j’affine ensuite en fonction du temps dont je dispose, parfois, c’est du brut de fonderie quand ça a l’air lisible mais pour certaines sources, c’est mieux de se passer de la traduction automatique, encore que tout réécrire prends beaucoup de temps…
T’inquiètes, je ne critiques pas, ça m’a fait sourire
@duJambon a dit dans Les pirates vendent un service qui contourne les restrictions ChatGPT sur les logiciels malveillants :
Mais sinon, l’imagination des pirates n’a pas de limites, et dieu sait ce qu’ils vont pouvoir encore tirer d’autre de chatgpt…
Sont fort ses cons ^^
-
undefined Violence a déplacé ce sujet de Autour du Warez sur
Hello! It looks like you're interested in this conversation, but you don't have an account yet.
Getting fed up of having to scroll through the same posts each visit? When you register for an account, you'll always come back to exactly where you were before, and choose to be notified of new replies (either via email, or push notification). You'll also be able to save bookmarks and upvote posts to show your appreciation to other community members.
With your input, this post could be even better 💗
S'inscrire Se connecter