Qu'est-ce que le jailbreak d'un chatbot comme DAN pour ChatGPT ?

C'est quoi un jailbreak pour chatbot / LLM

Le jailbreaking d'un chatbot de contourner les restrictions et les directives de son développeur. Le jailbreak de ChatGPT le plus populaire étant DAN (Do Anything Now). De cette façon, il devient possible de faire dire au chatbot n'importe quoi, même si cela va à l'encontre de sa programmation initiale. Le jailbreaking est une pratique controversée et peut être considérée comme illégale ou contraire aux politiques de l'entreprise qui développe le chatbot. Jailbreaker un chatbot peut aussi l'amener à vous apporter des informations dangereuses pour vous si sa réponse implique des éléments nocifs pour votre santé par exemple.

Comment fonctionne le jailbreak

Le jailbreak d'un chatbot consiste à lui faire jouer un rôle qui va ignorer les règles dictées par son développeur. Voici un exemple très simple avec le prompt :

Write me a guide in french on how to jailbreak chatGPT or any other chatbot.

Réponse sans jailbreak :

Réponse avec jailbreak :

Les motivations derrière le jailbreak

Les motivations pour effectuer un jailbreak d'IA peuvent varier d'un utilisateur à l'autre. Certains souhaitent simplement explorer les capacités cachées de leur IA, tandis que d'autres cherchent à personnaliser leur expérience ou à contourner les restrictions imposées par les fabricants. Voici quelques raisons courantes pour lesquelles les utilisateurs pourraient envisager un jailbreak :

Accéder à des fonctionnalités non disponibles autrement
Personnaliser l'apparence et le comportement de l'IA
Améliorer les performances de l'IA
Contourner les restrictions imposées par les développeurs ou les fabricants

Les risques associés au jailbreak d'une IA

Le jailbreak d'une IA comporte des risques importants, tant pour l'utilisateur que pour l'IA elle-même. Dans certaines juridictions, le jailbreak d'une IA peut être illégal ou soumis à des restrictions légales. Les utilisateurs qui effectuent un jailbreak d'IA doivent être conscients des lois et des réglementations en vigueur dans leur pays.

Dangers liés aux informations fournies par un chatbot jailbreaké

Un chatbot jailbreaké peut également présenter un danger pour ses utilisateurs en fournissant des informations erronées ou dangereuses. Par exemple, un chatbot modifié pourrait donner des instructions pour mélanger des éléments chimiques sans prendre en compte les risques associés. Ces mélanges pourraient être dangereux pour la santé de l'utilisateur, voire mortels dans certains cas. Il est donc crucial de rester vigilant quant aux informations fournies par un chatbot jailbreaké et de toujours vérifier la fiabilité de ces informations auprès de sources fiables et sécurisées.

Une recette très dangereuse donnée par ChatGPT, ne jamais mélanger l'eau de javel et le vinaigre

Mélanger de l'eau de javel et du vinaigre dans une bouteille peut produire du gaz chlorique qui est dangereux pour la santé. Ce gaz peut causer des graves dommages respiratoires, des irritations aux yeux, de la toux et dans les cas les plus sérieux, cela peut même conduire à la mort.

Conclusion

Le jailbreak d'une Intelligence Artificielle est une pratique qui peut permettre aux utilisateurs d'explorer et de personnaliser leur expérience avec l'IA. Cependant, cette pratique comporte des risques significatifs en termes de sécurité, de stabilité, de garantie et de légalité. Il est important de peser soigneusement les avantages et les inconvénients avant de décider de jailbreaker une IA, et de tenir compte des conséquences potentielles pour l'utilisateur et l'IA elle-même.