Jailbreak
Aussi : débridage
Manœuvre par laquelle un utilisateur rédige ses demandes de façon à faire produire à un modèle ce que ses garde-fous lui interdisent.
Jeux de rôle, scénarios fictifs, consignes fragmentées, suites de caractères conçues pour dérouter le modèle : les procédés changent au rythme des correctifs. L’OWASP y voit une forme d’injection de prompt, et note que les deux termes sont souvent employés l’un pour l’autre. La nuance d’usage : le jailbreak vise les règles de sécurité du modèle, l’injection détourne une application qui l’emploie.
Le terme concerne peu un site, sauf dans deux cas. Si vous exposez un assistant à vos visiteurs, il sera testé : un chatbot de marque amené à insulter, à promettre une remise ou à dénigrer un concurrent finit en capture d’écran. Et les « prompts secrets » censés obtenir d’un assistant qu’il recommande une marque relèvent du même registre : ils n’agissent, au mieux, que sur la session de celui qui les tape.