Débridage
Définition
Action qui consiste à contourner les restrictions d'utilisation de différents systèmes informatiques (matériels ou logiciels) dont des grands modèles de langues.
Voir attaque adverse.
Compléments
L'action correspondante se nomme débridage et s'effectue, pour un grand modèle de langues, à l'aide d'une ou de plusieurs requêtes astucieusement rédigées.
Français
débridage
débrider
Anglais
jailbreak
jailbreaking
Español
ataques antagónico
El objetivo de los ataques antagónicos es enviar datos desviados o corruptos (prompt) a un sistema de inteligencia artificial, normalmente un modelo basado en una red neuronal profunda, en la fase de producción para que se comporte de forma defectuosa.
Sources
Researchers Use AI to Jailbreak ChatGPT, Other LLMs Source: Darkreading
Quack: Automatic Jailbreaking Large Language Models via Role-playing Source : Jin et al. 2023
101 MOTS DE L' IA
Ce terme est sélectionné pour le livre « Les 101 mots de l'intelligence artificielle »
Contributeurs: Claude Coulombe, Espanol: Jean-Sébastien Zavalone, Patrick Drouin, wiki
