« Suppression de jeton textuel » : différence entre les versions


m (Arianne a déplacé la page Token Deletion vers Suppression de segment textuel)
m (Patrickdrouin a déplacé la page Suppression de segment textuel vers Suppression de jeton textuel)
 
(2 versions intermédiaires par 2 utilisateurs non affichées)
Ligne 1 : Ligne 1 :
== en construction ==
== Définition ==
== Définition ==
Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où les '''[[Segment textuel|segments textuels]]''' sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les segments à partir desquels les positions sont supprimées.
Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où les '''[[jeton textuel|jetons textuels]]''' sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.


== Français ==
== Français ==
''' suppression de segment textuel'''
''' suppression de jeton textuel'''


''' destruction de segment textuel'''
''' destruction de jeton textuel'''


== Anglais ==
== Anglais ==
Ligne 18 : Ligne 16 :
[https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html  Source : GitHub]
[https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html  Source : GitHub]


[[Catégorie:vocabulary]]
[[Catégorie:GRAND_LEXIQUE_FRANÇAIS]]
[[Catégorie:Publication]]

Dernière version du 9 juin 2026 à 14:49

Définition

Technique utilisée pour le préentraînement d’un modèle où les jetons textuels sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.

Français

suppression de jeton textuel

destruction de jeton textuel

Anglais

token deletion

Sources

Source : arxiv

Source : GitHub

Contributeurs: Arianne Arel, Patrick Drouin, wiki