Adaptation par modèle auxiliaire - Historique des versions

Pitpitt le 17 avril 2026 à 23:17

2026-04-17T23:17:43Z

← Version précédente		Version du 17 avril 2026 à 19:17
Ligne 38 :		Ligne 38 :
	'''low-rank adaptation'''		'''low-rank adaptation'''

	'''~~LoRA~~'''		''The idea is that of transfer learning, i.e. once you've learned the general task with pre-training, fine-tuning can be done with much less data.
			In this fine-tuning process, a small model (low-rank matrix) is trained with application-specific data, while the associated large model remains unchanged. This small auxiliary model will influence the performance of the large model.''
			''See also: retrieval augmented generation''


	==Español==		==Español==

Arianne le 7 décembre 2025 à 21:26

2025-12-07T21:26:49Z

← Version précédente		Version du 7 décembre 2025 à 17:26
Ligne 1 :		Ligne 1 :
	== Définition ==		== Définition ==
	Technique d'adaptation ou [[peaufinage]] des résultats d'un grand [[modèle préentraîné]] en utilisant un modèle auxiliaire de petite taille.		Technique d'adaptation ou de [[peaufinage]] des résultats d'un grand [[modèle préentraîné]] en utilisant un modèle auxiliaire de petite taille.

	Techniquement, ce modèle auxiliaire prend la forme une matrice de rang inférieur.		Techniquement, ce modèle auxiliaire prend la forme une matrice de rang inférieur.
Ligne 39 :		Ligne 39 :

	'''LoRA'''		'''LoRA'''


	==Español==		==Español==

Pitpitt : Remplacement de texte : « ==Español== » par « ==Español== Catégorie:es »

2025-09-24T00:55:59Z

Remplacement de texte : « ==Español== » par « ==Español== Catégorie:es »

← Version précédente		Version du 23 septembre 2025 à 20:55
Ligne 42 :		Ligne 42 :

	==Español==		==Español==
			[[Catégorie:es]]

	'''''adaptación de bajo rango '''''		'''''adaptación de bajo rango '''''

Jean-Sébastien Zavalone le 21 juillet 2025 à 14:26

2025-07-21T14:26:18Z

← Version précédente		Version du 21 juillet 2025 à 10:26
Ligne 46 :		Ligne 46 :

	''La idea es la del aprendizaje por transferencia, es decir, una vez aprendida la tarea general con el preentrenamiento, el ajuste fino puede hacerse con muchos menos datos. En este proceso de ajuste fino, un modelo pequeño (matriz de bajo rango) se entrena con datos específicos de la aplicación, mientras que el modelo grande asociado permanece inalterado.		''La idea es la del aprendizaje por transferencia, es decir, una vez aprendida la tarea general con el preentrenamiento, el ajuste fino puede hacerse con muchos menos datos. En este proceso de ajuste fino, un modelo pequeño (matriz de bajo rango) se entrena con datos específicos de la aplicación, mientras que el modelo grande asociado permanece inalterado.
	Este pequeño modelo auxiliar influirá en el rendimiento del modelo grande.		Este pequeño modelo auxiliar influirá en el rendimiento del modelo grande.''

	Véase también: generación de información contextual aumentada. ''		''Véase también: generación de información contextual aumentada.''

Jean-Sébastien Zavalone le 21 juillet 2025 à 14:25

2025-07-21T14:25:49Z

← Version précédente		Version du 21 juillet 2025 à 10:25
Ligne 46 :		Ligne 46 :

	''La idea es la del aprendizaje por transferencia, es decir, una vez aprendida la tarea general con el preentrenamiento, el ajuste fino puede hacerse con muchos menos datos. En este proceso de ajuste fino, un modelo pequeño (matriz de bajo rango) se entrena con datos específicos de la aplicación, mientras que el modelo grande asociado permanece inalterado.		''La idea es la del aprendizaje por transferencia, es decir, una vez aprendida la tarea general con el preentrenamiento, el ajuste fino puede hacerse con muchos menos datos. En este proceso de ajuste fino, un modelo pequeño (matriz de bajo rango) se entrena con datos específicos de la aplicación, mientras que el modelo grande asociado permanece inalterado.
	Este pequeño modelo auxiliar influirá en el rendimiento del modelo grande. Véase también: generación de información contextual aumentada. ''		Este pequeño modelo auxiliar influirá en el rendimiento del modelo grande.

			Véase también: generación de información contextual aumentada. ''

Jean-Sébastien Zavalone le 21 juillet 2025 à 14:25

2025-07-21T14:25:17Z

← Version précédente		Version du 21 juillet 2025 à 10:25
Ligne 39 :		Ligne 39 :

	'''LoRA'''		'''LoRA'''


			==Español==

			'''''adaptación de bajo rango '''''

			''La idea es la del aprendizaje por transferencia, es decir, una vez aprendida la tarea general con el preentrenamiento, el ajuste fino puede hacerse con muchos menos datos. En este proceso de ajuste fino, un modelo pequeño (matriz de bajo rango) se entrena con datos específicos de la aplicación, mientras que el modelo grande asociado permanece inalterado.
			Este pequeño modelo auxiliar influirá en el rendimiento del modelo grande. Véase también: generación de información contextual aumentada. ''


	==Sources==		==Sources==

Pitpitt le 26 juin 2025 à 14:08

2025-06-26T14:08:05Z

← Version précédente		Version du 26 juin 2025 à 10:08
Ligne 46 :		Ligne 46 :

	[https://huggingface.co/papers/2405.09673 Source : huggingface]		[https://huggingface.co/papers/2405.09673 Source : huggingface]



	[[Catégorie:GRAND LEXIQUE FRANÇAIS]]		[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
	[[Catégorie:Intelligence artificielle]]		[[Catégorie:Intelligence artificielle]]
	[[Catégorie:101]]		[[Catégorie:101]]

Pitpitt le 26 juin 2025 à 14:07

2025-06-26T14:07:27Z

← Version précédente		Version du 26 juin 2025 à 10:07
Ligne 44 :		Ligne 44 :

	[https://bdtechtalks.com/2023/05/22/what-is-lora/ Source : TechTalks]		[https://bdtechtalks.com/2023/05/22/what-is-lora/ Source : TechTalks]

			[https://huggingface.co/papers/2405.09673 Source : huggingface]



	[[Catégorie:GRAND LEXIQUE FRANÇAIS]]		[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
	[[Catégorie:Intelligence artificielle]]		[[Catégorie:Intelligence artificielle]]
	[[Catégorie:101]]		[[Catégorie:101]]

Arianne le 11 janvier 2025 à 17:04

2025-01-11T17:04:53Z

← Version précédente		Version du 11 janvier 2025 à 13:04
Ligne 7 :		Ligne 7 :

	== Compléments ==		== Compléments ==
	L'idée est celle de l'[[apprentissage par transfert]], c’est-à-dire qu'une fois que vous avez appris la tâche générale avec le [[préentraînement]], on peut faire le [[peaufinage]] avec beaucoup moins de données.		L'idée est celle de l'[[apprentissage par transfert]], c’est-à-dire qu'une fois que vous avez appris la tâche générale avec un [[préentraînement]], on peut faire le [[peaufinage]] avec beaucoup moins de données.

	Dans ce processus de [[peaufinage]], un modèle de petite taille (matrice de rang inférieur) est entraîné avec des données spécifiques à l’application alors que le grand modèle associé demeure inchangé. Ce petit modèle auxiliaire aura une influence sur les performances du grand modèle.		Dans ce processus de [[peaufinage]], un modèle de petite taille (matrice de rang inférieur) est entraîné avec des données spécifiques à l’application alors que le grand modèle associé demeure inchangé. Ce petit modèle auxiliaire aura une influence sur les performances du grand modèle.

Arianne le 11 janvier 2025 à 17:02

2025-01-11T17:02:36Z

← Version précédente		Version du 11 janvier 2025 à 13:02
Ligne 7 :		Ligne 7 :

	== Compléments ==		== Compléments ==
	L'idée est celle de l'[[apprentissage par transfert]], c’est-à-dire qu'une fois que vous avez appris la tâche générale avec ~~la pré-entraînement~~, on peut faire le [[peaufinage]] avec beaucoup moins de données.		L'idée est celle de l'[[apprentissage par transfert]], c’est-à-dire qu'une fois que vous avez appris la tâche générale avec le [[préentraînement]], on peut faire le [[peaufinage]] avec beaucoup moins de données.

	Dans de processus de [[peaufinage]], un modèle de petite taille (matrice de rang inférieur) est entraîné avec des données spécifiques à l’application alors que le grand modèle associé demeure inchangé. Ce petit modèle auxiliaire aura une influence sur les performances du grand modèle.		Dans ce processus de [[peaufinage]], un modèle de petite taille (matrice de rang inférieur) est entraîné avec des données spécifiques à l’application alors que le grand modèle associé demeure inchangé. Ce petit modèle auxiliaire aura une influence sur les performances du grand modèle.

	Note: Comme dans le cas de « [[blockchain]] » maladroitement traduit par « chaîne de blocs », ~~on a~~ créé en anglais ~~un terme~~ « low-rank adaptation » à partir d'un détail d'implémentation informatique. Nous pensons que le concept de modèle auxiliaire est plus compréhensible et d'emploi plus général.		Note: Comme dans le cas de « [[blockchain]] », maladroitement traduit par « chaîne de blocs », nous avons créé le terme anglais « low-rank adaptation » à partir d'un détail d'implémentation informatique. Nous pensons que le concept de modèle auxiliaire est plus compréhensible et d'emploi plus général.

	Voir aussi: [[génération augmentée d'information contextuelle]]		Voir aussi: [[génération augmentée d'information contextuelle]]

Adaptation par modèle auxiliaire - Historique des versions

Pitpitt le 17 avril 2026 à 23:17

Arianne le 7 décembre 2025 à 21:26

Pitpitt : Remplacement de texte : « ==Español== » par « ==Español== Catégorie:es »

Jean-Sébastien Zavalone le 21 juillet 2025 à 14:26

Jean-Sébastien Zavalone le 21 juillet 2025 à 14:25

Jean-Sébastien Zavalone le 21 juillet 2025 à 14:25

Pitpitt le 26 juin 2025 à 14:08

Pitpitt le 26 juin 2025 à 14:07

Arianne le 11 janvier 2025 à 17:04

Arianne le 11 janvier 2025 à 17:02

Pitpitt : Remplacement de texte : « ==Español== » par « ==Español== Catégorie:es »