on-policy-distillation
Train models using token-level KL distillation with teacher models. Use when you want true on-policy distillation (Thinking Machines approach), token-level KL penalty, or training with Qwen/Llama as teacher. Triggers on "on-policy", "token-level KL", "KL penalty", "Thinking Machines", "teacher logprobs", "distillation training".
Installation
Suivez les instructions du dépôt pour votre agent. Consultez les fichiers et dépendances avant l’installation.
Voir la source ↗GuidesInstructions
Fonctions et usage
Train models using token-level KL distillation with teacher models. Use when you want true on-policy distillation (Thinking Machines approach), token-level KL penalty, or training with Qwen/Llama as teacher. Triggers on "on-policy", "token-level KL", "KL penalty", "Thinking Machines", "teacher logprobs", "distillation training".
Démarrage rapide
Suivez les instructions du dépôt pour votre agent. Consultez les fichiers et dépendances avant l’installation.
Guides ↗Exemples
Consultez les exemples du dépôt source.
Voir la source ↗Historique source
- Date d’indexation
- 2026-01-23
- Mise à jour de l’index
- 2026-03-05
- Branch
- main
Les dates concernent ce répertoire. Consultez le dépôt pour l’historique du code.
GitHub ↗chat Comments (0)
Sign in to join the discussion and leave a comment.
No comments yet. Be the first to share your thoughts!