FINE-TUNING & ENTRAÎNEMENT DE LLMS

1.1 – Architecture des transformers et mécanismes d’attention

1.2 – Mathématiques du deep learning et backpropagation

1.3 – Tokenization, embeddings et représentations vectorielles

1.4 – Gradient descent et techniques d’optimisation avancées

1.5 – Infrastructure et environnements de développement

1.6 - QUIZ MODULE 1

2.1 – Collecte et curation de données de qualité

2.2 – Techniques de nettoyage et preprocessing avancées

2.3 – Augmentation de données et génération synthétique

2.4 – Annotation et labeling pour tasks spécialisées

2.5 – Validation et split des datasets pour éviter l’overfitting

2.6 - QUIZ MODULE 2

3.1 – Stratégies de fine-tuning

3.2 – Choix du modèle de base optimal par cas d’usage

3.3 – Hyperparameter tuning et grid search automatisé

3.4 – Techniques de regularization et early stopping

3.5 – Monitoring et debugging pendant l’entraînement

3.6 - QUIZ MODULE 3

4.1 – Design d’architectures personnalisées

4.2 – Stratégies d'entraînement progressif et curriculum learning

4.3 – Optimisation des ressources computationnelles (GPUTPU)

4.4 – Techniques de parallélisation et distributed training

4.5 – Checkpointing et recovery pour entraînements longs

4.6 - QUIZ MODULE 4

5.1 – Métriques d’évaluation adaptées à chaque tâche

5.2 – Benchmarking contre modèles state-of-the-art

5.3 – Techniques d’interprétabilité et explainability

5.4 – Optimisation post-entraînement (quantization, pruning)

5.5 – Déploiement et serving en production

5.6 - QUIZ MODULE 5

6.1 – Modèles de pricing pour services de fine-tuning

6.2 – Création d’APIs et marketplace de modèles

6.3 – Licensing et propriété intellectuelle des modèles

6.4 – Consulting haute valeur en IA personnalisée

6.5 – Scaling et industrialisation de vos services

6.6 - QUIZ MODULE 6

7.1 – Accès aux clusters GPU pour vos entraînements (500 $ de crédits)

7.2 – Stack technologique complète (PyTorch, Transformers, Accelerate)

7.3 – Datasets premium pour 20+ domaines d'application

7.4 – Templates de code pour tous types de fine-tuning

7.5 – Monitoring tools et dashboards de performance

7.6 - QUIZ MODULE 7

Pr sentation du cours et pourquoi fine-tuner ?

Installer Python, PyTorch et Hugging Face

Configurer Colab / Kaggle / RunPod avec GPU

Architecture Transformer en bref

Pr -entra nement, SFT, RLHF, DPO

Panorama des LLMs open-source en 2026

Quand fine-tuner vs prompter vs RAG

Collecte et nettoyage des donn es

Formats Alpaca, ChatML, ShareGPT, JSONL

Synth tiser des donn es avec GPT-4 / Claude

Datasets Hugging Face : push et versionning

Concepts du full fine-tuning

Hugging Face Trainer et TrainingArguments

Optimisations gradient accumulation, fp16, bf16

Sauvegarder et reprendre un entra nement

Principe de LoRA low-rank adaptation

QLoRA quantisation 4-bit et NF4

Choisir rank, alpha et target modules

Fusionner les adapters dans le mod le

Learning rate, batch size et poques

Schedulers cosine, linear, warmup

D tecter et viter l'overfitting

Monitoring avec Weights and Biases / TensorBoard

M triques classiques BLEU, ROUGE, perplexit

Benchmarks standard MMLU, ARC, HellaSwag

LLM-as-judge valuation avec GPT-4 / Claude

A/B testing et valuation humaine

DPO Direct Preference Optimization

ORPO et KTO alternatives modernes

Construire un dataset de pr f rences

Quantisation GGUF avec llama.cpp

Servir avec vLLM ou TGI (haute perf)

Ollama et int gration locale

Pr sentation du projet et choix du domaine

Pr paration du dataset sp cialis

Entra nement QLoRA et valuation

D ploiement Ollama et conclusion