Documentation / ML Studio
LLM Studio et RAG
Spécialisez des modèles de langage locaux avec SFT, DPO, ORPO, KTO, QLoRA et plus encore, quantifiez-les derrière une barrière de qualité, servez-les en local et répondez avec vos documents.
Sur cette page
LLM Studio (l’onglet Langage) spécialise de petits modèles de langage avec vos exemples. Connaissances indexe vos documents pour qu’un modèle puisse y puiser ses réponses (RAG). Les deux fonctionnent hors ligne, sur votre machine.
Modèles de base locaux
Un modèle de base est un modèle déjà entraîné que vous allez adapter. Dans Modèles de base locaux, vous voyez
ceux qui se trouvent dans models/base du projet. Ils ne sont chargés qu’au format safetensors, jamais avec du
code distant.
| Base | Usage typique |
|---|---|
| SmolLM2, Qwen2.5, Phi-3.5 | Génération et chat. |
| BERT multilingue | Classification et extraction d’entités. |
| E5, MiniLM | Embeddings pour la recherche et le RAG. |
Télécharger une base depuis le catalogue nécessite que le projet autorise le réseau (policies.allowNetwork: true)
et votre approbation. Créer une base minuscule crée un très petit modèle qui s’entraîne hors ligne sur n’importe
quel CPU, pour tester le flux.
models/
└── base/
└── qwen2.5-0.5b-instruct/
├── config.json
├── model.safetensors
└── tokenizer.jsonMéthodes de fine-tuning
| Méthode | Données | Pour quoi faire |
|---|---|---|
| SFT (LoRA) | JSONL avec messages ou prompt/completion | Lui apprendre à répondre à partir d’exemples. LoRA n’entraîne qu’un petit adaptateur. |
| DPO | prompt, chosen, rejected | Aligner sur des préférences (bonne réponse face à une mauvaise). |
| ORPO | prompt, chosen, rejected | Préférences sans modèle de référence. |
| KTO | prompt, completion, label | Préférences non appariées. |
| IPO | Paires de préférences | Variante de DPO plus robuste au surapprentissage. |
| RLHF | Préférences humaines | Apprentissage par renforcement à partir de retours humains. |
| RLAIF | Préférences d’un modèle juge | Renforcement à partir de retours d’IA. |
| Distillation | Réponses d’un modèle enseignant | Transmettre ce que sait un grand modèle à un petit. |
| QLoRA | Comme SFT | Base chargée en 4 bits pour entraîner de plus grands modèles avec peu de VRAM. |
| Classificateur de textes | CSV avec texte et étiquette | Un encodeur qui classe des textes. |
Un exemple de données pour SFT :
{"messages": [{"role": "user", "content": "Comment réinitialiser mon mot de passe ?"},
{"role": "assistant", "content": "Allez dans Compte › Sécurité et cliquez sur « Changer le mot de passe »."}]}QLoRA ne fonctionne qu’avec un GPU NVIDIA et CUDA. Ajuster un petit LLM avec LoRA est possible sur CPU, mais lent. Voir Deep learning et GPU.
Comme pour les modèles tabulaires, vous disposez de courbes en direct, de la pause et de la reprise. À la fin, vous pouvez Fusionner l’adaptateur pour obtenir un modèle unique.
Évaluation et guardrails
À la fin d’un fine-tuning génératif, Yuli met lui-même une évaluation en file : perplexité (plus elle est basse, mieux c’est), correspondance exacte et F1 par tokens sur un ensemble de questions, contamination (si les questions figuraient dans l’entraînement) et vitesse (Tokens/s, Latence p95).
Les guardrails du manifeste (llm.guardrails) bloquent des motifs et masquent les données personnelles à chaque
génération, aussi bien dans le panneau Tester que dans le service.
Quantification
Quantifier enregistre les poids avec moins de bits (int8, int4 ou GGUF) pour que le modèle prenne moins de place et soit plus rapide. Yuli applique une barrière de qualité : il compare le modèle quantifié à l’original sur des données qu’il n’a pas vues et n’accepte jamais une version qui perd en qualité au-delà de la tolérance. Si aucune option ne passe, le travail échoue avec les chiffres et aucune version dégradée n’est créée.
Moteur d’inférence intégré
Service local démarre un serveur propre à Yuli sur 127.0.0.1, compatible avec l’API d’OpenAI. Le moteur
d’inférence de Yuli charge les safetensors, les adaptateurs LoRA, les versions quantifiées, GGUF et
ONNX sans rien installer d’autre.
import os
from openai import OpenAI
# Seule la base URL change. La clé, si vous en utilisez une, vient d’une variable d’environnement, jamais du code.
client = OpenAI(base_url="http://127.0.0.1:<port>/v1", api_key=os.environ["LOCAL_LLM_KEY"])
reply = client.chat.completions.create(
model="soporte-es",
messages=[{"role": "user", "content": "Où puis-je voir ma licence ?"}],
)
print(reply.choices[0].message.content)Connaissances (RAG)
Dans Connaissances, Créer une base de connaissances indexe un dossier du projet (avec des globs pour choisir les fichiers) en fragments. Elle utilise les embeddings propres à Yuli, hors ligne, ou un modèle local si vous l’indiquez.
| Recherche | Comment elle trouve |
|---|---|
| Hybride | Combine le sens et les mots. C’est généralement la meilleure option. |
| Vecteurs | Par le sens (embeddings). |
| Mots (BM25) | Par correspondance de termes. |
La recherche explique pourquoi chaque fragment est remonté. Qualité de la récupération mesure, sur un ensemble de questions, si le bon fragment apparaît parmi les premiers (recall@k, MRR).
Mesurez la récupération avant d’accuser le modèle : si la recherche ne trouve pas le fragment, aucun LLM ne peut bien répondre.
Suite : Évaluation et modèles.