Documentation / ML Studio

LLM Studio et RAG

Spécialisez des modèles de langage locaux avec SFT, DPO, ORPO, KTO, QLoRA et plus encore, quantifiez-les derrière une barrière de qualité, servez-les en local et répondez avec vos documents.

Sur cette page

LLM Studio (l’onglet Langage) spécialise de petits modèles de langage avec vos exemples. Connaissances indexe vos documents pour qu’un modèle puisse y puiser ses réponses (RAG). Les deux fonctionnent hors ligne, sur votre machine.

Modèles de base locaux

Un modèle de base est un modèle déjà entraîné que vous allez adapter. Dans Modèles de base locaux, vous voyez ceux qui se trouvent dans models/base du projet. Ils ne sont chargés qu’au format safetensors, jamais avec du code distant.

BaseUsage typique
SmolLM2, Qwen2.5, Phi-3.5Génération et chat.
BERT multilingueClassification et extraction d’entités.
E5, MiniLMEmbeddings pour la recherche et le RAG.

Télécharger une base depuis le catalogue nécessite que le projet autorise le réseau (policies.allowNetwork: true) et votre approbation. Créer une base minuscule crée un très petit modèle qui s’entraîne hors ligne sur n’importe quel CPU, pour tester le flux.

text
models/
└── base/
    └── qwen2.5-0.5b-instruct/
        ├── config.json
        ├── model.safetensors
        └── tokenizer.json

Méthodes de fine-tuning

MéthodeDonnéesPour quoi faire
SFT (LoRA)JSONL avec messages ou prompt/completionLui apprendre à répondre à partir d’exemples. LoRA n’entraîne qu’un petit adaptateur.
DPOprompt, chosen, rejectedAligner sur des préférences (bonne réponse face à une mauvaise).
ORPOprompt, chosen, rejectedPréférences sans modèle de référence.
KTOprompt, completion, labelPréférences non appariées.
IPOPaires de préférencesVariante de DPO plus robuste au surapprentissage.
RLHFPréférences humainesApprentissage par renforcement à partir de retours humains.
RLAIFPréférences d’un modèle jugeRenforcement à partir de retours d’IA.
DistillationRéponses d’un modèle enseignantTransmettre ce que sait un grand modèle à un petit.
QLoRAComme SFTBase chargée en 4 bits pour entraîner de plus grands modèles avec peu de VRAM.
Classificateur de textesCSV avec texte et étiquetteUn encodeur qui classe des textes.

Un exemple de données pour SFT :

json
{"messages": [{"role": "user", "content": "Comment réinitialiser mon mot de passe ?"},
              {"role": "assistant", "content": "Allez dans Compte › Sécurité et cliquez sur « Changer le mot de passe »."}]}

QLoRA ne fonctionne qu’avec un GPU NVIDIA et CUDA. Ajuster un petit LLM avec LoRA est possible sur CPU, mais lent. Voir Deep learning et GPU.

Comme pour les modèles tabulaires, vous disposez de courbes en direct, de la pause et de la reprise. À la fin, vous pouvez Fusionner l’adaptateur pour obtenir un modèle unique.

Évaluation et guardrails

À la fin d’un fine-tuning génératif, Yuli met lui-même une évaluation en file : perplexité (plus elle est basse, mieux c’est), correspondance exacte et F1 par tokens sur un ensemble de questions, contamination (si les questions figuraient dans l’entraînement) et vitesse (Tokens/s, Latence p95).

Les guardrails du manifeste (llm.guardrails) bloquent des motifs et masquent les données personnelles à chaque génération, aussi bien dans le panneau Tester que dans le service.

Quantification

Quantifier enregistre les poids avec moins de bits (int8, int4 ou GGUF) pour que le modèle prenne moins de place et soit plus rapide. Yuli applique une barrière de qualité : il compare le modèle quantifié à l’original sur des données qu’il n’a pas vues et n’accepte jamais une version qui perd en qualité au-delà de la tolérance. Si aucune option ne passe, le travail échoue avec les chiffres et aucune version dégradée n’est créée.

Moteur d’inférence intégré

Service local démarre un serveur propre à Yuli sur 127.0.0.1, compatible avec l’API d’OpenAI. Le moteur d’inférence de Yuli charge les safetensors, les adaptateurs LoRA, les versions quantifiées, GGUF et ONNX sans rien installer d’autre.

python
import os
from openai import OpenAI

# Seule la base URL change. La clé, si vous en utilisez une, vient d’une variable d’environnement, jamais du code.
client = OpenAI(base_url="http://127.0.0.1:<port>/v1", api_key=os.environ["LOCAL_LLM_KEY"])
reply = client.chat.completions.create(
    model="soporte-es",
    messages=[{"role": "user", "content": "Où puis-je voir ma licence ?"}],
)
print(reply.choices[0].message.content)

Connaissances (RAG)

Dans Connaissances, Créer une base de connaissances indexe un dossier du projet (avec des globs pour choisir les fichiers) en fragments. Elle utilise les embeddings propres à Yuli, hors ligne, ou un modèle local si vous l’indiquez.

RechercheComment elle trouve
HybrideCombine le sens et les mots. C’est généralement la meilleure option.
VecteursPar le sens (embeddings).
Mots (BM25)Par correspondance de termes.

La recherche explique pourquoi chaque fragment est remonté. Qualité de la récupération mesure, sur un ensemble de questions, si le bon fragment apparaît parmi les premiers (recall@k, MRR).

0 sur 4 faits

Mesurez la récupération avant d’accuser le modèle : si la recherche ne trouve pas le fragment, aucun LLM ne peut bien répondre.

Suite : Évaluation et modèles.