文档 / ML Studio
训练
通过八个问题设计策略、启动训练、实时跟踪曲线、比较实验,并使用 SDK 从你自己的脚本上报结果。
本页内容
在 Yuli 中,训练是一项有计划、有验证、有记录的任务:即使关闭聊天也会继续运行,可以暂停,并会留下一个单独评估的模型版本。
设计策略
在 设计 标签页中,Yuli 提议 一种策略,并通过回答八个问题来说明理由:
| # | 问题 | 回答示例 |
|---|---|---|
| 1 | 学什么 | 客户是否会在未来 90 天内流失。 |
| 2 | 选择了什么策略 | 从零开始,使用梯度提升。 |
| 3 | 为什么 | 表格数据,40 000 行,没有先前的模型。 |
| 4 | 评估了哪些备选方案 | 逻辑回归(基线)和随机森林。 |
| 5 | 需要哪些资源 | CPU,几分钟,少量内存。 |
| 6 | 有哪些局限 | 不了解注册不满一个月的客户。 |
| 7 | 如何判断它变好了 | 测试集 F1 ≥ 0.85,且优于基线。 |
| 8 | 支持级别 | 这条路径在 Yuli 中的验证程度。 |
查看、按需调整,然后点击 批准并训练 ›。
策略
| 策略 | 何时使用 |
|---|---|
| 从零开始 | 没有先前的模型。 |
| 热启动 | 从先前版本的权重继续训练。 |
| 微调 | 让已训练的模型适应你的数据。 |
| 提取特征 | 把模型用作特征生成器。 |
| 半监督 | 标签很少,而未标注的示例很多。 |
| 自监督 | 从无标签数据中学习结构。 |
| 持续学习 | 用新数据更新模型,同时不遗忘已学内容。 |
新建训练
在 新建训练 中填写:
| 字段 | 含义 |
|---|---|
| 数据集 | 用于训练的数据版本。 |
| 要预测的列 | 目标(target)。 |
| 框架 | scikit-learn、PyTorch、Transformers、XGBoost、LightGBM 或自有脚本。 |
| 算法 | 指定某个算法,或选择 自动(由 Yuli 选择)。 |
| Epoch 数 | 遍历数据的次数(神经网络)。 |
| 设备 | CPU 或 GPU。 |
| 模式 | 单次训练、超参数搜索 或 AutoML。 |
内置的表格算法:逻辑回归和线性回归、ridge、lasso、随机森林、极端随机树(extra trees)、梯度提升、决策树、kNN、朴素贝叶斯、SVM、SGD 和 MLP。用于异常检测的算法:isolation forest、LOF 和稳健 z-score。
点击 训练 后,Yuli 会按顺序做三件事:
- 规划:计算内存、时间、设备和风险。
- 验证:确认数据没有变化、Python 环境已就绪,并且资源充足。
- 启动:开始运行任务。
状态与控制
| 状态 | 含义 |
|---|---|
| 排队中 | 等待轮到它或等待资源(例如“等待显存:需要 X,可用 Y”)。 |
| 验证中 | 预先检查。 |
| 运行中 | 正在训练。 |
| 正在暂停 / 已暂停 | 保存检查点并停止。 |
| 已完成 | 已结束并注册了一个版本。 |
| 失败 | 因错误而停止;查看日志 会显示原因。 |
| 已取消 | 由你手动停止。 |
控制按钮:暂停、恢复、取消 和 查看日志。
实时学习曲线
学习曲线 会在训练过程中绘制 train 和 验证 的损失与指标,并显示 第 n/N 个 epoch、目前最佳、已用时、剩余,如果使用 GPU,还会显示 GPU:名称。可以选择平滑程度(原始、平滑、非常平滑),当损失下降了几个数量级时,可启用 对数刻度。
如果验证损失上升,而训练损失仍在下降,说明模型在死记硬背:Yuli 会提示可能过拟合。请提前停止或降低模型复杂度。
实验与超参数搜索
实验 会保存每次训练的参数、数据和指标,便于并排比较。
- 超参数搜索 使用 Optuna 尝试各种组合,并保留在验证集上表现最好的那个。
- AutoML 会替你尝试多种算法和配置。
- 如果你的团队使用 MLflow,可以将实验同步到那里(可选)。
使用 SDK 运行你自己的脚本
如果你已有训练循环(包括 spaCy),请使用 framework: script 并通过 yuli_ml.sdk 上报。你的脚本会像内置适配器一样出现在 ML Studio 中:曲线、暂停、检查点以及已注册的版本。
# train.py
import numpy as np
import yuli_ml.sdk as yuli
epochs = 20
device = yuli.device() # "cuda:0"、"mps" 或 "cpu",取决于 Yuli 预留的设备
yuli.info(f"Entrenando en {device}")
start = 0
if yuli.resume_from(): # 暂停后恢复
start = load_checkpoint(yuli.resume_from())
best_f1, best_epoch = 0.0, 0
for epoch in range(start, epochs):
loss = train_one_epoch(device)
f1 = validate()
yuli.log("train/loss", loss, step=epoch, epoch=epoch)
yuli.log("val/f1", f1, step=epoch, epoch=epoch, split="validation")
if f1 > best_f1:
best_f1, best_epoch = f1, epoch
if yuli.should_stop(): # 用户点击了暂停或取消
path = yuli.checkpoint_dir()
save_checkpoint(path, epoch)
yuli.checkpoint(path, step=epoch, epoch=epoch, resumable=True)
yuli.stop()
yuli.progress(epoch + 1, epochs)
yuli.save_model({"layer.weight": np.zeros((4, 4))}, metrics={"f1": best_f1}, best_epoch=best_epoch)| 函数 | 用途 |
|---|---|
log、progress、info | 实时指标、进度和消息。 |
should_stop、checkpoint、checkpoint_dir、resume_from | 暂停、检查点和恢复。 |
model_dir、save_model、report | 版本文件夹、最终权重和评估报告。 |
device、use_gpu | 预留的设备(如果使用 spaCy,还有 spacy.prefer_gpu())。 |
warm_start | 你进行微调时所基于版本的权重。 |
在 Yuli 之外(在终端中运行 python train.py),SDK 的每个调用都不执行任何操作:你的脚本照样可以独立运行。
需要自定义算法或指标?在 ml/extensions/*.py 中用 @ext.algorithm、@ext.metric 或 @ext.transform 编写,然后像内置的一样使用。下一步:评估与模型。