文档 / ML Studio

训练

通过八个问题设计策略、启动训练、实时跟踪曲线、比较实验,并使用 SDK 从你自己的脚本上报结果。

本页内容

在 Yuli 中,训练是一项有计划、有验证、有记录的任务:即使关闭聊天也会继续运行,可以暂停,并会留下一个单独评估的模型版本。

设计策略

在 设计 标签页中,Yuli 提议 一种策略,并通过回答八个问题来说明理由:

#问题回答示例
1学什么客户是否会在未来 90 天内流失。
2选择了什么策略从零开始,使用梯度提升。
3为什么表格数据,40 000 行,没有先前的模型。
4评估了哪些备选方案逻辑回归(基线)和随机森林。
5需要哪些资源CPU,几分钟,少量内存。
6有哪些局限不了解注册不满一个月的客户。
7如何判断它变好了测试集 F1 ≥ 0.85,且优于基线。
8支持级别这条路径在 Yuli 中的验证程度。

查看、按需调整,然后点击 批准并训练 ›。

策略

策略何时使用
从零开始没有先前的模型。
热启动从先前版本的权重继续训练。
微调让已训练的模型适应你的数据。
提取特征把模型用作特征生成器。
半监督标签很少,而未标注的示例很多。
自监督从无标签数据中学习结构。
持续学习用新数据更新模型,同时不遗忘已学内容。

新建训练

在 新建训练 中填写:

字段含义
数据集用于训练的数据版本。
要预测的列目标(target)。
框架scikit-learn、PyTorch、Transformers、XGBoost、LightGBM 或自有脚本。
算法指定某个算法,或选择 自动(由 Yuli 选择)。
Epoch 数遍历数据的次数(神经网络)。
设备CPU 或 GPU。
模式单次训练、超参数搜索 或 AutoML。

内置的表格算法:逻辑回归和线性回归、ridge、lasso、随机森林、极端随机树(extra trees)、梯度提升、决策树、kNN、朴素贝叶斯、SVM、SGD 和 MLP。用于异常检测的算法:isolation forest、LOF 和稳健 z-score。

点击 训练 后,Yuli 会按顺序做三件事:

  1. 规划:计算内存、时间、设备和风险。
  2. 验证:确认数据没有变化、Python 环境已就绪,并且资源充足。
  3. 启动:开始运行任务。

状态与控制

状态含义
排队中等待轮到它或等待资源(例如“等待显存:需要 X,可用 Y”)。
验证中预先检查。
运行中正在训练。
正在暂停 / 已暂停保存检查点并停止。
已完成已结束并注册了一个版本。
失败因错误而停止;查看日志 会显示原因。
已取消由你手动停止。

控制按钮:暂停、恢复、取消 和 查看日志。

实时学习曲线

学习曲线 会在训练过程中绘制 train 和 验证 的损失与指标,并显示 第 n/N 个 epoch、目前最佳、已用时、剩余,如果使用 GPU,还会显示 GPU:名称。可以选择平滑程度(原始、平滑、非常平滑),当损失下降了几个数量级时,可启用 对数刻度。

如果验证损失上升,而训练损失仍在下降,说明模型在死记硬背:Yuli 会提示可能过拟合。请提前停止或降低模型复杂度。

实验与超参数搜索

实验 会保存每次训练的参数、数据和指标,便于并排比较。

  • 超参数搜索 使用 Optuna 尝试各种组合,并保留在验证集上表现最好的那个。
  • AutoML 会替你尝试多种算法和配置。
  • 如果你的团队使用 MLflow,可以将实验同步到那里(可选)。

使用 SDK 运行你自己的脚本

如果你已有训练循环(包括 spaCy),请使用 framework: script 并通过 yuli_ml.sdk 上报。你的脚本会像内置适配器一样出现在 ML Studio 中:曲线、暂停、检查点以及已注册的版本。

python
# train.py
import numpy as np
import yuli_ml.sdk as yuli

epochs = 20
device = yuli.device()          # "cuda:0"、"mps" 或 "cpu",取决于 Yuli 预留的设备
yuli.info(f"Entrenando en {device}")

start = 0
if yuli.resume_from():          # 暂停后恢复
    start = load_checkpoint(yuli.resume_from())

best_f1, best_epoch = 0.0, 0
for epoch in range(start, epochs):
    loss = train_one_epoch(device)
    f1 = validate()
    yuli.log("train/loss", loss, step=epoch, epoch=epoch)
    yuli.log("val/f1", f1, step=epoch, epoch=epoch, split="validation")
    if f1 > best_f1:
        best_f1, best_epoch = f1, epoch
    if yuli.should_stop():      # 用户点击了暂停或取消
        path = yuli.checkpoint_dir()
        save_checkpoint(path, epoch)
        yuli.checkpoint(path, step=epoch, epoch=epoch, resumable=True)
        yuli.stop()
    yuli.progress(epoch + 1, epochs)

yuli.save_model({"layer.weight": np.zeros((4, 4))}, metrics={"f1": best_f1}, best_epoch=best_epoch)
函数用途
log、progress、info实时指标、进度和消息。
should_stop、checkpoint、checkpoint_dir、resume_from暂停、检查点和恢复。
model_dir、save_model、report版本文件夹、最终权重和评估报告。
device、use_gpu预留的设备(如果使用 spaCy,还有 spacy.prefer_gpu())。
warm_start你进行微调时所基于版本的权重。

在 Yuli 之外(在终端中运行 python train.py),SDK 的每个调用都不执行任何操作:你的脚本照样可以独立运行。

需要自定义算法或指标?在 ml/extensions/*.py 中用 @ext.algorithm、@ext.metric 或 @ext.transform 编写,然后像内置的一样使用。下一步:评估与模型。