文档 / 智能体
模型与提供商
Platform 模式支持的提供商、本地模型、扩展推理、上下文、缓存、用量和预算。
在 Platform 模式 下,Yuli 引擎使用你选择的提供商和模型进行推理,并使用你自己的 API key。本页说明如何配置以及如何控制用量。
如果你更愿意使用 Claude Code、Kiro、Codex 或 Antigravity 的订阅,则无需进行这些配置。参见连接 AI。
提供商
| 提供商 | 用途 |
|---|---|
| Anthropic | Claude API。 |
| OpenAI | GPT 模型。 |
| Gemini | Google AI Studio。 |
| xAI | Grok。 |
| DeepSeek | DeepSeek API。 |
| Local | 运行在你的电脑或内网中、兼容 OpenAI API 的服务器:Ollama、LM Studio、vLLM 或 llama.cpp。 |
| AWS Bedrock | 使用你的 AWS 账户访问 Claude、Llama、Mistral、Nova…… |
| Vertex AI | 使用你的 Google Cloud 项目访问 Gemini 和 Claude。 |
配置提供商
通过以下任一方式打开 AI 提供商:
- 聊天标题栏 → 更多操作 → 模型设置。
- 全局选项(
Ctrl+Alt+S)→ AI 和模型 → 打开模型配置。
然后:
- 选择提供商卡片。
- 填写 API key 和 模型。对于 Local,还需填写 服务器 URL。
- 点击 测试连接(可选)。
- 启用 用作当前提供商。
- 点击 保存设置。
凭据保存在系统密钥链中,绝不会完整显示。如需修改其他信息而不重新输入密钥,将该字段留空即可:会保留当前密钥。
AWS Bedrock 和 Vertex AI
| 提供商 | 认证方式 |
|---|---|
| AWS Bedrock | 配置文件 / SSO、IAM 密钥、IAM 角色 或 API key。 |
| Vertex AI | ADC、服务账号、gcloud CLI 或 API key。 |
快速模型
你还可以选择定义一个 快速模型,用于摘要和标题等轻量任务。
本地模型
使用 Local 时,AI 的上下文不会离开你的网络。启动你的服务器(Ollama、LM Studio、vLLM 或 llama.cpp,开启其 OpenAI 兼容 API),填写其 URL 和模型名称,然后测试连接。
本地模型需要具备良好的工具调用能力才能操作 IDE。请先用一个小任务试试。
扩展推理
在同一面板中,扩展推理 提供 关闭、低、中 或 高 四个选项。
- 仅应用于智能体的主要工作,不用于摘要或标题。
- 仅适用于支持该功能的模型:Claude(API、Vertex 和 Bedrock)和 Gemini 2.5 的推理预算,以及 OpenAI 推理模型的推理强度。
上下文
Yuli 会替你管理上下文窗口:
- 了解每个模型的上下文大小。
- 活动文件、工作 diff、规则和上下文包都有上限。放不下的内容会被列出名称,智能体需要时可自行读取。
- 较长的对话会通过增量摘要进行压缩。
- 只发送适用于该项目的工具(例如,只有存在前端时才发送 Web Studio 的工具)。
提示词缓存
自动进行。系统提示词分为稳定部分和每轮变化的部分,只有稳定部分会被缓存。每条消息的上下文随该消息一起发送,因此对话的其余部分可以继续从缓存中读取。使用 Claude 模型时,任务中的每一轮都会复用之前的全部内容。
节省开销
- 中间没有变化的完全相同的调用不会重复执行。
- 相互独立的读取会并行完成。
- 需要批准的操作在批准后直接执行,无需与模型来回往返。
- 提供商宕机时会遵循其
retry-after。
用量与成本
| 位置 | 显示内容 |
|---|---|
| 状态栏 | 会话和当前任务的令牌数以及请求数。点击可查看详情。 |
| 本次会话用量 | 输入、输出 和 合计。这些是各提供商报告的数字,仅供参考。 |
| 智能体 → AI 请求(最近)… | 每个请求的令牌、成本、延迟和错误。 |
在订阅模式下,状态栏显示的是套餐用量(5 小时窗口和每周),而不是令牌计数。
预算
| 位置 | 设置 |
|---|---|
| 聊天标题栏的验证按钮 → 自动验证 | 最大迭代次数 和 每个任务的预算(USD)。 |
| 更多操作 → 智能体团队 | 每个任务预算(US$ 8)和 每个任务总预算(US$ 60)。 |
| 全局选项 → AI 和模型 → 后台任务 | 见下文。 |
后台任务
| 设置 | 默认值 |
|---|---|
| 并发任务数 | 2(1 到 8) |
| 每个任务的令牌数 | 2,000,000 |
| 每个任务的成本(US$) | 5 |
| 测试后的修复尝试次数 | 2 |
点击 保存限制 保存。当某个任务达到上限时,会暂停并显示用量条,你可以选择 提高限制并恢复。
AI 自动补全
本地引擎提供的内联自动补全始终可用。AI 自动补全默认关闭,可按需启用,并使用你偏好的提供商和模型。