文档 / 智能体

模型与提供商

Platform 模式支持的提供商、本地模型、扩展推理、上下文、缓存、用量和预算。

在 Platform 模式 下,Yuli 引擎使用你选择的提供商和模型进行推理,并使用你自己的 API key。本页说明如何配置以及如何控制用量。

如果你更愿意使用 Claude Code、Kiro、Codex 或 Antigravity 的订阅,则无需进行这些配置。参见连接 AI。

提供商

提供商 用途
Anthropic Claude API。
OpenAI GPT 模型。
Gemini Google AI Studio。
xAI Grok。
DeepSeek DeepSeek API。
Local 运行在你的电脑或内网中、兼容 OpenAI API 的服务器:Ollama、LM Studio、vLLM 或 llama.cpp。
AWS Bedrock 使用你的 AWS 账户访问 Claude、Llama、Mistral、Nova……
Vertex AI 使用你的 Google Cloud 项目访问 Gemini 和 Claude。

配置提供商

通过以下任一方式打开 AI 提供商:

  • 聊天标题栏 → 更多操作 → 模型设置。
  • 全局选项(Ctrl+Alt+S)→ AI 和模型 → 打开模型配置。

然后:

  1. 选择提供商卡片。
  2. 填写 API key 和 模型。对于 Local,还需填写 服务器 URL。
  3. 点击 测试连接(可选)。
  4. 启用 用作当前提供商。
  5. 点击 保存设置。

凭据保存在系统密钥链中,绝不会完整显示。如需修改其他信息而不重新输入密钥,将该字段留空即可:会保留当前密钥。

AWS Bedrock 和 Vertex AI

提供商 认证方式
AWS Bedrock 配置文件 / SSO、IAM 密钥、IAM 角色 或 API key。
Vertex AI ADC、服务账号、gcloud CLI 或 API key。

快速模型

你还可以选择定义一个 快速模型,用于摘要和标题等轻量任务。

本地模型

使用 Local 时,AI 的上下文不会离开你的网络。启动你的服务器(Ollama、LM Studio、vLLM 或 llama.cpp,开启其 OpenAI 兼容 API),填写其 URL 和模型名称,然后测试连接。

本地模型需要具备良好的工具调用能力才能操作 IDE。请先用一个小任务试试。

扩展推理

在同一面板中,扩展推理 提供 关闭、低、中 或 高 四个选项。

  • 仅应用于智能体的主要工作,不用于摘要或标题。
  • 仅适用于支持该功能的模型:Claude(API、Vertex 和 Bedrock)和 Gemini 2.5 的推理预算,以及 OpenAI 推理模型的推理强度。

上下文

Yuli 会替你管理上下文窗口:

  • 了解每个模型的上下文大小。
  • 活动文件、工作 diff、规则和上下文包都有上限。放不下的内容会被列出名称,智能体需要时可自行读取。
  • 较长的对话会通过增量摘要进行压缩。
  • 只发送适用于该项目的工具(例如,只有存在前端时才发送 Web Studio 的工具)。

提示词缓存

自动进行。系统提示词分为稳定部分和每轮变化的部分,只有稳定部分会被缓存。每条消息的上下文随该消息一起发送,因此对话的其余部分可以继续从缓存中读取。使用 Claude 模型时,任务中的每一轮都会复用之前的全部内容。

节省开销

  • 中间没有变化的完全相同的调用不会重复执行。
  • 相互独立的读取会并行完成。
  • 需要批准的操作在批准后直接执行,无需与模型来回往返。
  • 提供商宕机时会遵循其 retry-after。

用量与成本

位置 显示内容
状态栏 会话和当前任务的令牌数以及请求数。点击可查看详情。
本次会话用量 输入、输出 和 合计。这些是各提供商报告的数字,仅供参考。
智能体 → AI 请求(最近)… 每个请求的令牌、成本、延迟和错误。

在订阅模式下,状态栏显示的是套餐用量(5 小时窗口和每周),而不是令牌计数。

预算

位置 设置
聊天标题栏的验证按钮 → 自动验证 最大迭代次数 和 每个任务的预算(USD)。
更多操作 → 智能体团队 每个任务预算(US$ 8)和 每个任务总预算(US$ 60)。
全局选项 → AI 和模型 → 后台任务 见下文。

后台任务

设置 默认值
并发任务数 2(1 到 8)
每个任务的令牌数 2,000,000
每个任务的成本(US$) 5
测试后的修复尝试次数 2

点击 保存限制 保存。当某个任务达到上限时,会暂停并显示用量条,你可以选择 提高限制并恢复。

AI 自动补全

本地引擎提供的内联自动补全始终可用。AI 自动补全默认关闭,可按需启用,并使用你偏好的提供商和模型。