Skip to content

LLM 提供商 ​

每个翻译流水线 —— translate-ui、translate-docs、translate-json 和 translate-svg —— 都通过同一个与提供商无关的客户端将文本发送给 LLM。在这些命令运行之前,请在 ai-i18n-tools.config.json 中配置至少一个提供商,并在您的环境或 .env 中设置匹配的API 密钥(内置预设 Ollama 除外)。init 会写入一个初始的 provider / providers 块;您仍需为当前使用的预设提供凭据。

您只需在配置中一次性配置要调用的 API 端点;所有翻译命令都会共享该设置以及同一个 SQLite 缓存。提供商尝试使用哪些模型是另一个单独的步骤:AI 模型。

CLI从顶级provider键(或providers中唯一配置的条目)解析活动提供商。每个提供商块都列出了一个有序的translationModels回退链;内置预设自动继承baseUrl和API密钥环境变量(必要时可为每个提供商覆盖它们)。

内置提供商 ​

预设提供商键只需要translationModels——基本URL和API密钥环境变量会自动填充:

供应商API 密钥环境变量基础 URL
alibabaALIBABA_API_KEYhttps://dashscope-intl.aliyuncs.com/compatible-mode/v1
anthropicANTHROPIC_API_KEYhttps://api.anthropic.com/v1
apikeyfanAPIKEYFAN_API_KEYhttps://api.apikey.fan/v1
cerebrasCEREBRAS_API_KEYhttps://api.cerebras.ai/v1
cheaperinferenceCHEAPERINFERENCE_API_KEYhttps://api.cheaperinference.com/v1
deepseekDEEPSEEK_API_KEYhttps://api.deepseek.com
geminiGOOGLE_API_KEYhttps://generativelanguage.googleapis.com/v1beta/openai
groqGROQ_API_KEYhttps://api.groq.com/openai/v1
mistralMISTRAL_API_KEYhttps://api.mistral.ai/v1
nvidiaNVIDIA_API_KEYhttps://integrate.api.nvidia.com/v1
ollama(无)http://localhost:11434/v1
openaiOPENAI_API_KEYhttps://api.openai.com/v1
openrouterOPENROUTER_API_KEYhttps://openrouter.ai/api/v1
xaiXAI_API_KEYhttps://api.x.ai/v1

对于任何非预设键,请在配置中明确设置baseUrl和apiKeyEnv。

在您的环境中设置活动提供商的 API 密钥,或者在尚未设置提供商 API 密钥时,在 .env / .env.local 中(在 ai-i18n-tools.config.json 旁边)设置。CLI 会打印它从这些文件中读取的变量名称。请参阅环境变量。

零数据保留(更便宜的推理) ​

providers.cheaperinference.zeroDataRetention 是可选的,默认关闭。当此项目必须仅通过不保留提示的提供商发送提示时,请设置此项。

json
"cheaperinference": {
  "zeroDataRetention": true,
  "translationModels": ["gemini-2.5-flash", "deepseek-v4-flash"]
}

启用此标志后,每个聊天请求都包含 "zdr": true,并且 list-models、check-models 和 suggest-models(包括仪表板的“模型”选项卡)会读取 GET /v1/models?zdr=true。该目录列出了零数据保留请求可以使用的模型,并提供了零数据保留价格。check-models 会将该目录中缺失的 ID 视为无效。此标志不会为目录中未包含的模型创建路由。请从 translationModels、uiModels 或 localeModels 中移除该 ID。

当 Cheaper Inference 账户不需要零数据保留时,请关闭此标志。如果账户已启用 数据保护,Cheaper Inference 仍会拒绝没有零数据保留路由的模型。错误会指明该模型。为保留账户策略,请将 zeroDataRetention 设置为 true,并切换到零数据保留目录中的模型。为保留被拒绝的模型,请在该页面上关闭零数据保留。回退链会尝试下一个配置的模型。

模型 ​

有关选择模型、备用列表以及 suggest-models、check-models、list-models 和 bench-models 的信息,请参阅 AI 模型。

多个提供商 ​

当配置了多个提供商时,设置顶级provider键以选择默认提供商。无需编辑配置即可在每次运行中切换:

bash
npx ai-i18n-tools translate-docs -P anthropic
npx ai-i18n-tools bench-models -P deepseek

每个提供程序块可以定义自己的 translationModels、可选的 uiModels 和 localeModels、maxTokens、temperature,以及 requestTimeout(秒)或 requestTimeoutMs。提供程序上的超时会覆盖顶级的 requestTimeout / requestTimeoutMs。仍然接受旧版的顶级 openrouter 块,并在加载时自动迁移到 providers.openrouter。

可选的 pricing 和 modelPricing 设置每百万令牌的美元成本(inputPerMTokens 和 outputPerMTokens),当提供商省略 usage.cost 时。pricing 是提供商范围内的默认值;一个 modelPricing 条目会覆盖单个模型 ID 的设置。OpenRouter 和 Cheaper Inference 已返回每次调用的成本,因此请在这些提供商上将两者都留空。提供商报告的成本将按原样保留。该金额包含在翻译摘要中,usage 和 使用情况和成本。

针对同一文档使用四个提供商的可运行示例,包含示例费率:examples/multi-provider。

更多参考 ​

基于 MIT 许可证发布。