自定义 API
UNIChat 原生支持所有兼容 OpenAI 格式 的 API 接口。这意味着不仅仅是 OpenAI 官方,绝大多数现代模型供应商(如 DeepSeek, Moonshot, SiliconCloud 等)以及本地推理框架(如 vLLM)都可以直接接入。
如何添加
- 进入 设置 -> API设置。
- 点击右上角的 + 添加提供商 按钮,选择 底部的添加其他提供商。
- 填写以下基础信息:
- Name: 起一个你喜欢的名字(例如 "My Local Server")。
- API类型: API的类型。
- OpenAI Completion(Legacy): 老版本的OpenAI 兼容API,绝大多数提供商都使用这个。
- OpenAI Response: OpenAI在推的新版本API格式,目前使用较少。
- 端点: API 的服务端点地址。结尾不要带“/”
- 例如:
https://api.deepseek.com/v1或http://localhost:1234/v1。 - 尤其注意,填写之后请留意一下下面的预览,小心多填写了个“v1”或者多了一个“/“
- 例如:
- 填写 API Key
- API Key: 你的认证密钥。如果是本地无鉴权服务,可随意填写(如
sk-123456)。 - UNIChat支持自动的负载均衡,在添加多个Key的时候,他会自动随机使用APIKey。如果遇到某个Key被限额,会自动寻找可用的Key。这是完全自动的,不用额外设置。
- 高级设置,用来手动控制Token的访问速率等,一般不用管,UniChat会自动根据调用的结果自动切换合适的Key。如果想要保证轮询的准确性,可以填写。
- API Key: 你的认证密钥。如果是本地无鉴权服务,可随意填写(如
- 添加模型
- 在搜索框中搜索你需要添加的模型,一般都有的。
- 接着,在模型添加页面中输入模型的调用名。
- 下面的模型属性设置一般不用动,只有在你的提供商的接口限制的时候才需要修改。(例如模型本身支持图片输入,但是你的提供商不支持图片输入,那么就需要修改这个属性)
- 点击保存