跳到主要内容

自定义 API

UNIChat 原生支持所有兼容 OpenAI 格式 的 API 接口。这意味着不仅仅是 OpenAI 官方,绝大多数现代模型供应商(如 DeepSeek, Moonshot, SiliconCloud 等)以及本地推理框架(如 vLLM)都可以直接接入。

如何添加

  1. 进入 设置 -> API设置
  2. 点击右上角的 + 添加提供商 按钮,选择 底部的添加其他提供商
  3. 填写以下基础信息:
    • Name: 起一个你喜欢的名字(例如 "My Local Server")。
    • API类型: API的类型。
      • OpenAI Completion(Legacy): 老版本的OpenAI 兼容API,绝大多数提供商都使用这个。
      • OpenAI Response: OpenAI在推的新版本API格式,目前使用较少
    • 端点: API 的服务端点地址。结尾不要带“/”
      • 例如:https://api.deepseek.com/v1http://localhost:1234/v1
      • 尤其注意,填写之后请留意一下下面的预览,小心多填写了个“v1”或者多了一个“/“
  4. 填写 API Key
    • API Key: 你的认证密钥。如果是本地无鉴权服务,可随意填写(如 sk-123456)。
    • UNIChat支持自动的负载均衡,在添加多个Key的时候,他会自动随机使用APIKey。如果遇到某个Key被限额,会自动寻找可用的Key。这是完全自动的,不用额外设置。
    • 高级设置,用来手动控制Token的访问速率等,一般不用管,UniChat会自动根据调用的结果自动切换合适的Key。如果想要保证轮询的准确性,可以填写。
  5. 添加模型
    • 在搜索框中搜索你需要添加的模型,一般都有的。
    • 接着,在模型添加页面中输入模型的调用名。
      • 下面的模型属性设置一般不用动,只有在你的提供商的接口限制的时候才需要修改。(例如模型本身支持图片输入,但是你的提供商不支持图片输入,那么就需要修改这个属性)
  6. 点击保存