跳到內容

其他應用

支援自定義 OpenAI 或 Anthropic 接口的應用,都可以接入 Rabah,比如各種聊天客戶端、編輯器插件、翻譯工具和自動化工具。

應用裡的設定名稱各不相同,但需要填的都是這三項:

設定項常見名稱填什麼
接入地址Base URL、API 地址、API Endpoint、代理地址見下表
密鑰API Key、密鑰、Token你的 Rabah 密鑰
模型Model、模型名模型廣場 裡的模型名

接入地址按應用選擇的接口類型來填:

應用裡選的類型接入地址
OpenAI / OpenAI 兼容 / 自定義 OpenAIhttps://api.rabah.ai/v1
Anthropic / Claudehttps://api.rabah.ai

一般優先選 OpenAI 兼容,支援的應用最多。

有的應用會自己在地址後面加上 /v1,有的不會。如果按上表填寫後請求報 404,看看應用的說明或示例:

  • 示例裡寫的是 https://api.openai.com/v1:填 https://api.rabah.ai/v1。
  • 示例裡寫的是 https://api.openai.com:填 https://api.rabah.ai。

很多應用有”獲取模型”或”檢查”按鈕,它會調用 /v1/models,列出這個密鑰能用的模型。列表為空時,檢查密鑰的”線路與模型”設定。

用官方 SDK 時,只要改接入地址和密鑰。以 OpenAI 的 Python SDK 為例:

from openai import OpenAI
client = OpenAI(
base_url="https://api.rabah.ai/v1",
api_key="你的密鑰",
)
reply = client.chat.completions.create(
model="MODEL_NAME",
messages=[{"role": "user", "content": "你好"}],
)
print(reply.choices[0].message.content)

Anthropic 的 SDK 同理,把 base_url 設為 https://api.rabah.ai,不帶 /v1。