跳到主要内容

OpenAI 兼容

@dsh-ai-providers/openai 是 Firefox2100 在本项目中维护的通用提供方软件包。它支持 OpenAI 本身及 LocalAI 等兼容服务器;实际能力取决于服务器实现的端点。它不是 DSH 官方软件包。

支持能力​

能力端点
语言模型POST /chat/completions,模型发现使用 GET /models
文本嵌入POST /embeddings
文本转语音POST /audio/speech,可选 GET /audio/voices
文件转录POST /audio/transcriptions
实时转录/realtime?intent=transcription WebSocket
图像生成POST /images/generations 和 /images/edits

连接​

在提供方卡片中创建一个或多个可复用连接。每个连接包含 ID、名称、基础 URL 和 DSH 凭据引用。默认连接指向 https://api.openai.com/v1,并引用 OPENAI_API_KEY。

同一连接可供所有能力共享,也可为每项能力分别选择连接。这适合将语言模型、语音和图像部署在不同兼容服务器上的环境。

基础 URL 应包含各端点之前的 API 前缀。例如服务器的嵌入端点是 /v1/embeddings 时,应填写 http://localhost:8080/v1。

能力默认值​

设置默认值
嵌入模型text-embedding-3-small
TTS 模型 / 声音 / 格式 / 语速gpt-4o-mini-tts / alloy / mp3 / 1
文件 STT 模型whisper-1
实时 STT 模型gpt-4o-mini-transcribe
图像模型 / 尺寸 / 质量 / 格式gpt-image-1 / 1024x1024 / auto / png
请求超时60 秒
嵌入批大小64 条文本
LLM 空闲超时5 分钟

兼容服务器通常使用不同的模型和声音 ID,应替换为服务器的准确标识。缺少声音列表端点是正常情况,此时手动填写声音 ID。

语言模型路由​

语言模型以具名路由配置。每条路由选择连接并列出模型、采样默认值、推理行为、额外请求头和兼容选项。多条路由可以复用同一连接,且所有已配置路由同时生效。

选择服务​

完成配置后,在每个需要使用的能力标签页中分别选择 OpenAI-compatible。语言模型路由无需进行能力选择。

各服务页面列出了单次请求选项和结果接口。