DSH AI Providers
DSH AI Providers 为 DeepSeek Harness 插件提供一套共用的 AI 服务接入方式。配置一次提供方连接和由 DSH 管理的凭据,就能在该提供方支持的能力与使用方插件之间复用。插件开发者面向与提供方无关的服务契约编程,不必重复实现凭据表单、提供方选择、并发控制和厂商协议。
目前提供以下服务:
- 文本嵌入与重排;
- 带类型、以概率为依据的决策;
- 文本转语音与语音转文本;
- 图像生成;
- 语言模型路由。
安装运行时及所需的提供方插件,在 DSH 中配置连接,再为各项能力选择提供方。其他插件随后可通过 Cordis 上下文使用所选服务。
这是供其他插件使用的基础设施。只安装本项目不会增加 AI 助手,也不会自行发起请求。只有使用方插件调用服务时,请求才会发生。由于使用方依赖的是共用契约,用户可以更换提供方,而不必要求每个插件都理解所有厂商 API。
厂商专属控制项留在相应的提供方包中。共用契约只保留使用方能够跨实现依赖的行为。
包含的软件包
| 软件包 | 用途 |
|---|---|
@dsh-ai-providers/core | 与提供方无关的接口、错误和公共类型 |
@dsh-ai-providers/openai-compatible | 共享的 OpenAI 兼容协议实现;不是插件 |
@dsh-ai-providers/jina-cohere | 共用的 Jina 与 Cohere 风格重排和嵌入传输层;不是插件 |
@dsh-ai-providers/systemone | 共用的 System One 决策传输层;不是插件 |
@dsh-ai-providers/runtime | 提供方注册、服务选择、设置界面、API 路由及并发控制 |
@dsh-ai-providers/openai | OpenAI 兼容的嵌入、LLM、TTS、STT 和图像生成 |
@dsh-ai-providers/localai | LocalAI 嵌入、重排、决策、LLM、TTS、STT 和图像生成 |
@dsh-ai-providers/anthropic | Anthropic 原生语言模型 |
@dsh-ai-providers/ollama | Ollama 原生语言模型和嵌入 |
@dsh-ai-providers/cohere | Cohere 原生语言模型、嵌入和重排 |
@dsh-ai-providers/dashscope | DashScope(通义千问)原生语言模型、嵌入、重排、语音和图像 |
@dsh-ai-providers/jina | Jina 重排和嵌入 |
@dsh-ai-providers/typesafe | TypeSafe 的 Jev 决策 |
@dsh-ai-providers/all | 仅含元数据的完整软件包组合 |
能力矩阵
下表列出本项目维护的各厂商软件包会注册哪些能力。它描述的是软件包,而不是背后的每一台服务器:OpenAI 兼容服务器或 LocalAI 部署可能只实现其中一部分端点。
| 提供方 | LLM | 嵌入 | 重排 | 决策 | TTS | STT | 图像 |
|---|---|---|---|---|---|---|---|
| OpenAI 兼容 | 支持 | 支持 | 不支持 | 支持 | 支持 | 文件与实时 | 支持 |
| LocalAI | 支持 | 支持 | 支持 | 支持 | 支持 | 文件与实时 | 支持 |
| Anthropic | 支持 | 不支持 | 不支持 | 不支持 | 不支持 | 不支持 | 不支持 |
| Ollama | 支持 | 支持 | 不支持 | 不支持 | 不支持 | 不支持 | 不支持 |
| Cohere | 支持 | 支持 | 支持 | 不支持 | 不支持 | 不支持 | 不支持 |
| DashScope | 支持 | 支持 | 支持 | 不支持 | 支持 | 文件 | 支持 |
| Jina | 不支持 | 支持 | 支持 | 不支持 | 不支持 | 不支持 | 不支持 |
| TypeSafe | 不支持 | 不支持 | 不支持 | 支持 | 不支持 | 不支持 | 不支持 |
接下来读什么
本项目维护的提供方
这些软件包由 Firefox2100 在本独立项目中维护,并非 DeepSeek Harness 官方软件包,也不由 DSH 维护者维护或认可。
本项目目前维护八个提供方软件包:
@dsh-ai-providers/openai:OpenAI 兼容的语言模型、嵌入、决策、TTS、文件及实时 STT 和图像生成;@dsh-ai-providers/localai:专用于 LocalAI 的语言模型、嵌入、重排、决策、语音和图像生成;@dsh-ai-providers/anthropic:通过 Anthropic 原生 Messages API 使用语言模型;@dsh-ai-providers/ollama:通过 Ollama 原生 API 使用语言模型和嵌入,支持其自有请求控制项、模型发现以及模型加载和卸载;@dsh-ai-providers/cohere:通过 Cohere 原生 v2 API 使用语言模型、嵌入和重排;@dsh-ai-providers/dashscope:通过阿里云 DashScope 原生 API(通义千问)提供语言模型、嵌入、重排、语音合成与识别以及图像生成;@dsh-ai-providers/jina:Jina 重排和嵌入;@dsh-ai-providers/typesafe:来自 TypeSafe 托管 Jev 模型的决策。
第三方提供方插件也可实现相同接口,并出现在同一个设置界面中。