跳到主要内容

软件包参考

@dsh-ai-providers/core​

提供嵌入、重排、决策、语音、图像、提供方、调用选项和统一错误的公共接口。使用方和提供方插件都应从此包导入共享类型。

导出的服务边界与生命周期规则请参阅核心契约参考。

@dsh-ai-providers/openai-compatible​

提供 OpenAI 兼容协议的传输(包括 OpenAI Decisions)、请求序列化、流解析、连接校验及服务实现。它没有 DSH 插件入口;OpenAI 与 LocalAI 插件按需组合这些传输,彼此不产生依赖。

@dsh-ai-providers/runtime​

运行时协调插件,提供注册表、所选能力服务、设置及认证配置 API、健康检查、DSH 语言模型路由、并发调度和嵌入去重。

@dsh-ai-providers/openai​

提供 OpenAI 兼容的嵌入、语言模型对话与流、决策、TTS、文件与实时 STT,以及图像生成。兼容服务器可能只实现其中一部分;尤其是 Decisions API 目前是 OpenAI 的公开测试端点,不能假定兼容服务器也提供它。应只启用并选择服务器实际提供的能力。

端点和配置请参阅 OpenAI 兼容。

@dsh-ai-providers/localai​

LocalAI 专用提供方,涵盖语言模型、嵌入、重排、决策、TTS、文件及实时 STT 和图像生成。它复用经过测试的 OpenAI 兼容传输层,同时加入 LocalAI 默认值、原生请求字段、重排和决策。

配置与原生控制项请参阅 LocalAI。

@dsh-ai-providers/jina​

Jina AI 提供方。它通过 /rerank 提供重排、通过 /embeddings 提供嵌入,使用方选择的查询或文档会作为 Jina 自己的任务类型发送。沿用这套重排 API 的服务器也可以通过自定义基础 URL 使用。连接与凭据的复用方式和 OpenAI 连接一致。

配置与兼容细节请参阅 Jina。

@dsh-ai-providers/jina-cohere​

这是库而不是插件:包含 Jina、Cohere 及兼容服务器共用的 /rerank 传输层,以及 Jina /embeddings 和 Cohere v2 /embed API 的嵌入传输层。Jina 和 Cohere 提供方都基于它构建,就像 OpenAI 和 LocalAI 提供方基于 openai-compatible 一样,因此两者之间没有依赖。

@dsh-ai-providers/typesafe​

TypeSafe AI 的 Jev 提供方,Jev 是一个托管的决策模型。它把针对文本的带类型问题发送到 POST /systemone,并一次性返回对应概率。模型可以跟随 jev-latest 别名,也可以固定到具体版本;扩展上下文窗口则按需启用。实现相同 API 的服务器可通过自定义基础 URL 使用。连接与凭据的复用方式和 OpenAI 连接一样。

配置与兼容细节请参阅 TypeSafe。

@dsh-ai-providers/systemone​

这是库而不是插件:TypeSafe 的 Jev、LocalAI、llama.cpp 服务器及其他兼容服务器共用的 POST /systemone 传输层。TypeSafe 和 LocalAI 提供方都基于它构建,因此两者互不依赖。

@dsh-ai-providers/anthropic​

Anthropic 原生 Messages API 提供方,提供带流式文本、思考、工具调用、图像输入、用量报告和模型发现的语言模型路由。

配置与原生 API 行为请参阅 Anthropic。

@dsh-ai-providers/ollama​

Ollama 原生提供方。它通过 /api/chat 提供语言模型路由,支持流式文本、思考、工具调用、图像输入、Ollama 自有的请求控制项、带能力报告的模型发现以及模型加载和卸载;并通过 /api/embed 提供嵌入。

配置与原生 API 行为请参阅 Ollama。

@dsh-ai-providers/cohere​

Cohere 原生提供方。它通过 /v2/chat 提供语言模型路由,支持流式文本、思考、工具调用(包括可强制的工具选择)、图像输入、Cohere 自有的请求控制项和模型发现;并通过 /v2/embed 提供嵌入、通过 /v2/rerank 提供重排。它复用 @dsh-ai-providers/jina-cohere 库的嵌入与重排传输层。

配置与原生 API 行为请参阅 Cohere。

@dsh-ai-providers/dashscope​

阿里云 DashScope 原生提供方。它通过原生生成 API(文本与多模态端点)提供语言模型路由,支持流式文本、思考、工具调用、图像输入、DashScope 自己的请求控制项和模型发现。它还提供嵌入、重排、语音合成(Qwen-TTS 走 HTTP,CosyVoice 走 WebSocket)、录音文件语音识别和图像生成。与其他厂商插件一样,它通过 @dsh-ai-providers/runtime 注册,并使用 core 中的契约。

配置与原生 API 行为请参阅 DashScope。

@dsh-ai-providers/all​

仅含元数据的 DSH 软件包组合,用于安装运行时及八个由本项目维护的提供方插件。

选择依赖​

构建目标应依赖无需依赖
使用 AI 能力的插件@dsh-ai-providers/core特定厂商包
第三方提供方插件@dsh-ai-providers/core,并以运行时作为 DSH 宿主另一厂商包
使用 OpenAI 传输格式的提供方实现@dsh-ai-providers/openai-compatible 与核心契约@dsh-ai-providers/openai
使用全部项目维护提供方的配置档案@dsh-ai-providers/all各包的单独安装命令
只使用部分提供方的配置档案运行时及所需厂商包全提供方整合包

使用方代码应始终把 core 作为公共类型边界。运行时内部实现和传输辅助代码可能因实现需求而变化;使用方直接导入它们,会重新制造本项目试图消除的耦合。

整合包与库包​

运行时和八个厂商包是带有整合元数据的 DSH 插件。core、openai-compatible、jina-cohere 与 systemone 是库:它们作为依赖安装,不是用户在配置档案中启用的行。all 只包含整合元数据,不会增加另一层运行时实现,因此不会引入重复服务层。

同一发行版中的所有公共包使用相同版本。直接声明多个依赖时应保持版本一致,尤其是针对共享契约编译的提供方实现。