跳到主要内容

27 篇文档带有标签(标签:concept)

查看所有标签

Audio 接口

介绍 AIHub 音频 service 面:TTS、转录、翻译的统一入口、OpenAI 实现、请求对象校验以及资源与失败语义等接入要点。

Chat 与 Responses 对比

从输入心智、provider 覆盖、工具集成、流式语义和多模态投影等维度对比 Chat 与 Responses 两条主线,帮你完成选型。

Chat 主线

解析 AIHub Chat 主线的请求对象、自动 tool loop、passThroughToolCalls、SseListener 流式聚合和多模态接入等运行时行为。

Messages(Anthropic 原生)

讲解 IMessagesService 原生 Anthropic 协议主线:原生 in/out 零转换、coding-plan 接入、thinking 映射、鉴权与异常处理。

Model Access 总览

总览模型请求在 AIHub 基座里如何被建模、投影、发送、流式消费和回读,厘清 Chat、Responses、Messages 三条主线的边界。

Provider 扩展

讲清 AIHub provider extension:新增模型平台是显式工厂分发扩展,必须同时触碰 PlatformType、Configuration、AiService、DefaultAiServiceRegistry 与 Spring Boot starter,provider 支持矩阵显式维护而非自动发现。

Realtime 接口(WebSocket)

讲解 IRealtimeService 长连接能力面:当前仅支持 OpenAI,统一入口、默认鉴权头、WebSocket 建连主线及回调注意事项。

Responses 主线

解析 AIHub Responses 主线的 ResponseRequest 语义、工具解析基座、payload 构建、流式事件聚合与 runtime 友好的运行模型。

SPI HTTP 栈

讲清 AIHub HTTP stack SPI:通过 ServiceLoader 把 Dispatcher 与 ConnectionPool 注入 starter 构造的统一 OkHttpClient,默认实现靠 META-INF/services 注册,丢失会导致启动失败,仅 starter 装配链自动生效。

Tools 总览

aihub 只负责 tools / tool_calls 协议字段,以及把 @FunctionCall 编成 JSON Schema。

入门路径选择

按目标进入 aihub:发请求、Spring Boot、或只看工具协议字段。

函数调用

讲清 AIHub 基座层 Function Calling 执行链:用注解声明工具、ToolUtil 按白名单生成 provider tool schema、请求挂载与 tool call 回流,及其与 MCP、Agent 的边界。

包地图

aihub 模块里值得先看的包。

多模态

说明图文输入如何作为会话事实经 ChatMemoryItem 投影到 Chat 与 Responses 两条主线,区分模型原生输入与外部视觉工具。

安全说明

aihub 客户端使用时的密钥与 tool_calls 边界。

服务入口与注册表

厘清 AiService 单实例入口与 AiServiceRegistry 多实例注册表的真实职责、配置回退和扩展边界。

服务扩展

讲清 AIHub service extension:新增顶层能力契约会扩大整个 SDK 公共 API 面,必须同步 AiService、AiServiceRegistry 与 FreeAiService 兼容入口,AiServiceFactory 不是 service 插件总线,仅在现有契约无法承载时才值得新增。

架构一览

aihub 客户端分层:配置、工厂、厂商适配、HTTP/SSE。

模型扩展

讲清 AIHub model extension:在不新增 PlatformType 的前提下,把新模型能力吸收进现有 provider 与现有契约,主战场是请求对象和 provider 适配层,强调把 provider 差异收敛在 provider service 内部而非泄漏到业务层。

注解式工具

深入 @FunctionCall、@FunctionRequest、@FunctionParameter 三注解如何把 Java 类型绑定为 provider tool schema,详解 ToolUtil 生成链、类型映射规则与真实约束。

流式语义

讲解 Chat 与 Responses 两条流式主线的聚合模型:SseListener 与 ResponseSseListener 维护的状态、tool call 聚合与终止条件差异。

第一次工具调用

客户端把 tools 编进请求、解析 tool_calls。执行工具由调用方完成。

编程式集成

用 AiService 工厂把 aihub 嵌进普通 Java 或 Spring Boot 应用。

能力总览

aihub 核心客户端能力:模型调用、媒体 API、工具协议字段。

请求与返回约定

统一讲解请求构造与返回读取约定,区分本地注册字段与 provider payload 字段、extraBody 角色及常见接入误区。