Solon v3.6.4

Solon AI 开发

</> markdown

请给 Solon AI 项目加个星星:【GitEE + Star】【GitHub + Star】


本系列主要介绍 Solon AI 插件(AI “通用”应用开发框架)的使用。Solon-AI 采用方言适配的设计,可兼容各大语言模型(LLM)接口调用。

这里讲的 AI 主要是指生成式人工智能(Generative Artificial Intelligence)。也会称为“大模型”,或者“大语言模型”。按生成内容分的话,常见的有:

模型作用
聊天模型(ChatModel)用于聊天式生成对话、或文字创作、或解惑答疑等(可以有会话上下文)
生成模型(GenerateModel)用于一次性生成文本、图像、视频(也有叫:ImageModel、VideoModel 等)

其它模型还会有(更多,不列):

模型作用
嵌入模型(EmbeddingModel)用于生成矢量数据,进而实现相似查询
排序模型(RankingModel)用于排序

不同模型间,会有相互协作。比如 ChatModel 生成的内容,可用于 GenerateModel。而 EmbeddingModel 与 ChatModel 协作,可实现 RAG(即本地数据与大模型协作,增强生成效果)。也支持 MCP 协议,实现 Tool 服务发布,和 Tool 服务使用。

在使用时,可以粗浅得认为它是个 http-api 接口(平易近人些),solon-ai 则是它们的通用客户端。

本教程涉及的几种常用术语(也是差不多的意思):

  • ai、gai、llm
  • 大模型、大语言模型、生成式大语言模型

目前 AI 常见的应用建设(solon-flow 可提供“流程编排”支持):

学习视频:

专有仓库地址:

完整示例(Solon、SpringBoot2、SpringBoot3、jFinal、Vert.x ):