Solon v3.1.0

Solon AI 开发

</> markdown

(v3.1.0 后支持)

本系列主要介绍 Solon AI 插件(AI “通用”应用开发框架)的使用。Solon-AI 通过方言适配的设计,可兼容各大语言模型(LLM)接口调用。

这里讲的 AI 主要是指生成式人工智能(Generative Artificial Intelligence)。也会称为“大模型”,或者“大语言模型”。按生成内容分的话,常见的有:

模型作用
聊天生成模型(ChatModel)用于生成聊天对话、或文字创作、或解惑答疑等
图片生成模型(ImageModel)用于生成图片
视频生成模型(VideoModel)用于生成视频

其它模型还会有(更多,不列):

模型作用
嵌入模型(EmbeddingModel)用于生成矢量数据,进而实现相似查询
排序模型(RankingModel)用于排序

不同模型间,会有相互协作。比如 ChatModel 生成的内容,可用于 ImageModel 和 VideoModel。而 EmbeddingModel 与 ChatModel 协作,可实现 RAG(即本地数据与大模型协作,增强生成效果)。

在使用时,可以粗浅得认为它是个 http-api 接口(平易近人些)。见常的几种术语,也是差不多的意思:

  • ai
  • 大模型
  • 生成式大语言模型
  • 大语言模型
  • 语言模型

目前 AI 常见的应用建设(solon-flow 提供“流程编排”支持):

学习视频: