Solon v3.7.2

aiflow - 组件 - 模型组件介绍

</> markdown

模型组件

组件产出属性描述可输入输出
ChatModelchatModel用于聊天对话String,
ChatMessage,
ChatPrompt		ChatResponse or
Publisher<ChatResponse>
GenerateModelgenerateModel用于生成一次性数据String,
ChatMessage		GenerateResponse

GenerateModel，v2.7.2 后支持。

1、ChatModel （聊天模型）组件属性

属性描述示例
systemPrompt系统提示语，字符串类型（支持模板）你叫阿丽，你叫#{ai_name}
stream是否流式响应，布尔类型false
chatSession聊天会话变量名，字符串类型chatSession
chatConfig聊天模型配置，ChatConfig 类型
toolProviders工具提供者配置， List<String> 类型
mcpServersMCP服务配置，标准的 mcpServers json 格式配置

示例：

- task: "@ChatModel"
  meta:
    systemPrompt: "你是个聊天助手"
    stream: false
    chatConfig: # "@type": "org.noear.solon.ai.chat.ChatConfig"
      provider: "ollama"
      model: "qwen2.5:1.5b"
      apiUrl: "http://127.0.0.1:11434/api/chat"

2、GenerateModel （生成模型）组件属性（v2.7.2 后支持）

属性描述示例
generateConfig生成模型配置，GenerateConfig 类型

示例1：(生成图像)

- task: "@GenerateModel"
  meta:
    generateConfig: # "@type": "org.noear.solon.ai.generate.GenerateConfig"
      model: "stable-diffusion-3.5-large-turbo"
      apiUrl: "https://ai.gitee.com/v1/images/generations"
      apiKey: "xxxx"
      taskUrl: "https://ai.gitee.com/v1/task/"
      defaultOptions:
        size: "1024x1024"

示例2:（生成声音）

- task: "@GenerateModel"
  meta:
    generateConfig: # "@type": "org.noear.solon.ai.generate.GenerateConfig"
      model: "ACE-Step-v1-3.5B"
      apiUrl: "https://ai.gitee.com/v1/images/generations"
      apiKey: "xxxx"
      taskUrl: "https://ai.gitee.com/v1/task/"
      defaultOptions:
        task: "text2music"