chat - 聊天模型的接口及字典

solon-ai 旨在提供一套通用的接口（通过适配）。可访问各种不同的大模型接口。

1、聊天模型（ChatModel）相关的接口

2、模型配置（ChatConfig）与请求选项（ChatOptions）

聊天模型配置

关于 model 配置：

• 如果是 ollama ，运行什么模型即填什么（如： ollama run deepseek-r1:7b，则填：deepseek-r1:7b）
• 如果是其它服务平台，请按平台的接口说明填写

聊天请求选项（不同模型，支持情况不同）

示例：

public void test(ChatConfig config) {
    ChatModel chatModel = ChatModel.of(config).build(); //使用聊天配置
    
    chatModel.prompt("hello")
        .options(o->o.max_tokens(500)) //使用聊天选项
        .call();
}

3、四种聊天消息（ChatMessage）

4、主要接口字典

• ChatModel

public interface ChatModel {
    /**
     * 提示语
     */
    ChatRequest prompt(List<ChatMessage> messages);

    /**
     * 提示语
     */
    default ChatRequest prompt(ChatMessage... messages) {
        return prompt(new ArrayList<>(Arrays.asList(messages)));
    }

    /**
     * 提示语
     */
    default ChatRequest prompt(String content) {
        return prompt(ChatMessage.ofUser(content));
    }


    /// /////////////////////////////////

    /**
     * 构建
     */
    static ChatModelBuilder of(ChatConfig config) {
        return new ChatModelBuilder(config);
    }

    /**
     * 开始构建
     */
    static ChatModelBuilder of(String apiUrl) {
        return new ChatModelBuilder(apiUrl);
    }
}

• ChatRequest

public interface ChatRequest {
    /**
     * 选项设置
     */
    ChatRequest options(ChatOptions options);

    /**
     * 选项配置
     */
    ChatRequest options(Consumer<ChatOptions> optionsBuilder);

    /**
     * 调用
     */
    ChatResponse call() throws IOException;

    /**
     * 流响应
     */
    Publisher<ChatResponse> stream();

}

• ChatResponse

public interface ChatResponse {
    /**
     * 获取模型
     */
    String getModel();

    /**
     * 获取错误
     */
    @Nullable
    ChatException getError();

    /**
     * 获取所有选择
     */
    List<ChatChoice> getChoices();

    /**
     * 是否有消息
     */
    boolean hasMessage();

    /**
     * 获取消息
     */
    @Nullable
    AssistantMessage getMessage();

    /**
     * 获取使用情况（完成时，才会有使用情况）
     */
    @Nullable
    ChatUsage getUsage();

    /**
     * 是否完成
     */
    boolean isFinished();
}

• ChatDialect（可以自己扩展适配，增加不同方言支持）

public interface ChatDialect extends AiModelDialect {
    /**
     * 匹配检测
     *
     * @param config 聊天配置
     */
    boolean matched(ChatConfig config);

    /**
     * 构建请求数据
     *
     * @param config  聊天配置
     * @param options 聊天选项
     */
    String buildRequestJson(ChatConfig config, ChatOptions options, List<ChatMessage> messages, boolean stream);

    /**
     * 分析响应数据
     *
     * @param config 聊天配置
     */
    boolean parseResponseJson(ChatConfig config, boolean isStream, ChatResponseDefault resp, String respJson);
}