Solon AI
Solon AI ，是一套大语言模型的 Java 通用开发工具包（是 Solon 的二级项目）。特点：
- 一套接口支持不同提供者、不同大模型调用（通过方言适配）
- 支持 Function Call
- 支持 RAG
- 支持 AI-Flow（与 Solon Flow 配合）
- 支持同步接口与流式接口
- 支持会话记忆
- 支持聊天生成模型（ChatModel） 、图片生成模型（ImageModel） 、多态模型等
- 支持嵌入模型（EmbeddingModel） 、排序模型（RankingModel）
- 支持 Java 8 到 Java 24
- 支持 Spring、jFinal、Vert.x 等 Solon 以外的框架
- 等......更多内容，参考官网介绍
通过 Hello world 了解下：
添加应用配置
solon.ai.chat:
demo:
apiUrl: "http://127.0.0.1:11434/api/chat" # 使用完整地址（而不是 api_base）
provider: "ollama" # 使用 ollama 服务时，需要配置 provider
model: "llama3.2" # 或 deepseek-r1:7b
效果测试
@Configuration
public class DemoConfig {
@Bean
public ChatModel build(@Inject("${solon.ai.chat.demo}") ChatConfig config) {
return ChatModel.of(config).build();
}
@Bean
public void test(ChatModel chatModel) throws IOException {
//一次性返回
ChatResponse resp = chatModel.prompt("hello").call();
//打印消息
System.out.println(resp.getMessage());
}
}
最近更新了什么？
- 新增 solon-ai-repo-chroma 插件
- 优化 solon-ai-repo-tcvectordb 插件相似度处理
- 优化 solon-ai-repo-elasticsearch 插件相似度处理
项目仓库地址？
- gitee：https://gitee.com/opensolon/solon-ai
- gitcode: https://gitcode.com/opensolon/solon-ai
- github：https://github.com/opensolon/solon-ai
官网？
- https://solon.noear.org/article/learn-solon-ai