首页 / SpringAI

#

SpringAI

#

485次浏览 4人互动

此刻你想和大家分享什么

热门最新

08-12 20:31

天津师范大学 Java

(V1)SpringAI的初步用法

前言 SpringAI是Spring生态中的AI框架，其提供了高度封装的AI调用方法，让开发者可以快速继承AI大模型调用。本文将由浅入深，集成SpringAI框架并快速搭建出可以使用的聊天助手。快速开始1. 依赖集成1.1 SpringBoot模板构建2.1 选择SpringBoot最新版本3.5.33. 1 在选择启动器中勾选上SpringWeb，OpenAI最终的依赖如下  <properties> <java.version>17</java.version> <spring-ai....

点赞评论收藏

分享

08-12 20:44

天津师范大学 Java

（V3）SpringAI——会话记忆对齐+多AI总结

前言 SpringAI框架初步集成：SpringAI的初步用法 SpringAI框架会话记忆优化：SpringAI——会话记忆优化版本 虽然之前已经集成SpringAI框架，实现基于Redis的会话记忆，并实现五轮+摘要的优化。但是和算法端同学对接后，发现有一些流程需要进一步优化，因为原来记忆优化的版本，是每五轮进行一次总结，并且删除原始五轮会话，进行一次总结。这样的效果就是：第五轮时候开始优化，原始五轮会话记忆丢失，并生成第一轮摘要第八轮时候，只有最近三轮原始对话记忆，以及原来五轮进行总结生成的一轮摘要第十轮时候，再次优化，将最近五轮原始会话记忆删除，并再次生成一轮摘要第十一轮，情况就成为了...

点赞评论收藏

分享

08-12 20:39

天津师范大学 Java

(V2)SpringAI——会话记忆优化版本

前言 会话历史记忆原版本采用直接的原始信息存储，过长的记忆可能导致会话效果降低。为了优化，我们采用算法端提供的五轮原始会话+历史摘要。优化版本流程用户打字、说话，前端携带生成的文本内容请求后端后端接受请求，调用大模型检查历史记忆，非摘要信息是否达到了五轮达到了五轮，触发优化逻辑，将五轮会话进行历史总结，进行压缩压缩的信息存储到另一个位置，同时永久出现在会话记忆中开启新的会话记忆循环大模型生成回复，返回前端前端展示大模型回复优化版本的优势通过摘要设计，在控制会话记忆长度的同时，提升大模型的回复效果同时让大模型的响应速度变得更加平稳保证大模型的回复质量，避免上下文截断或者上下文过长适合于对大模型准...

点赞评论收藏

分享

玩命加载中

创作者周榜

更多

热议话题

更多

牛客网
牛客网在线编程
牛客网题解
牛客企业服务