mainpropath / ai-smartfuse-framework Goto Github PK

例如：对于链路模式的 ConversationalChain 和 ConversationalRetrievalChain 而言，可通过配置化的方式支持 API key 的设置。传入一个list，其中具有 >= 1 个key ，让其与 AI-java项目的 Key 获取策略连通。

例如：定义好一个书本类，询问模型今年热门书籍有哪些，将书本类的熟悉发送给模型，让模型返回JSON格式的数据，并进行JSON to Bean 的转换。
注意：这一个流程对用户而言应当是无感知的，可以考虑通过注解来标识。

可让不同厂商不同类型的模型，在同一条链路上相互合作，类似于一条链表，上一个节点的输出结果作为下一个节点的输入参数。从而达到一条链路完整的实现某一个功能。

通过注解的方式将某个字符串包装成AssistantMessage、UserMessage、SystemMessage，并能够通过代理来通过接口来实现对话。

与模型进行交互时，上下文信息也会影响模型的回答质量。我们希望将用户与模型交互的信息记录下来，同步到内存或者磁盘当中。

内存当中存放少量的聊天内容，可让用户自由配置存储的信息条数。底层设计应当通用灵活。

磁盘当中可由用户自定义存储方式，不管是mysql还是redis，适当拓展其他的存储介质。