• 功能介绍
• 本地部署
  • 硬件要求
  • 下载安装
  • 部署示例
• 快速体验
• 部分功能展示
• 未来计划
• 致谢
• 声明

⚡ 支持

• web端
• 自动问答
• educhat联网搜索
• 知识库问答（支持pdf、xlsx、docx、pptx、txt、链接）
• 关键词触发回复
• 私信语音识别答复
• 自动添加好友
• 自动拉入群聊
• 拉入群聊@EcnuBot交互
• 社群维护
• 数据存储
• 支持 EduChat 大模型
• 支持 qwen-max 大模型
• 支持 千帆 大模型
• 支持 ChatGLM3 大模型
• 更多大模型支持中...

1. 本项目目前仅支持在windows上运行，由于本人电脑配置较低，所以将EduChat大模型部署至远程服务器，需开通AutoDL账号，申请RTX 3090(24GB) * 2卡 资源
2. 本项目已支持web端体验，还在不断完善中，私戳EcnuBot_web

1. 安装对应版本PC端
2. 其他安装包可到百度网盘自取，其中ffmpeg主要用于处理和操纵音频和视频文件
3. 下载本仓库内容至本地

git clone https://github.com/RookieDay/EcnuBot.git
cd EcnuBot

4. 安装相关依赖包

pip install -r requirements.txt

1. 按照config.py文件备注，修改相关配置

2. AutoDL服务端部署EduChat大模型，部署依托于EduChat ，代码魔改已放置demo文件夹，可在服务端替换，如有疑问请私信EcnuBot。

# 两张显卡加载模型
os.environ["CUDA_VISIBLE_DEVICES"] = "0,1"

model_path = "/root/autodl-tmp/educhat-sft-002-13b-baichuan"
config = AutoConfig.from_pretrained(model_path, trust_remote_code=True)
tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)
with init_empty_weights():
    model = AutoModelForCausalLM.from_config(
        config, torch_dtype=torch.float16, trust_remote_code=True
    )
model.tie_weights()
model = load_checkpoint_and_dispatch(
    model, model_path, device_map="auto", dtype=torch.float16
)

3. 运行，启动服务

python .\main.py

欢迎扫码入群，解锁EduChat全部能力，如有疑问，欢迎添加小助手微信（situerleng）为您解答。

初代EcnuBot主要集成EduChat教育大模型以及其他各大模型支持，随着面向群体以及用户的需求的扩大，从应用性等角度考虑，未来亦着手建设以下功能：

⚡ 开发

• Mac版部署支持
• 学术解析等功能
• 用户信息分析等功能
• 文件内容识别处理、总结等功能
• 自定义角色等功能
• 插件支持等
• 数据存储优化等
• 低成本部署等（模型量化、CPU部署）
• 更多大模型接入
• 小程序、web端、手机端支持等多端应用
• ......

• EduChat 开源支持
• 千帆大模型 提供的接口服务
• 通义千文问模型 提供的接口服务
• whisper openai提供语音识别支持
• awesome-chatgpt 提供的开源技术支持

本项目仅供研究目的使用，项目开发者对于使用本项目（包括但不限于数据、模型、代码等）所导致的任何危害或损失不承担责任。