Giter Club home page Giter Club logo

aios.chat's Introduction

写在前面

抱歉有几个月没更新了,是因为一直在写PLUS版本,后续会将plus版本的特性一一移植到开源版本上面,也希望大家能够给出新的建议。


预览


简介

本项目自带服务端用于本地开发和调试,也可直接部署至线上用于个人学习使用。 想使用自己的API?也可以,客户端可接入本项目的服务端以及任何符合官方标准的api。

推荐接入AIOK,国内免代理,首次注册免费赠送 100,000 points.

目前支持以下几个模型

模型 描述 最大上下文 训练数据截止时间 优点 缺点
gpt-3.5-turbo 最具有能力的GPT-3.5模型之一,以1/10的价格进行了针对聊天的优化,远低于text-davinci-003 4096tokens 截至 2021 年 9 月 响应速度更快,tokens消耗速率更慢 智能程度比起gpt4稍逊一筹
gpt4 比任何GPT-3.5模型更具有能力,能够执行更复杂的任务,并且针对聊天进行了优化 8,192tokens 截至 2021 年 9 月 更加智能,更精确的解决问题 响应速度较慢, tokens消耗速率对比3.5要多一些

你可以在每个对话的设置页面进行模型选择,或者在新建对话的时候选择你要想对话的模型

对于gpt4模型,需要注意的是,需要在配置页面选择gpt4,然后输入gpt4模型可用的API KEY

开始使用

推荐采用node 18.x.0

如果你本地安装了nvm, 可直接使用nvm use

npm run inst # 安装

npm run dev # 运行

npm run dev:env # 运行时生成环境变量文件

npm run dev:vite # 只运行前端,如果你不想使用本地api

使用npm run dev:env命令后,如果需要本地服务端,则需要在/api文件下生成的.env.development文件中填入正确可用的API KEY

使用本地服务端,国内用户可能需要自行代理接口

直接使用官方接口

修改本地的VITE_API_HOST, 并且在设置(下方图中)里填入自己的API KEY后点击保存即可

VITE_API_HOST="https://api.openai.com/v1/chat/completions"

不想设置环境变量?

没问题,只需要在上图的设置中直接填入官方的接口 https://api.openai.com/v1/chat/completions 然后输入正确可用的API KEY即可

环境变量

请参考 .env.example 文件。

# 输入框的提示词
VITE_DEFAULT_PLACEHOLDER='发消息给AI'

# 输入框底部的消息
VITE_DEFAULT_BOTTOM_TIPS=''

# API_HOST
VITE_API_HOST='http://localhost:3000/aios-chat'

# GPT4 API_HOST
VITE_API_HOST_GPT4='https://api.openai.com/v1/chat/completions'

# 是否只返回文字内容,它意味着stream流是否需要前端解析。
VITE_ONLY_TEXT=true

# 最多缓存的对话次数 不包括system信息
VITE_CACHE_TIMES=10

# BASE_URL
VITE_BASE_URL='/' # BASE_URL

# AI 头像url
VITE_AI_AVATOR_URL=''

# 用户头像url
VITE_USER_AVATOR_URL=''

# 首页logo url
VITE_LOGO_URL=''

# 首页logo下方的显示信息
VITE_INFO=''

部署

后续更新

已支持的功能

  • 上下文对话
  • 历史会话
  • markdown渲染
  • katex数学公式支持
  • 可一键分享当前会话
  • 流式传输
  • 暗夜模式
  • 支持gpt4

后续要做的功能

  • github action(eslint)
  • custom API key
  • 预设场景化机器人system应用
  • prompt store
  • 添加后端BFF层
  • 添加http和socks代理配置或提供一些预置的openai接口代理
  • 访问权限控制
  • 可修改openai的模型(3.5、3.0)可修改接口参数temperature、frequency_penalty、presence_penalty
  • 多语言支持
  • 一键部署文档
  • docker-compose编写

常见问题

Q:为什么使用官方接口后,返回的是一大串字符,没有解析?

A:因为环境变量里的VITE_ONLY_TEXT默认为true,没有在客户端解析,将它改为false或者删除即可

现在默认为false了

License

MIT License © AIOS-club

aios.chat's People

Contributors

iwgyyyy avatar binjie09 avatar halooojustin avatar

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.