V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
afit
V2EX  ›  分享创造

Light-GPT,私有化 AI 问答的 WEB 应用, Docker 镜像一键部署~

  •  
  •   afit · 2023-03-19 16:31:01 +08:00 · 1127 次点击
    这是一个创建于 375 天前的主题,其中的信息可能已经有所发展或是发生改变。

    Light-GPT

    Light-GPT 是一个基于 GPT-3.5-Turbo 模型的交互式网站项目,使用 Next.js 框架构建, 使用 Vercel 云平台部署,是一个纯前端的轻量级应用。

    Github:https://github.com/riwigefi/light-gpt 演示站点:light-gpt.vercel.app

    功能

    1. 纯前端应用,基于 gpt-3.5-turbo 模型,使用 API KEY 在前端请求 Open AI 的对话接口,支持流式数据,页面以打字机效果显示机器人回复。
    2. 部署后,用户在前端页面设置自己 API KEY ,科学上网的情况下,问答速度会很快。用户设置的 API KEY 将保存在客户端,完全没有泄漏风险。
    3. 支持新的主题对话和查看历史主题对话。所有对话数据都存储在 浏览器的 IndexedDB 中,也就是说对话数据记录是保存在本地的,不会有数据泄漏风险
    4. 编程相关问题,AI 回复支持多种语法高亮,代码一键复制
    5. 对话支持图片导出,支持 pdf 导出
    6. 应用适配了 PC 和 Mobile ,方便使用
    7. DIY ,支持设置用户头像,ai 头像

    站点预览

    站点预览 001

    站点预览 002

    本地部署

    要在本地部署 Light-GPT ,按照以下步骤操作(需要 node16 及以上版本):

    1. 将项目下载到本地:
    git clone https://github.com/riwigefi/light-gpt.git
    
    1. 进入项目目录并安装依赖项:
    cd light-gpt
    pnpm install
    
    1. 启动应用程序:
    pnpm run dev
    
    

    这样,项目就能在 http://localhost:3000 上预览了。在前端页面输入你的 API KEY ,就可以愉快对话了

    Vercel 线上部署

    1. 注册一个 Vercel 云平台部署账号,访问 https://vercel.com ,需要国外的手机验证码校验

    2. https://github.com/riwigefi/light-gpt 这个仓库 fork 到你的 github

    3. 登录 vercel 平台,点击Add New,选择 Project ,然后 import 刚刚 fork 的 github 项目,点击部署即可

    docker 本地部署

    上个帖子分享时,就有不少朋友使用了,一部分朋友建议做个 docker 镜像,本地部署更加便捷。所以这次也特地准备了 docker 镜像。

    docker pull whynotisme/light-gpt
    docker run -p 8080:80 whynotisme/light-gpt
    

    写在最后

    上个帖子发在 V2EX ,介绍 light-gpt ,虽然是简单的 wraper 应用,v2ex 上也有不少类似的项目,但也有不少人给予了鼓励,感谢 v 友们的支持。所以在更新了一些新功能后,所以又来发了一下,如有打扰,还望见解。最后的最后,如果觉得我的项目不错,欢迎 star ,欢迎 fork 。

    8 条回复    2023-03-20 10:35:35 +08:00
    ospider
        1
    ospider  
       2023-03-19 16:53:36 +08:00   ❤️ 2
    我还以为自己的模型呢……
    afit
        2
    afit  
    OP
       2023-03-19 16:54:56 +08:00
    afit
        3
    afit  
    OP
       2023-03-19 16:56:48 +08:00
    @ospider 不好意思,标题误导了,我现在没法编辑帖子。。。
    kele999
        4
    kele999  
       2023-03-19 17:23:23 +08:00
    666
    ispinfx
        5
    ispinfx  
       2023-03-19 17:34:18 +08:00 via iPhone
    这一点都不 light…
    as9567585
        6
    as9567585  
       2023-03-20 01:21:38 +08:00
    百度用的是这个吗?
    afit
        7
    afit  
    OP
       2023-03-20 09:07:42 +08:00
    @as9567585 百度是自己的文心一言,我这个是 open ai gpt-3.5-turbo 的 wrapper ,核心问答功能是 open ai 提供的,就是使用 api key 的自建访问服务
    afit
        8
    afit  
    OP
       2023-03-20 10:35:35 +08:00
    @ispinfx 就是简单的封装,自己玩的,所以取名 light-gpt ,如有误导,说声抱歉
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   5383 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 07:47 · PVG 15:47 · LAX 00:47 · JFK 03:47
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.