afumu
afumu
发布于 2025-01-20 / 1 阅读
0
0

如何部署本地大模型AI

部署本地服务

第一步我们需要部署one-api

第二步我们需要部署 next-web

docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /Users/apple/oneapi:/data justsong/one-api

docker run -d -p 3001:3000 -e -e CODE=gefm  yidadaa/chatgpt-next-web

配置 one-api

localhost:3000

登陆one-api配置

默认账号密码:root/123456

访问next-web

localhost:3001

点击设置,配置one-api 地址:http://ip:3000. 注意不需要v1

配置one-api 密钥

如果存在自定义模型名称,配置模型

下面选择使用的模型即可


评论