发布于 2024-01-21
我分享了如何用ChatGLM-6B量化模型的api服务。我教你在Windows和Linux上安装和运行所需的库和文件,用uvicorn和systemd配置和测试api服务,用批处理文件和服务文件快速启动和查看日志。
还有多久 才能够在你身边
我分享了如何用ChatGLM-6B量化模型的api服务。我教你在Windows和Linux上安装和运行所需的库和文件,用uvicorn和systemd配置和测试api服务,用批处理文件和服务文件快速启动和查看日志。