其实确实不怎么复杂,按照正常操作就行(千万别抄其他人写的文章,我就是吃亏这个了一直没弄好)
1.下载chatglm-6b(使用CSDN的加速,快一点)
网页链接
2.下载模型(我用hugging face的,一点也不慢)【这里我就是看了别人的从清华镜像下载,有问题!】
cd ChatGLM-6B
mkdir THUDM
cd THUDM
git clone 网页链接
4.安装其他依赖
cd .. //回到项目根目录
pip install -r requirements.txt
5.修改web_demo.py
model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).half().to('mps')
6.运行
python web_demo.py
访问: 网页链接
不过确实比较慢