要查看TIPO
的模型权重,前往镜像站:200M、500M、GGUF(QuantFactory)
或者有能力的可以直接去原站点:200M、500M、GGUF(QuantFactory)
琥珀佬的Github主页
感谢 GLM4 提供的一部分代码(技术太菜了,所以不得不用一下 AI )
llama-cpp-python 最好要 GPU 版的,在 CPU 版本下n_gpu_layers
参数不会生效
llama-cpp-python
gradio
pyperclip
- 去前面提到的模型权重那里下载
.gguf
文件,放进脚本所在目录下的models
文件夹里 - 双击脚本,或者用
cmd
运行python GUI.py
- 前往“设置”页面,选择你的模型文件,然后点击加载
- 如果看不懂参数,你有两个选择:别动参数,或者去“教程”页面看解释
- 看到下面的生成设置,和上面一样,两个选择
- 转到“生成”页面,选好模式、长度,写好提示词、质量,然后点“TIPO!”就行了
- 点“复制到剪贴板”,复制结果
- 使用
Language Config Manager.py
来管理语言配置 - 要添加语言,遵循以下步骤:
- 在
Locales
文件夹里创建一个新的.json
文件 - 通常来说,我建议你复制已经存在的语言文件,然后进行翻译,翻译完成后保存文件
- 在
Tutorials
子文件夹新建一个.md
文件 - 复制已经存在的教程文件,翻译并保存
- 打开
Language Config Manager.py
,选择2. Write new language config
,你应该能够看到你的语言文件的文件名出现在了选项里 - 选择你的文件,重新启动 Webui,你应该能够看到语言设置生效
- 在
直接双击脚本闪退的话可以试一下在cmd
里用python GUI.py
,总之就是我也不知道为什么,这玩意我也是现学的