swift/qwen2-7b-classical-zh-instruct-GGUF
Ollama
- 收藏： 1
- 下载： 31
- 大小： 4.7G
- 类别： LLM
- 更新： 8/29/2024
- 基于Qwen2-7B模型，使用古文翻译腔数据集通过SWIFT finetune的模型，GGUF版本。模型使用llama.cpp转换，包括FP16，Q8_0，Q5_K_M, Q6_K_M, Q4_K_M等多个精度。
ollama run modelscope.cn/swift/qwen2-7b-classical-zh-instruct-GGUF:Q4_K_M
模型简介
一键运行（在CMD中输入）
模型安装完后，在客户端（比如Cherry Studio，OpenWebUI等）选择Ollama为供应商，
然后添加模型：swift/qwen2-7b-classical-zh-instruct-GGUF 即可。
然后添加模型：swift/qwen2-7b-classical-zh-instruct-GGUF 即可。
兼容机型
建议空闲内存不小于模型大小的1.2倍。