LLama_Factory
2024/10/22 16:36:06
10、ollama启动LLama_Factory微调大模型（llama.cpp）
在前面章节中介绍了如何使用LLama_Factory微调大模型，并将微调后的模型文件合并导出，本节我们我们看下如何使用ollama进行调用。
1、llama.cpp
LLama_Factory训练好的模型，ollama不能直接使用，需要转换一下格式，我们…
llama_factory Qlora微调异常 No package metadata was found for The ‘autoawq‘
importlib.metadata.PackageNotFoundError: No package metadata was found for The ‘autoawq’ distribution was not found and is required by this application.
To fix: pip install autoawq 其实问题比较简单 直接安装autoawq 即可 但是对应会有版本问题： 查…