欢迎关注我的CSDN:https://spike.blog.csdn.net/
本文地址:https://spike.blog.csdn.net/article/details/146036876
Unsloth">
Unsloth (/ʌnˈsləʊθ/
) 是开源 大语言模型(LLM) 微调框架,通过优化 计算步骤 和 GPU 内核,提升训练速度,减少内存使用,支持主流的 LLM 模型,在单 GPU 上可实现最高 10 倍、多 GPU 上最高 32 倍的加速效果,内存使用降低 70% 以上,支持动态 4 位量化技术,在不显著增加显存的情况下,提高模型精度,兼容 Hugging Face 生态系统,支持长上下文训练,提供多种模型导出格式。
Unsloth 框架: