Lora
精细调优大语言模型：揭开HuggingFace的神秘面纱！如何克服GPU内存束缚？
每次大型语言模型 (LLMs) 的新公告往往将性能推向新的高度，常常超越之前的基准（例如，巨量多任务语言理解或 MMLU）。这一进展激发了许多应用程序的出现，利用最大的和最优秀的模型。在我们之前的帖子中，我们讨论了 LLMs 的规模法则，并解释
阅读更多
Llm 微调指南：您是否需要以及如何进行微调
在使用LLM时，我们最常收到的问题之一就是关于微调。每第二位客户都会问他们是否应该对他们的模型进行额外的训练。 在大多数情况下，答案是否定的，他们不需要。现代LLM在许多商业应用中已经足够好，无需微调，比如帮助客户从花店订购鲜花的机器人。此外，他们没有数据来进行微调，而他们拥有的20个对话样本并不算数（200个也是如此）。 训练和微调模型是一项昂贵的工作，如果可以的话，你真的应该避免它，
阅读更多
使用 Unsloth 对 LLama 3 进行微调
在本文中，我将向您展示如何使用 Unsloth 微调 LLM（Meta 的 Llama 3）。我还将提供使用您自己自定义数据集的方法。 注意： Unsloth 是一个加速 LLM 在 NVIDIA GPU 上微调的库（与传统方法相比，内存使用减少 40%）。与 Hugging Face 兼容，支持 Ll
阅读更多