大模型微调踩坑记:那些让我熬夜的问题
最近做了几个大模型微调的项目,从BERT到GPT-2,从文本分类到文本生成,踩了无数的坑。本文分享这些踩坑经历,包括数据处理、模型选择、训练技巧、性能优化、评估方法等方面的问题和解决方案。希望能帮你少熬夜,少踩坑。
最近做了几个大模型微调的项目,从BERT到GPT-2,从文本分类到文本生成,踩了无数的坑。本文分享这些踩坑经历,包括数据处理、模型选择、训练技巧、性能优化、评估方法等方面的问题和解决方案。希望能帮你少熬夜,少踩坑。