该项目将 Qwen3-4B-Instruct 微调为 qwen3-4b-deslop,目标是去掉模型写作中的固定套路,例如破折号、”不是 X 而是 Y”句式和三项并列列举,并且不依赖系统提示词。作者在 MacBook Air 上完成训练,模型可通过 Ollama 在本地运行,量化版本约 2.5 GB。
核心特色是用训练而非运行时干预来改变写作风格。在 40 条训练中未出现的提示上,其”slop score”从每千词 121 降至 12.5,破折号从每千词 20.5 降至零,68% 的回答落在人类写作的评分区间。同时模型仍能正确回答 30 道事实题,体裁和长度符合度与原模型相当。
作者还记录了中间版本的问题:分数更低但写作质量差,出现无观点的评论、编造研究和用”, which”连接句子的新习惯,最终通过增加检查回答是否完成提示任务的第二层过滤来解决。这些过程对做模型微调的人有参考价值。
适用人群包括关注本地部署小模型的开发者、研究 AI 文本风格自然度的从业者,以及希望减少生成文本模板感的写作者。使用建议是先按文中命令拉取 GGUF 模型试跑,再结合自己的提示集评估效果,不宜直接套用其有限评测结论。总体看,这是一个目标明确、记录坦诚的小型微调实验。
评论与评分
0还没有评论,来写下第一条评价吧。