女巫训练师项目，最近这几天搞得我头大
这回要分享的，就是我那个“女巫训练师”项目的最新日志。说白了，这玩意儿就是我用来管理和优化小说世界观设定的一个土法炼钢的AI工具。一开始我没想搞这么复杂，就是想让它帮我记住哪个女巫的魔杖是桦木的，哪个法术需要月亮石。结果越搞越大，成了个小小的私家模型。
我一开始用的是最笨的方法，抓了一堆开源的小型语言模型，打算用我自己的几百条“女巫守则”去微调（Fine-tune）。我先是搭了个简陋的界面，用的就是老掉牙的HTML和一点点Flask框架，能把文字输进去，能把结果吐出来就行。这个过程简直是煎熬。
我跑了整整三天的数据集，把那些涉及魔药、咒语、禁忌设定的文本，全部清洗了一遍。我必须亲手标注哪个是“输入”（比如“配制隐形药剂”），哪个是“预期输出”（比如“需要曼德拉草根和三颗晨露，且必须在月亮最高点搅拌13次”）。这活儿枯燥得让人想死。
- 第一步：抓取了基础模型，用了七拼八凑的硬件。
- 第二步：录入我小说里所有女巫设定的关键数据，差不多四万字。
- 第三步：标记输入和输出对，确保训练的方向是对的。
- 第四步：开始训练，这周就干的这个，跑了大概40个小时。
为啥非得搞这么一个费劲的项目？因为我被编辑骂惨了。
我老婆前阵子给我审稿，看到某个女主角，上一章还是火系魔法师，下一章就偷偷用上了冰系咒语，直接把稿子甩我脸上了。她说我的世界观设定比烂泥还稀，读者根本没法看，搞得我脑子嗡嗡的。我当时气得不行，心想，我记不住，让机器帮我记总行了？
我才一头扎进了这个“女巫训练师”项目。我要证明，通过足够的暴力数据灌输，我的设定模型能比任何人类都更清楚我的女巫世界观。
最新进展是什么？
之前最大的问题是“幻觉”。就是模型老喜欢给我编造一些我小说里根本不存在的草药和咒语。我这周主要聚焦于控制模型的“发散性”。我不得不修改了损失函数（Loss Function），调低了“创造性”的权重，把重点全部拉回到“设定准确性”上来。
现在训练到了V2.1版本。我测试输入：“如何解除石化术？” 它能准确吐出：“必须用独角兽的眼泪和三片冬青叶混合，涂抹于石化部位，且仅在满月前夜有效。” 这句话我写在三年前的笔记本里，它都能给我挖出来！
目前看起来，它已经是个合格的设定警察了。接下来我打算部署到我的内网，让我老婆先用用看，要是她再挑不出毛病，那这项目就算阶段性胜利了。