昊梵体育网

什么是大模型领域的“蒸馏”?就是把市面上别人已经训练好的、更先进的大模型当成“老

什么是大模型领域的“蒸馏”?就是把市面上别人已经训练好的、更先进的大模型当成“老师”,直接拿它跑出来的回答和数据,去喂养和调教自己的模型。这样做的好处非常明显:省钱、省算力、见效快。只要借用高水平模型的输出,自己的模型就能在短时间内大幅提升性能,在各类测试榜单上跑出一个好看的名次。