跳到正文
11月12日周四
  1. Hugging Face Blog47

    Hugging Face 发布 3D 生成模型 TRELLIS.2 微调指南

    Hugging Face 发布面向 3D 生成模型的微调指南,用 LoRA 和 PEFT 库微调 TRELLIS.2,并提供可本地或 Hugging Face Jobs 运行的脚本与容器。实验以 GSO 数据集中 188 个鞋类对象为子集,仅对 sparse-structure flow DiT 和 shape flow DiT 加 LoRA 适配器,以改善鞋底几何精度,材质生成阶段不微调。

11月11日周三
  1. Hugging Face Blog49

    面向多向量嵌入模型的 Token Pooling 感知训练

    面向多向量嵌入模型的 Token Pooling 感知训练可让编码器在向量合并时保留关键信息,从而在相同存储预算下提升检索质量。普通训练的模型在 pool_factor=4 时保留未池化 NanoBEIR nDCG@10 的 94.6%,文档向量减少 4 倍;感知训练将保留率提升到 97.8%。文章还介绍了 HierarchicalTokenPooling 的池化预算选择与自适应池化阈值校准方法。

11月10日周二
11月9日周一
  1. Hugging Face Blog41

    Hugging Face 提出 HOPE:MoE 模型的专家高阶剪枝方法

    Hugging Face 博客介绍 HOPE(Higher-Order Pruning of Experts),一种考虑专家两两交互的二阶 MoE 剪枝方法,替代按独立重要性打分的一阶方法。在 50% 剪枝率下,HOPE 平均排名优于所有方法,在智能体编程任务上相比次优方法最高提升 +6.1%。该方法无需训练,可与量化组合使用,用于缓解专家 MLP 占用的推理内存。

11月6日周五