arXiv
排他性自注意力（XSA）
XSA 将每个 token 的注意力输出从自身值向量方向上投影出去，在不增加参数的前提下强制实现纯上下文聚合。
Daily Reading
Everyday Paper
All generated by AI with Academic Paper Reading SKILL
All generated by AI with Academic Paper Reading SKILL
XSA 将每个 token 的注意力输出从自身值向量方向上投影出去，在不增加参数的前提下强制实现纯上下文聚合。
RLSD 将 RLVR 的可靠方向信号与自蒸馏的 token 级更新幅度结合起来，目标是在不引入特权教师泄漏的前提下实现更稳定的后训练。
SKILL0 用逐步撤回的技能脚手架训练智能体，把工具使用技能内化进模型权重，使推理阶段无需检索也能零样本运行。
TriAttention 从旋转前 Q/K 几何结构出发为 KV 重要性打分，在保持 AIME25 全注意力精度的同时大幅降低 KV 内存并提升吞吐量。