低资源编程语言的模型能力研究
Advancing coding in low-resource programming languages
官方介绍如何改善训练资料较少的编程语言上的模型能力。
高效注意力、低秩适配、稀疏专家和推理优化。把训练成本、内存开销与最终任务质量放在一起比较。
Advancing coding in low-resource programming languages
官方介绍如何改善训练资料较少的编程语言上的模型能力。
Scaling Misuse Detection with Self-Assessment
模型在回答后评估当前对话,复用上下文缓存,作为多层滥用检测的一环。
PointWalker: Mapless Quadruped Locomotion Directly From Raw LiDAR Point Clouds
通过注意力机制融合激光雷达点云与机器人自身状态,以强化学习策略连接地形感知和四足运动。
DeepSeek-V4.1-Flash: smarter, faster, more efficient
官方介绍非对称因果编码器—解码器架构,并提供技术报告及模型资源入口。
Qwen3-Coder-Next Technical Report
面向编程智能体的开放权重模型,探索较少激活参数与强化训练配方的结合。
Qwen3-ASR Technical Report
语音识别家族与强制对齐模型面向多语言转录和时间戳预测。
DeepSeek-V3.2: Pushing the Frontier of Open Large Language Models
结合稀疏注意力与后训练方法,改进效率、推理及面向智能体的行为。
gpt-oss-120b & gpt-oss-20b Model Card
从架构、训练、能力与安全评估等方面介绍开放权重推理模型。
SmolVLA: A Vision-Language-Action Model for Affordable and Efficient Robotics
紧凑的视觉—语言—动作模型探索更易获得的机器人学习与高效推理流程。
Qwen3 Technical Report
稠密与混合专家模型结合思考、非思考模式,探索可调节的推理计算。
DeepSeek-V3 Technical Report
混合专家模型结合潜在注意力、多 Token 预测等架构与训练效率技术。
Mixtral of Experts
使用稀疏专家混合结构,研究激活参数与模型容量之间的关系。
Direct Preference Optimization: Your Language Model is Secretly a Reward Model
通过偏好优化目标直接训练语言模型,省去单独训练奖励模型的阶段。
FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness
通过减少内存访问开销,在保持精确注意力计算的同时提高效率。
Training Compute-Optimal Large Language Models
研究如何在固定训练计算预算下,平衡模型规模与训练数据规模。
LoRA: Low-Rank Adaptation of Large Language Models
冻结预训练权重,仅学习低秩更新,以减少适配模型时需要训练的参数。
括号内是该机构在本索引中带此主题的记录数。