THE RESEARCH ATLAS

通过自我评估扩展滥用检测

模型在回答后评估当前对话,复用上下文缓存,作为多层滥用检测的一环。

Scaling Misuse Detection with Self-Assessment

Yiming Zhang et al.
2026-10-16 · Anthropic · 官方研究文章
来源核查: 2026-10-25机构所在地 · Anthropic 🇺🇸 美国
机构与地域来源

地域依据是署名机构或发布机构所在地,不代表作者国籍或完整合作名单。

safeguards.anthropic.com ↗

www.anthropic.com ↗

为什么值得读

比较自评与独立分类器,避免将检出率理解为安全保证。

阅读原始来源 ↗

引用

@misc{zhang2026scaling,
  title = {Scaling Misuse Detection with Self-Assessment},
  author = {Yiming Zhang},
  year = {2026},
  url = {https://safeguards.anthropic.com/2026/self-assessment/}
}

论文与代码版权归原作者;引用及许可请以原始来源为准。

相关研究

2021-06 · Microsoft · 研究论文署名机构 · Microsoft / Carnegie Mellon University 🇺🇸 美国

LoRA:大语言模型的低秩适配

LoRA: Low-Rank Adaptation of Large Language Models

冻结预训练权重,仅学习低秩更新,以减少适配模型时需要训练的参数。

2022-03 · OpenAI · 研究论文署名机构 · OpenAI 🇺🇸 美国

利用人类反馈训练语言模型遵循指令

Training language models to follow instructions with human feedback

利用人类示范与偏好反馈改进语言模型遵循指令的能力。

2022-03 · Google · 研究论文署名机构 · DeepMind 🇬🇧 英国

训练计算最优的大语言模型

Training Compute-Optimal Large Language Models

研究如何在固定训练计算预算下,平衡模型规模与训练数据规模。