基于深度卷积神经网络的 ImageNet 分类
ImageNet Classification with Deep Convolutional Neural Networks
深度卷积网络将数据、GPU 计算与表示学习结合，为现代视觉研究提供了重要起点。
THE RESEARCH ATLAS
注意力即全部
Transformer 用注意力机制构建序列模型，成为后续语言与多模态模型的重要基础。
Attention Is All You Need
为什么值得读
优先阅读注意力机制、位置编码与编码器—解码器结构，再进入后续模型家族。
引用
@misc{vaswani2017attention,
title = {Attention Is All You Need},
author = {Ashish Vaswani and Noam Shazeer and Niki Parmar and Jakob Uszkoreit and Llion Jones and Aidan N. Gomez and Lukasz Kaiser and Illia Polosukhin},
year = {2017},
eprint = {1706.03762},
archivePrefix = {arXiv},
primaryClass = {cs.CL},
url = {https://arxiv.org/abs/1706.03762}
}论文与代码版权归原作者；引用及许可请以原始来源为准。
相关研究
BERT：面向语言理解的深度双向 Transformer 预训练
BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
通过掩码语言预训练学习双向表示，再迁移到语言理解任务。
语言模型是少样本学习者
Language Models are Few-Shot Learners
GPT-3 探索大规模自回归模型如何从上下文中的少量示例执行新任务。