BERT: Pre-training of Deep Bidirectional Transformers
NLPDevlin et al. | NAACL 2019 | 复现难度: ⭐⭐⭐⭐
完成BERT模型的预训练和Fine-tuning复现，在GLUE基准上达到87.2%的准确率。
ResNet: Deep Residual Learning for Image Recognition
CVHe et al. | CVPR 2016 | 复现难度: ⭐⭐⭐
复现ResNet残差网络结构，验证了skip connection的有效性。
Attention Is All You Need (Transformer)
NLPVaswani et al. | NeurIPS 2017 | 复现难度: ⭐⭐⭐⭐
完整复现Transformer架构，包含Encoder-Decoder、Multi-Head Attention。
CLIP: Learning Transferable Visual Models
多模态Radford et al. | ICML 2021 | 复现难度: ⭐⭐⭐⭐
复现CLIP对比语言-图像预训练模型，实现零样本图像分类。
Stable Diffusion: High-Resolution Image Synthesis
文生图Rombach et al. | CVPR 2022 | 复现难度: ⭐⭐⭐⭐
完整复现Latent Diffusion Model，实现文本引导的图像生成。
LLaMA: Open and Efficient Foundation Language Models
LLMTouvron et al. | Meta AI 2023 | 复现难度: ⭐⭐⭐⭐⭐
复现LLaMA模型架构，验证Scale Law。