如今当我们谈论ChatGPT 、Code Claude、DeepSeek、豆包等所有大语言模型,谈论ViT、CLIP、Whisper 等多模态模型,甚至谈论自动驾驶、机器人的感知模型、具身智能时,都绕不开一个核心架构——Transformer。而Transformer的全部源头,就是2017年Google Brain团队发表的这篇《Attention Is All You Need》[1]。
下面是一些我个人在学习过程中使用到的参考资料,确保你即使只有高中数学水平也能看得懂。
视频:B站‑20分钟读懂AI神级论文《Attention Is All You Need》:
前沿论文公开仓库地址:《Attention Is All You Need》
我自己的学习笔记:《Transform架构》
[1]: 该片段截选自CSDN博主「一江寒逸」的原创文章,遵循CC 4.0 BY‑SA版权协议,因为我觉得他的描述通俗易懂,又不至于太过宽泛浮于表面,我尝试了修改文案,最终还是决定把这段引言予以保留
原文链接:https://blog.csdn.net/2502_92311356/article/details/159687936