当前位置： 首页 > 要闻 > 列表

环球热资讯！AI圈头条！谷歌Transformer开山论文惊天「翻车」

来源：DoNews快讯    时间：2023-05-10 10:25:27


(资料图片)

AI圈大头条!谷歌大脑的NLP奠基之作、提出Transformer架构的开山鼻祖级论文+《Attention+Is+All+Your+Need》竟然出现图与代码不一致的问题。谷歌的开创性论文《Attention+Is+All+Your+Need》中变压器架构的原始图表被发现是不正确的，LayerNorm处于错误的位置。关于使用Pre-LN还是Post-LN的讨论正在进行中，新论文中提出的两种方法的结合可能会导致人工智能模型开发的进一步发展。(站长之家)

X 关闭

要闻

舆情

Copyright ? 2015-2018 版权所有  备案号：琼ICP备2022009675号-1

邮箱 : 435 227 67@qq.com