近日，国际权威学术期刊《IEEE Transactions on Pattern Analysis and Machine Intelligence》（TPAMI）在线刊出了我校软件学院苏劲松课题组发表的题为“Neural Machine Translation with Deep Attention”的最新研究成果。TPAMI是人工智能领域最顶尖的国际期刊之一，JCR一区期刊，影响因子9.455，同时也是CCF A类期刊。
该论文提出一种深层的注意机制，用于融合深层编码器和深层解码器之间的语义信息，从而进一步增强翻译系统建模源语言和目标语言之间翻译关系的能力。传统深层神经机器翻译模型主要关注如何深化编码器或解码器的结构，忽略了注意机制的深层化建模，不利于复杂翻译关系的处理。该论文提出的模型可以利用低层注意机制学习到的上下文信息，自动地判定如何从相应的编码层中提取、过滤源端语义信息并融入到相应的解码层之中，从而使高层注意机制拥有更充分的信息来建模深层次的翻译关系，并促使模型的隐层表示更适合目标词汇的预测。在中英、英德和英法三个翻译任务上，新模型取得了近乎最先进的翻译结果。
该研究工作由我校软件学院苏劲松老师团队和天津大学熊德意老师团队合作完成。通讯作者为我校软件学院苏劲松副教授，第一作者为我校软件学院硕士生张飚。该项研究得到了国家自然科学基金（Nos. 61672440, 61622209）、中央高校基础科研基金（No. ZK1024）、国家语委科研项目（No. YB13549）、百度奖学金等的资助。
论文链接：https://ieeexplore.ieee.org/document/8493282