神经机器翻译是什么?用一个神经网络端到端地完成翻译
神经机器翻译(Neural Machine Translation,NMT)是一种用深度神经网络来完成机器翻译的方法。它用一个大型的神经网络,直接把一种语言的句子“端到端”地转换成另一种语言的句子,不再像过去那样拆分成很多个独立的环节。如今的在线翻译工具,以及大语言模型的翻译能力,都建立在神经机器翻译的技术基础上。
之前是怎么翻译的
机器翻译的研究从 20 世纪 50 年代就开始了。早期主要是基于规则的翻译:由语言学家编写大量的语法规则和词典,计算机按照规则进行转换,效果生硬,而且难以覆盖语言的各种复杂情况。20 世纪 90 年代起,统计机器翻译成为主流:它从大量的双语对照文本中统计出词语和短语之间的对应关系与概率,再把句子拆成短语逐段翻译、重新排序和组合。统计机器翻译比规则方法好了很多,但它由许多个分别训练的组件拼接而成,译文常常不够通顺,也难以处理长距离的语序调整。
神经机器翻译的兴起
2014 年,谷歌的 Ilya Sutskever 等人以及蒙特利尔大学的研究者 Kyunghyun Cho 等人,先后提出了“编码器-解码器”结构,也叫序列到序列模型:编码器是一个循环神经网络,逐词读入源语言的句子,把整句话压缩成一个向量;解码器是另一个循环神经网络,根据这个向量逐词生成目标语言的译文。这种做法的问题是,把一整句话压缩进一个固定长度的向量,句子一长,信息就会丢失。
同年,蒙特利尔大学的 Dzmitry Bahdanau、Kyunghyun Cho 和 Yoshua Bengio 提出了注意力机制:解码器在生成每一个词时,可以回头“看”源句子中的所有词,并自动地关注与当前要翻译的内容最相关的部分。这大大改善了长句的翻译效果,使神经机器翻译的质量很快超过了统计机器翻译。2016 年,谷歌宣布其翻译服务全面转向神经机器翻译,译文的流畅度明显提升。
Transformer 时代
2017 年,谷歌提出的 Transformer 架构最初就是为机器翻译设计的。它完全基于注意力机制,抛弃了循环结构,训练可以高度并行,效果和速度都超过了之前的模型,很快成为神经机器翻译的标准架构。此后,研究者还开发了能在一个模型中同时翻译上百种语言的多语言翻译模型,比如 Meta 的 NLLB(不让任何语言掉队)项目。
大模型时代的翻译
如今,大语言模型本身就具备很强的翻译能力,能够结合上下文、理解语气和文化背景,还能按照要求调整译文的风格,在很多场景下的表现已经超过了专门的翻译模型。不过,机器翻译仍然存在一些问题:对专业术语、文化特有的表达、低资源语言的翻译质量还不够好,有时也会出现漏译、错译甚至编造内容的情况。在法律、医疗等要求严格准确的场合,仍需要专业人员审校。