休闲娱乐生活服务其他类别
Facebook发布最新机器翻译成果，表明CNN优于RNN图：Pixabay语言翻译对于Facebook使世界更加开放和连接，使每个人都能用自己的首选语言以尽可能最高的准确性和最快的速度来分享帖子或视频的使命具有十分重要的意义。今天，Facebook人工智能研究（FAIR）团队发布了使用新颖的卷积神经网络（CNN）方法进行语言翻译的研究结果，该方法以9倍于循环神经系统的速度获得目前最先进的准确度。另外，FAIR序列建模工具包（fairseq）源代码和经过训练过的系统可以在GitHub的开源许可下使用，以便其他研究人员可以构建用于翻译，文本摘要和其他任务的自定义模型。为什么是卷积神经网络（CNN）？CNN最初是由Yann LeCun在几十年前开发的，现如今，CNN在多个机器学习领域，如图像处理方面的应用已经非常成功。但是，由于循环神经网络（RNN）是文本应用的现任技术，并且因其具有高精度，现早已成为语言翻译的首选。虽然历史上，RNN在语言翻译任务上的表现优于CNN，但它的设计具有固有的局限性，这一点可以通过查看他们如何处理信息的来加以理解。计算机是通过以一种语言来阅读句子，并以另一种语言来预测具有相同含义的一系列单词来进行文本翻译的。RNN是按照严格的从左到右或从右到左的顺序，逐字逐句进行执行的。对于驱动现代机器学习系统的高度并行的GPU硬件来说，这是一个不太自然的契合。计算不能完全并行化，因为每个单词必须排队等候，直到网络完成前一个单词。相比之下，CNN可以同时计算所有元素，充分地利用了GPU的并行性。因此，它们在计算上更有效率。CNN的另一个优点是以分层的方式来处理信息，这使得捕获数据中的复杂关系变得更加简单。在以往的研究中，CNN在应用于翻译方面并没有显示出超越RNN的优越性。然而，由于看到了CNN在架构潜力，FAIR开始着手研究CNN在这方面的应用，从而导致了一个翻译模型设计的诞生，充分显示了CNN在翻译方面的强大性能。强大的计算效率使得CNN有望扩展翻译的规模，范围可覆盖全球6500多种语言。以创纪录的速度取得当前最佳地位我们的研究结果表明，与RNN相比，在由机器翻译会议（WMT）提供的广泛使用的公共基准数据集上，我们已经达到了一个新的最先进的地位。特别是，CNN模型在WMT 2014英语—法语任务上的结果优于之前的最佳结果—1.5 BLEU（这是一个广泛使用的用于判断机器翻译准确性的度量标准）。在WMT 2014英语—德语中，我们提高了0.5 BLEU；在WMT 2016英语—罗马尼亚语中提高了1.8 BLEU。
上一页&1共2页热门新闻更多
热门游戏相关新闻热门视频发现好货
阅读下一篇视频推荐如何理解用rnn替代cnn做图像处理？_词汇网
如何理解用rnn替代cnn做图像处理？
责任编辑：词汇网 发表时间： 4:51:11
今天阅读了《ReNet: A Recurrent Neural Network BasedAlternative to Convolutional Networks》http://arxiv.org/pdf/v1.pdf ，感觉想法很新颖，但无法理解rnn为什么可以对图像的一行（列）进行处理，感觉图像左上角有只乌鸦并不能影响右上角有只企鹅？【以下解答】不是说影响，而是对这个序列进行建模。但是无论如何我还是觉得有点强行rnn的意思。【以下解答】就好比你逐字逐句看完一本书，还知道它整个讲的啥。
上一集:没有了 下一集:
相关文章：&&&&&&&&&&&&&&&&
最新添加资讯
24小时热门资讯
附近好友搜索}