0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Facebook的AI研究团队开发了一种神经转编译器

倩倩 ? 来源:文财网 ? 2020-07-22 15:23 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

仅一周多的时间,您中的大多数人就会听说Facebook的AI研究团队(FAIR)开发了一种神经转编译器,该代码使用“无监督翻译 ” 将高级编程语言(如C ++,PythonJava,Cobol)的代码转换为另一种语言。传统的方法是标记源语言并将其转换为抽象语法树(AST),反编译器将根据定义翻译的手写规则(例如抽象或上下文)将其用于转换为所选的目标语言。没有丢失。

在过去的几十年中,神经语言翻译取得了如此重大的进步,以至于尽管只有足够的并行语料库才是唯一的限制,但是这些神经模型往往要比硬编码的手写规则好得多。

这已通过“无监督的ML翻译”方法得到了更大程度的解决,其中Facebook的研究团队使用了来自Github的不同编程语言的大量单语源代码库来训练模型。

这使许多组织感到宽慰,尤其是在保险,政府和银行部门,他们继续使用旧版应用程序,而这些应用程序几乎没有增强或微调的空间,因为它们是由真正熟练的程序员在过去的美好时光中编写的— COBOL ,Pascal,Fortran等。

尽管编程语言已经随着时间的流逝而发展,但是从一种代码库移植到更高效或更现代的语言(如Java,Swift,Ruby,python)却是真正的痛苦,因为它需要源语言和目标语言方面的专业知识。例如,有报道称,澳大利亚联邦银行花费了高达7.5亿美元,并在五年内将其核心软件从大型机上的COBOL迁移到了现代平台上。

基于规则的翻译实现起来很复杂,灵活性和解释性较差。Facebook的Transcoder可以解决长期存在的问题。

FAIR代码转换器的主要组件

FAIR转码器基于一种变压器架构,包括一个编码器和一个解码器,基于“注意就是您所需要的”论文。FAIR转码器依赖于单个模型进行编码和解码,并且基于3个原理:

屏蔽语言模型预训练

去噪自动编码

回译

1. 屏蔽语言模型预训练

掩蔽语言预训练模型基于BERT论文,该模型训练编码器从源代码中识别出掩蔽标记。训练编码器以理解编程构造,以便在屏蔽某些令牌时识别丢失的令牌并对其进行重构。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 编程语言
    +关注

    关注

    10

    文章

    1957

    浏览量

    37042
  • 源代码
    +关注

    关注

    96

    文章

    2953

    浏览量

    68661
  • ML
    ML
    +关注

    关注

    0

    文章

    153

    浏览量

    35163
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    求助,关于NanoEdge AI Studio生成的库交叉编译器版本疑问求解

    我使用的是NanoEdge AI Studio v4.3.1,跟着官方交教程生成了库libneai.a,我通过metadata.json文件得知生成这个库的交叉编译器版本是\"
    发表于 08-08 07:25

    进迭时空同构融合RISC-V AI CPU的Triton算子编译器实践

    Triton是由OpenAI开发个开源编程语言和编译器,旨在简化高性能GPU内核的编写。它提供了类似Python的语法,并通过高级抽象降低了GPU编程的复杂性,同时保持了高性能。目前
    的头像 发表于 07-15 09:04 ?612次阅读
    进迭时空同构融合RISC-V <b class='flag-5'>AI</b> CPU的Triton算子<b class='flag-5'>编译器</b>实践

    边缘设备AI部署:编译器如何实现轻量化与高性能?

    电子发烧友网综合报道 AI编译器是专门为人工智能(AI)和机器学习(ML)模型设计的编译器,其核心目标是将高级的AI模型描述(如计算图、
    的头像 发表于 07-06 05:49 ?5557次阅读

    Microchip推出MPLAB? XC统编译器许可证 更高效的管理多个许可证

    Microchip推出MPLAB XC统编译器许可证,简化软件管理? 为了提供一种高效的方式来管理多个许可证,Microchip Technology Inc.(微芯科技公司)今日推出适用于其
    的头像 发表于 02-25 17:35 ?1028次阅读

    什么样的代码会被编译器优化

    现在的编译器有多智能,可能你辛辛苦苦写的代码,在编译器看来就是几句废话,直接被删除掉。
    的头像 发表于 01-16 16:38 ?716次阅读

    Triton编译器与GPU编程的结合应用

    Triton编译器简介 Triton编译器一种针对并行计算优化的编译器,它能够自动将高级语言代码转换为针对特定硬件优化的低级代码。Triton编译
    的头像 发表于 12-25 09:13 ?997次阅读

    Triton编译器如何提升编程效率

    在现代软件开发中,编译器扮演着至关重要的角色。它们不仅将高级语言代码转换为机器可执行的代码,还通过各种优化技术提升程序的性能。Triton 编译器作为一种先进的
    的头像 发表于 12-25 09:12 ?875次阅读

    Triton编译器在高性能计算中的应用

    高性能计算(High-Performance Computing,HPC)是现代科学研究和工程计算中不可或缺的部分。随着计算需求的不断增长,对计算资源的要求也越来越高。Triton编译器作为
    的头像 发表于 12-25 09:11 ?1128次阅读

    Triton编译器的优化技巧

    在现代计算环境中,编译器的性能对于软件的运行效率至关重要。Triton 编译器作为个先进的编译器框架,提供了系列的优化技术,以确保生成的
    的头像 发表于 12-25 09:09 ?1217次阅读

    Triton编译器的优势与劣势分析

    Triton编译器作为一种新兴的深度学习编译器,具有系列显著的优势,同时也存在些潜在的劣势。以下是对Triton
    的头像 发表于 12-25 09:07 ?1397次阅读

    Triton编译器在机器学习中的应用

    1. Triton编译器概述 Triton编译器是NVIDIA Triton推理服务平台的部分,它负责将深度学习模型转换为优化的格式,以便在NVIDIA GPU上高效运行。Triton编译器
    的头像 发表于 12-24 18:13 ?1197次阅读

    Triton编译器支持的编程语言

    Triton编译器支持的编程语言主要包括以下几种: 、主要编程语言 Python :Triton编译器通过Python接口提供了对Triton语言和编译器的访问,使得用户可以在Pyt
    的头像 发表于 12-24 17:33 ?1111次阅读

    Triton编译器与其他编译器的比较

    Triton编译器与其他编译器的比较主要体现在以下几个方面: 、定位与目标 Triton编译器 : 定位:专注于深度学习中最核心、最耗时的张量运算的优化。 目标:提供
    的头像 发表于 12-24 17:25 ?1139次阅读

    Triton编译器功能介绍 Triton编译器使用教程

    Triton 是个开源的编译器前端,它支持多种编程语言,包括 C、C++、Fortran 和 Ada。Triton 旨在提供个可扩展和可定制的编译器框架,允许
    的头像 发表于 12-24 17:23 ?1962次阅读

    BitEnergy AI公司开发一种AI处理方法

    BitEnergy AI公司,家专注于人工智能(AI)推理技术的企业,其工程师团队创新性地开发了一种
    的头像 发表于 10-22 15:15 ?926次阅读