华为借助异构计算架构CANN推动技术行业落地

12月，第十九届CCF全国嵌入式系统大会（CCF ESTC 2021）在山东青岛召开。本届会议由中国计算机学会（CCF）主办，CCF嵌入式系统专委与西安电子科技大学青岛技术研究院联合承办。旨在加强从事嵌入式系统研究领域国内外学者之间的联系与交流，了解相关国际发展动态和研究热点，促进我国多学科交叉融合与嵌入式系统产业的发展。华为昇腾CANN亮相本次大会，与行业分享创新技术，为人工智能技术融入产业带来新的启发。

会议邀请了院士和国内外嵌入式系统领域的顶级专家学者作大会特邀报告，还通过专题论坛和分会场口头报告、科技成果展示、学术论文交流等形式多样的活动充分进行技术交流，推动“政产学研用”合作，引领技术进步，支撑产业发展。

会上，华为昇腾CANN生态高级总监王海彬发表了《昇腾CANN释放硬件澎湃算力》的主题演讲，分享在当前波涛汹涌的AI浪潮中，华为如何借助异构计算架构CANN（Compute Architecture for Neural Networks）进行技术创新和生态开展，持续使能科研和产业关键突破，推动技术行业落地。

于AI浪潮中迎接挑战

王海彬提到，AI作为新的通用目的技术将深刻推动社会发展进程。目前的人工智能正从单点技术走向真正的通用技术，同时AI计算也面临计算新范式、异构计算兴起、对大集群的需求日益提升，推理部署场景复杂、效率低下等问题，如何让AI用得上、用得起、用得好成为人工智能发展的关键。华为推出的异构计算架构CANN将助力解决人工智能技术面临的算力问题、多样性场景下开发效率低、编程易用性差的诸多现状。

CANN 5.0 厚积薄发，以硬实力破解困境

CANN作为昇腾处理器的AI异构计算架构，对上支持业界多种主流的AI框架，对下友好适配多异构处理器，发挥呈上启下的关键作用，是提升昇腾AI处理器计算效率的关键平台，同时针对多样化应用场景，提供高效易用的编程方式，成为了破解当前人工智能技术困境的关键。

华为昇腾CANN生态高级总监王海彬《昇腾CANN释放硬件澎湃算力》主题演讲

CANN1.0诞生于2018年，并在快速迭代过程中，从软件层面持续进行技术沉淀并迎来了一个又一个突破。2020年底，基于CANN的鹏城云脑II推出，并获得 AIPerf榜单第一；2021年4月，依托CANN关键技术的中文NLP超大模型盘古发布，其参数超过2000亿，具备业界领先的语言理解和模型生成能力，带来了前所未有的商业价值。CANN5.0作为全新一代AI异构计算架构版本，通过软硬件结合优化再度获得大幅性能提升，将昇腾AI处理器的澎湃算力发挥到极致。

原本在3.0版本需要6.25分钟训练的BERT模型，在CANN 5.0的加持下缩短了一倍多，只需2.69分钟就能完成训练；同时，原本需要28秒训练的ResNet模型，通过5.0版本缩短到了16秒。此外，常用小规模训练场景（分类、检测、语义分割、NLP等）实现性能翻倍；在分类、翻译、检测典型推理场景下，性能也可达到30%到140%的提升。

CANN5.0性能大幅提升的关键在于技术的持续突破和创新。通过深耕细作不断挖掘昇腾AI处理器的潜能，CANN在软件层面实现了更高效的任务调度和更智能的数据切分，借助任务自动流水、算子深度融合、自适应梯度切分、AutoTune智能计算调优等关键技术诠释了昇腾AI极致性能的风采。并依托自动分解和并行技术，将超大模型的处理同普通模型一样简单。

CANN5.0还提供了全套推理引擎软件包ATC Suite1.0，面向客户网络提供图级别、算子级别的自动调优能力；同时通过强大的多媒体处理能力，能轻松应对多路复杂的音视频处理场景；支持在线及离线推理方式，助力开发者更加灵活地实现高性能推理应用。

生态全面开展，CANN与开发者携手并进

作为华为昇腾CANN生态高级总监，王海彬分享了在过去的一年中，CANN面向开发者的生态开展情况。

迄今为止，CANN的社区活跃度较去年提升3倍；累计与超过200家高校研究团队开展合作，众智项目贡献400+个模型及800+个算子；目前CANN已经支持昇腾开发者人数达到58W， 其中核心开发者近9000人，已经成为了社区贡献的主力。并在接下来的2022年中，希望有更多的开发者与CANN携手点燃燎原之火，共建昇腾AI繁荣生态。

在汹涌的AI时代浪潮中，AI技术领域面临重重困难和挑战，CANN作为人工智能基础软件平台，将持续在基础能力和关键技术上突破创新，并肩负起时代赋予的使命任务，和万千个人开发者、专家学者、行业伙伴一起，共迎挑战，共创机遇，共享未来！

原文标题：昇腾CANN，?硬?核?！

文章出处：【微信公众号：华为计算】欢迎添加关注！文章转载请注明出处。