电子发烧友App
创作
发文章
发帖 
提问 
发资料
发视频资料介绍
软件简介
OpenPPL 是基于自研高性能算子库的推理引擎，拥有极致调优的性能；提供云原生环境下 的 AI 模型多后端部署能力，支持 OpenMMLab 等深度学习模型的高效部署。
架构如下：
高性能
设计微架构友好的任务/数据/指令等多级并行策略，自研 NV GPU、 x86 CPU 计算库，满足部署场景对神经网络推理、常用图像处理的性能需求
- 支持 GPU T4 平台 FP16 推理
- 支持 CPU x86 平台 FP32 推理
- 核心算子优化，平均性能领先业界
OpenMMLab 部署
支持 OpenMMLab 检测、分类、分割、超分等系列前沿模型，同时提供模型前后处理所需图像处理算子
- 遵循 ONNX 开放标准，提供 ONNX 转换支持
- 支持网络动态特性
- 提供 MMCV 算子高性能实现
云上多后端部署
面向云端异构推理场景，支持多平台部署
- 支持 x86 FMA & AVX512、NV Turing 架构
- 支持异构设备并行推理
下载该资料的人也在下载
下载该资料的人还在阅读
更多 >
- 基于AdderNet的深度学习推理加速器
- 基于深度学习的神经协同过滤推荐系统 5次下载
- 基于预训练模型和长短期记忆网络的深度学习模型 19次下载
- 3小时学习神经网络与深度学习课件下载 0次下载
- 基于计算机视觉和NLP的跨媒体问答与推理 8次下载
- 基于深度学习的图像修复模型及实验对比 20次下载
- 深度模型中的优化与学习课件下载 3次下载
- 一种基于机器学习的流簇大小推理模型 34次下载
- 深度学习模型的对抗攻击及防御措施 75次下载
- 深度学习入门：基于Python的理论与实现电子书 32次下载
- MXNet深度学习计算平台中文学习笔记免费下载 3次下载
- python机器学习和深度学习的学习书籍资料免费下载 95次下载
- 深度学习基础教程之DLBook深度学习中文版电子教材免费下载 0次下载
- 深度学习是什么？了解深度学习难吗?让你快速了解深度学习的视频讲解 16次下载
- 最基本的深度学习系统的硬件指南 1次下载
- 澎峰科技高性能大模型推理引擎PerfXLM解析 522次阅读
- 深度学习中的无监督学习方法综述 854次阅读
- 基于深度学习的小目标检测 994次阅读
- Torch TensorRT是一个优化PyTorch模型推理性能的工具 1871次阅读
- 视觉深度学习迁移学习训练框架Torchvision介绍 934次阅读
- 当深度学习遇上TDA4 1349次阅读
- NADP加Triton搭建稳定高效的推理平台 964次阅读
- 机器学习的第二阶段：推理 6040次阅读
- Xavier的硬件架构特性！Xavier推理性能评测 1.8w次阅读
- 多智体深度强化学习研究中首次将概率递归推理引入AI的学习过程 4925次阅读
- 一种基于FPGA的高性能DNN加速器自动生成方案 5569次阅读
- 深度学习和机器学习深度的不同之处 浅谈深度学习的训练和调参 4342次阅读
- 对比深度学习和经典机器学习，分别介绍这两种技术的优缺点 2.6w次阅读
- 如何区分深度学习与机器学习 1965次阅读
- 深度学习开源框架,AI从业者的选择之路 2414次阅读
上传资料赚积分下载排行
本周
- 1DD3118电路图纸资料
- 0.08 MB | 1次下载 | 免费
- 2AD库封装库安装教程
- 0.49 MB | 1次下载 | 免费
- 3PC6206 300mA低功耗低压差线性稳压器中文资料
- 1.12 MB | 1次下载 | 免费
- 4网络安全从业者入门指南
- 2.91 MB | 1次下载 | 免费
- 5DS-CS3A P00-CN-V3
- 618.05 KB | 1次下载 | 免费
- 6海川SM5701规格书
- 1.48 MB | 次下载 | 免费
- 7H20PR5电磁炉IGBT功率管规格书
- 1.68 MB | 次下载 | 1 积分
- 8IP防护等级说明
- 0.08 MB | 次下载 | 免费
本月
- 1贴片三极管上的印字与真实名称的对照表详细说明
- 0.50 MB | 103次下载 | 1 积分
- 2涂鸦各WiFi模块原理图加PCB封装
- 11.75 MB | 89次下载 | 1 积分
- 3锦锐科技CA51F2 SDK开发包
- 24.06 MB | 43次下载 | 1 积分
- 4锦锐CA51F005 SDK开发包
- 19.47 MB | 19次下载 | 1 积分
- 5PCB的EMC设计指南
- 2.47 MB | 16次下载 | 1 积分
- 6HC05蓝牙原理图加PCB
- 15.76 MB | 13次下载 | 1 积分
- 7802.11_Wireless_Networks
- 4.17 MB | 12次下载 | 免费
- 8苹果iphone 11电路原理图
- 4.98 MB | 6次下载 | 2 积分
总榜
- 1matlab软件下载入口
- 未知 | 935127次下载 | 10 积分
- 2开源硬件-PMP21529.1-4 开关降压/升压双向直流/直流转换器 PCB layout 设计
- 1.48MB | 420064次下载 | 10 积分
- 3Altium DXP2002下载入口
- 未知 | 233089次下载 | 10 积分
- 4电路仿真软件multisim 10.0免费下载
- 340992 | 191390次下载 | 10 积分
- 5十天学会AVR单片机与C语言视频教程 下载
- 158M | 183342次下载 | 10 积分
- 6labview8.5下载
- 未知 | 81588次下载 | 10 积分
- 7Keil工具MDK-Arm免费下载
- 0.02 MB | 73815次下载 | 10 积分
- 8LabVIEW 8.6下载
- 未知 | 65989次下载 | 10 积分
工商网监
评论