0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

加速边缘设备中计算机视觉和语音的AI推理模型

星星科技指导员 ? 来源:嵌入式计算设计 ? 作者:Saumitra Jagdale ? 2022-07-11 11:07 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

随着我们朝着创建更复杂、更高效的 AI 应用程序的方向发展,加速 AI 推理模型已成为一项重要任务。灵活和完整的人工智能辅助是在快速增长的人工智能领域取得成功的关键组成部分。

RISC-V 被设计成模块化的,有几个基本的部分和可能的补充。ISA 基础和扩展是工业界、学术界和研究界共同努力的结果。指令及其编码、控制流、寄存器、内存和寻址逻辑操作以及辅助都在基础中指定。有了完整的软件支持,包括一个通用编译器,这个基础就可以创建一个简化的通用计算机。标准扩展旨在与所有标准基础以及彼此一起运行,而不会引起任何冲突。

Deep Vision ARA-1 处理器围绕完整的软件工具套件构建,是需要高计算、模型灵活性和能源经济性的边缘应用的明确选择。该解决方案还旨在支持当今最复杂和最具成本效益的边缘人工智能应用程序,同时消耗最少的电量。

RISC-V 计算的创始人和领导者SiFive宣布,边缘 AI 处理器公司Deep Vision将把 SiFive RISC-V 处理器 IP 整合到其下一代推理加速器中,以在边缘设备中实现更完整的计算机视觉和语音。 结合这两项超高效服务,Deep Vision 将授权 SiFive Intelligence X280 和 SiFive Essentia S7 处理器 IP,以提高其解决方案的灵活性和功能性,让客户能够为智慧城市、智慧零售、汽车和其他行业创建应用程序。

借助 SiFive Intelligence X280 处理器,Deep Vision 加速器现在能够支持更广泛的神经网络模型并包括浮点优化。SiFive Intelligence 处理器上的 SiFive Intelligence Extensions 支持 TensorFlow Lite 和各种 AI/ML 数据格式,包括 BFLOAT16。

SiFive Intelligence X280 处理器作为应用级 AI 处理器的灵活性和可编程性扩展了 Deep Vision 加速器的成熟功能和性能,以快速支持硬件中新的和不断发展的 AI 推理模型,以及图像缩放、颜色转换等 AI 预处理任务, 和白噪声减法。

与其他 SiFive RISC-V 处理器一起,SiFive Essential S7 处理器提供实时、确定性处理能力,以允许在异构计算集群中执行命令和控制应用程序。SiFive Essential S7 处理器架构具有更好的安全性和实时确定性,同时提供高效的每瓦性能,使其成为对延迟敏感的边缘计算应用程序的理想选择。

将 SiFive Intelligence RISC-V 处理器的特性与 Deep Vision 推理加速器相结合,是为快速增长的 AI 处理器行业快速高效地制造新硬件的自然方式。SiFive Intelligence X280 中实施的 SiFive Intelligence Extensions 和 RISC-V Vectors 非常适合当前 AI 应用程序的需求。得益于 SiFive 行业领先的 RISC-V 处理器 IP 组合,SiFive 具有独特的优势,可以有效地帮助 AI 公司构建以市场为中心的系统。

此外,凭借一流的 11+ SPECint2k6/GHz 基准测试结果,SiFive Performance P650 将其范围扩展到了极高端领域,使其成为最高性能的可授权 RISC-V 处理器。SiFive Performance P650 具有多达 16 个内核的多核、多集群 CPU 配置和最近批准的 Hypervisor 扩展,可提供可扩展的性能。随着时间的推移,SiFive 计划扩展其路线图,以包括在单个 SoC 中支持 128 个或更多内核的多集群功能。

RISC-V 加速当前的 AI 推理模型

SiFive 将 RISC-V 处理器 IP 引入其下一代 AI 推理加速器,为边缘设备中的计算机视觉和语音提供更快、更高效的计算能力。RISC-V 处理器的高灵活性和强大功能使客户能够以比传统技术更简单和更快的速度创建智能城市、智能零售和汽车等复杂的人工智能应用程序。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    19953

    浏览量

    237469
  • soc
    soc
    +关注

    关注

    38

    文章

    4414

    浏览量

    223632
  • AI
    AI
    +关注

    关注

    88

    文章

    35758

    浏览量

    282453
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    澎峰科技完成OpenAI最新开源推理模型适配

    澎峰科技现已完成 OpenAI 最新开源推理模型 gpt-oss-20b 在 DeepFusion 大模型一体机上的原生适配与优化,用户可一键启用这颗“小而强悍”的新引擎,在本地享受企业级 AI 生产力!
    的头像 发表于 08-14 11:34 ?386次阅读

    利用NVIDIA推理模型构建AI智能体

    开放式推理模型能够更快、更广泛地进行思考,为客户服务、网络安全、制造、物流和机器人等领域的 AI 智能体生成更明智的结果。
    的头像 发表于 08-13 14:32 ?479次阅读
    利用NVIDIA<b class='flag-5'>推理模型</b>构建<b class='flag-5'>AI</b>智能体

    模型推理显存和计算量估计方法研究

    上进行了实验。实验结果表明,所提出的估计方法具有较高的准确性和实用性。 五、结论 本文针对大模型推理的显存和计算量估计问题,提出了基于模型结构和硬件
    发表于 07-03 19:43

    详解 LLM 推理模型的现状

    领域的最新研究进展,特别是自DeepSeekR1发布后兴起的推理时间计算扩展相关内容。在LLM中实施和改进推理简单来说,基于LLM的推理模型是一种旨在通过生成中间
    的头像 发表于 04-03 12:09 ?642次阅读
    详解 LLM <b class='flag-5'>推理模型</b>的现状

    英伟达GTC25亮点:NVIDIA Dynamo开源库加速并扩展AI推理模型

    DeepSeek-R1 上的吞吐量提高了 30 倍 NVIDIA 发布了开源推理软件 NVIDIA Dynamo,旨在以高效率、低成本加速并扩展 AI 工厂中的 AI
    的头像 发表于 03-20 15:03 ?731次阅读

    NVIDIA 宣布推出 DGX Spark 个人 AI 计算机

    的 DGX? 个人 AI 超级计算机。 ? DGX Spark(前身为 Project DIGITS)支持 AI 开发者、研究人员、数据科学家和学生,在台式电脑上对大模型进行原型设计、
    发表于 03-19 09:59 ?359次阅读
       NVIDIA 宣布推出 DGX Spark 个人 <b class='flag-5'>AI</b> <b class='flag-5'>计算机</b>

    英飞凌边缘AI平台通过Ultralytics YOLO模型增加对计算机视觉的支持

    计算机视觉的支持,扩大了当前对音频、雷达和其他时间序列信号数据的支持范围。在增加这项支持后,该平台将能够用于开发低功耗、低内存的边缘AI视觉
    的头像 发表于 03-11 15:11 ?454次阅读
    英飞凌<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>平台通过Ultralytics YOLO<b class='flag-5'>模型</b>增加对<b class='flag-5'>计算机</b><b class='flag-5'>视觉</b>的支持

    科大讯飞发布星火深度推理模型X1

    今天,科大讯飞正式发布星火深度推理模型X1,星火4.0 Turbo底座全面升级,首发星火语音同传大模型
    的头像 发表于 01-15 15:54 ?811次阅读

    科大讯飞即将发布讯飞星火深度推理模型X1

    ,标志着科大讯飞在AI技术领域的又一次重大突破。讯飞星火深度推理模型X1将为科大讯飞的智能体产品注入更为强大的AI能力,使其在处理复杂任务和进行深度推理时表现出色。 据悉,讯飞星火深度
    的头像 发表于 01-08 10:30 ?816次阅读

    智谱推出深度推理模型GLM-Zero预览版

    近日,智谱公司正式发布了其深度推理模型GLM-Zero的预览版——GLM-Zero-Preview。这款模型标志着智谱在扩展强化学习技术训练推理模型方面的重大突破,成为其首个专注于增强AI
    的头像 发表于 01-03 10:42 ?583次阅读

    智谱GLM-Zero深度推理模型预览版正式上线

    近日,智谱公司宣布其深度推理模型GLM-Zero的初代版本——GLM-Zero-Preview已正式上线。这款模型是智谱首个基于扩展强化学习技术训练的推理模型,标志着智谱在AI
    的头像 发表于 01-02 10:55 ?595次阅读

    阿里云发布开源多模态推理模型QVQ-72B-Preview

    近日,阿里云宣布了一项重大技术突破,正式发布了业界首个开源多模态推理模型——QVQ-72B-Preview。这一模型的问世,标志着阿里云在AI技术领域的又一次重要飞跃
    的头像 发表于 12-27 10:28 ?667次阅读

    AI模型部署边缘设备的奇妙之旅:目标检测模型

    1、简介 人工智能图像识别是人工智能领域的一个重要分支,它涉及计算机视觉、深度学习、机器学习等多个领域的知识和技术。图像识别主要是处理具有一定复杂性的信息。计算机采用与人类类似的图像识别原理,即对
    发表于 12-19 14:33

    AI模型部署边缘设备的奇妙之旅:如何在边缘端部署OpenCV

    图像的质量,使得图像更适合人类观察或者为后续的分析做准备。 方法:通常涉及像素级别的操作,比如调整亮度、对比度、颜色校正、滤波(如高斯模糊、中值滤波去噪)、边缘检测、形态学变换(膨胀、腐蚀)等。 计算机视觉
    发表于 12-14 09:31

    初创公司SEA.AI利用NVIDIA边缘AI计算机视觉技术变革航海安全系统

    总部位于奥地利林茨的初创公司正在利用 NVIDIA 边缘 AI计算机视觉技术变革航海安全系统,让每一次出海变得更安全。
    的头像 发表于 09-09 09:32 ?987次阅读