0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

有家人工智芯片初创公司对标Nvidia?

我快闭嘴 ? 来源:半导体行业观察 ? 作者:半导体行业观察 ? 2020-11-26 16:14 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

据enterpriseai报道,目前市场上有80多家AI芯片供应商和初创公司,每家公司都表示,在为广泛的行业和用途构建AI芯片时,他们都有一个更好的主意。

这样的情况同样出现在拥有3年历史的无晶圆厂AI芯片公司SimpleMachines身上。据报道,他们正在凭借自己独特的设计去挑战Nvidia和Marvell这样的芯片巨头。当然,像他们这样的初创公司也是其挑战对象。其说凭借的就是他们所说的不同方法去解决AI计算的难题。

SimpleMachines的创始人兼首席执行官Karu Sankaralingam说,这始于公司所谓的算法自适应AI芯片,程序员可以对其进行定制,以快速,无缝地满足其工作流程的需求。

这个想法催生了Mozart:该公司的首个AI芯片,该芯片针对推理进行了优化,在设计中使用了16纳米工艺,HBM2高带宽内存和PCIe Gen3x16尺寸。Sankaralingam告诉EnterpriseAI,公司的Mozart芯片现在正在送样,正在接受客户评估。他说,Mozart芯片是由芯片制造商台积电生产的,具有完整的软件和硬件堆栈,可让数据科学家运行程序而无需担心背后的问题。

Sankaralingam说,Mozart之所以能够在AI芯片领域脱颖而出,是因为它可以在一个芯片上同时运行多个AI模型。

他说:“之所以发生这种情况,是因为我们的芯片在内部分为64个不同的模块,如果有必要,程序员可以对其进行寻址并同时运行64个不同的应用程序或模型。” “然后,开发人员可以编写64个不同的模型,并且可以在一芯片硅片上同时运行64个模块(如果需要)。

Mozart的软件堆栈包括直接的TensorFlow支持以及C / C ++和Python的API,使程序员和数据科学家可以使用它。

Mozart可以以称为Accelerando的PCIe卡形式购买,也可以通过SimpleMachines的Symphony Cloud Service进行使用,该服务可以访问Azure,Google Cloud Platform和AWS等公有云,本质上是一种AI-as-a -服务交付模式。初始测试显示了可以同时运行的推荐引擎,语音和语言处理以及图像检测的用例。将来,带有Mozart芯片的Accelerando卡将在标准OEM厂商的系统中出售,例如Dell和Supermicro。

不同的方法

Moor Insights&Strategy的HPC和机器学习高级研究分析师Karl Freund表示,近年来他在AI芯片和软件的“寒武纪大爆发”中看到了十几种独特的AI芯片设计,但是SimpleMachines的Mozart设计不同于大多数设计。

“像所有的AI初创公司一样,他们声称性能出色,但是现在还不能断言他们的说法” Freund说。“他们的内存架构给人留下了深刻的印象,这种架构看上去优雅而简单,这将使繁重的软件工作变得更容易解决。在软件方面,他们还有很多工作要做,例如对PyTorch的支持。但是随着平台的成熟,他们似乎正在朝着正确的方向前进,这值得进一步跟踪。”

AI芯片要求不断变化

他说,新型Mozart AI芯片的灵感之一是Sankaralingam正在进行的研究,该研究指出需要一种新型的架构,以适应当今的大数据时代。Sankaralingam还是威斯康星大学麦迪逊分校的计算机科学教授,他在那里任教14年。

Sankaralingam说,当前的芯片平台,甚至包括为特定要求而构建的定制芯片,都无法满足这些需求。“应用呈爆炸式增长,因此,它不再只是处理图像了。它是文本到语音乘以重要数据的时间,并且变化迅速且不断增长,然后每六个月突破一次。公司的机会是市场需要大量的计算效率,而GPU却无法满足他们的需求。这些趋势使我们意识到,针对一个AI问题的专用定制芯片已经面世。”

他说,借助Mozart,这些挑战得以解决,因为可以通过使用芯片的深度软件堆栈即时重新编程来更改芯片上的项目需求。

他说:“我们正在与客户的讨论中,他们都说过不同的公司如何使用不同的模型,许多公司正在使用许多模型。” “这使我们再次审视了关于AI计算必要条件的假设。能力和效率并不是唯一的指标,另一个重要的指标是算法适应性。GPU之所以会出现,是因为它们具有很高的适应性。”

Sankaralingam说,使用另一种方法,SimpleMachines的策略是忽略应用正在尝试执行的操作,而转向算法。“我们观察到,许多或所有这些算法从根本上分解为四种行为:数据收集,计算,控制和同步。我们可以使用这些行为对算法进行分类。然后,我们构建一个个可以将应用分解为这些行为的编译器,并将该信息提供给我们的硬件。”

他说,然后硬件不再执行指令,获取,分支中断器和缓存,而是实现了这四种行为。

Sankaralingam说:“这就是我们需要对它们进行编程的全部,作为一名程序员,您可以在TensorFlow中编写这些代码,然后提取出这些行为并将其映射到我们的芯片上。” “这是一个很大的平行转变。”

Mozart的体系结构将任何软件应用程序抽象为少量已定义的行为,然后使用SimpleMachines自己的编译器集成到TensorFlow等标准AI框架的后端。据该公司称,这使得架构可以实时转换这些程序并重新配置硬件,从而产生一种芯片,其性能就像最初为该应用程序设计的一样。

SimpleMachines认为其Mozart AI芯片将在公共数据中心,网络安全,金融和保险市场中看到机遇,并在未来的边缘和移动设备市场中为其路线图上即将推出的产品提供更多机遇。
责任编辑:tzh

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    460

    文章

    52736

    浏览量

    444063
  • 晶圆
    +关注

    关注

    53

    文章

    5212

    浏览量

    130285
  • AI
    AI
    +关注

    关注

    88

    文章

    35754

    浏览量

    282412
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Wandercraft借助NVIDIA技术开发个人外骨骼设备

    初创公司 Wandercraft 正借助 NVIDIA AI 和 NVIDIA Omniverse 仿真技术,开发个人外骨骼设备。这些外骨骼设备能够帮助脊髓损伤、中风以及其他严重行动能
    的头像 发表于 05-15 10:43 ?482次阅读

    Amphitrite借助NVIDIA Earth-2平台优化船舶航线

    作为 NVIDIA 初创加速计划的成员,这家初创公司帮助船舶充分利用洋流和 AI 的力量,通过 NVIDIA Earth-2 平台缩短航行时
    的头像 发表于 02-14 10:04 ?614次阅读

    AI+PCB 初创公司

    近年来,人工智能(AI)与印刷电路板(PCB)设计的结合催生了多家初创公司,致力于通过AI技术提升PCB设计的效率和质量。以下是一些值得关注的AI+PCB初创
    的头像 发表于 02-08 15:09 ?2826次阅读

    艾睿电子携手印尼初创协会,助力科技初创公司

    的科技初创公司提供宝贵的资源和支持。通过艾睿电子的专业知识和技术实力,初创企业将有机会获得尖端的电子技术和重要的工程专业知识。这将有助于推动他们在AIoT(人工智能物联网)和EvTec
    的头像 发表于 01-17 10:52 ?449次阅读

    MediaTek与NVIDIA携手设计GB10 Grace Blackwell超级芯片

    ——NVIDIA? Project DIGITS上,为人工智能领域带来全新的解决方案。 作为智能手机、智能电视、Android平板电脑、语音助理设备以及基于Arm架构Chromebook的芯片出货量领先企业
    的头像 发表于 01-13 10:48 ?651次阅读

    英伟达收购AI初创公司Run:ai

    全球领先的芯片制造商英伟达近日正式完成了对以色列人工智能初创公司Run:ai的收购。这一收购案在经过欧盟反垄断机构的严格审查后,最终获得了批准,标志着英伟达在AI领域的布局又迈出了重要
    的头像 发表于 12-31 10:46 ?606次阅读

    马斯克人工智能初创公司xAI完成60亿美元C轮融资

    近日,特斯拉CEO埃隆·马斯克旗下的人工智能初创公司xAI,在社交媒体X上正式对外宣布,公司已经成功完成了高达60亿美元的C轮融资。 此次融资不仅彰显了xAI在
    的头像 发表于 12-26 11:10 ?836次阅读

    NVIDIA AI助力初创企业为心理治疗师提供AI工具

    NVIDIA AI 助力初创企业为心理治疗师提供 AI 工具,以此来优化和提升心理健康服务水平,为人们的心理健康保驾护航。
    的头像 发表于 11-19 16:03 ?643次阅读

    初创公司借助NVIDIA Metropolis和Jetson提高生产线效率

    初创公司使用 NVIDIA Metropolis 视觉 AI 和 Jetson 边缘 AI 平台提高生产线效率。
    的头像 发表于 11-19 14:39 ?776次阅读

    亚马逊将推新芯片,挑战英伟达

    亚马逊正准备推出其最新的人工智能芯片,这标志着其在半导体技术方面数十亿美元的投资迈出了重要一步。目标是减少对NVIDIA的依赖,后者目前在AI处理器市场占据主导地位。亚马逊的云计算部门
    的头像 发表于 11-15 01:08 ?652次阅读
    亚马逊将推新<b class='flag-5'>芯片</b>,挑战英伟达

    NVIDIA助力Figure发布新一代对话式人形机器人

    初创公司展示了新型机器人,其使用 NVIDIA Isaac Sim 处理合成数据,并使用基于 NVIDIA 加速计算进行实时推理训练的生成式 AI 模型。
    的头像 发表于 11-04 10:10 ?787次阅读

    NVIDIA与印度携手计划联合开发定制AI芯片

     10月23日,媒体报道称,NVIDIA正计划与印度携手开发人工智能芯片,旨在充分利用印度丰富的半导体设计人才资源,并深入开拓印度这一快速增长的市场。   此次合作不仅有助于
    的头像 发表于 10-23 11:50 ?896次阅读

    NVIDIA助力初创公司Wayve开发创新自动驾驶技术

    初创公司 Wayve 开发出能够在动态真实环境中做出决策的自动驾驶技术。
    的头像 发表于 10-10 09:39 ?795次阅读

    AI初创公司寻求科技巨头“接盘”

    人工智能领域的激烈竞争中,众多初创公司曾风光无限,去年筹集了巨额资金,梦想成为科技浪潮中的璀璨明星。然而,随着市场冷却与竞争加剧,不少公司面临生存困境,纷纷将目光投向硅谷的科技巨头,
    的头像 发表于 09-26 14:35 ?547次阅读

    初创公司SEA.AI利用NVIDIA边缘AI和计算机视觉技术变革航海安全系统

    总部位于奥地利林茨的初创公司正在利用 NVIDIA 边缘 AI 和计算机视觉技术变革航海安全系统,让每一次出海变得更安全。
    的头像 发表于 09-09 09:32 ?986次阅读