0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英特尔大模型全适配,大语言模型已成功部署于CPU

微云疏影 ? 来源:综合整理 ? 作者:综合整理 ? 2023-12-11 15:41 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

据媒体报道,美当地时间12月8日,联想集团举办了“AI PC产业创新论坛”活动,在会议中,英特尔中国区技术总经理高宇强调新一代酷睿Ultra处理器已适配超过10款中国国内的大型计算机模型。

他进一步指出,英特尔作为芯片制造商,始终致力于对“合适尺寸”模型的全面适配。面对大模型领域激烈的市场竞争,每个季度大约有4-5款新模型上市,一旦发现任何新的模型,英特尔承诺将立即派遣技术团队与相关模型厂商展开联合研究,推动目标模型在平台上的移植工作。

此外,在AI算力解决方案方面,英特尔采取XPU策略,即GPU、NPU和CPU并行使用。高宇也提到,目前在英特尔CPU上已成功应用大语言模型,且运行速度流畅;未来,这一模型也将在英特尔NPU上完成部署。展望未来,英特尔将持续深化与其包括联想集团在内的国内产业链的合作关系。

英特尔曾在上文提及的文章中明确表示,AI PC是指具备完整AI功能的PC设备。通过让AI在云端和PC之间协同工作,或者使大语言模型在单机环境下独立运行,实现对PC用户体验的根本性改造以及生产能力和创造力的充分释放。

值得一提的是,随着12月15日在国内的酷睿Ultra系列处理器发布会日益临近,这款新品同样拥有集成式NPU,能够提供低延时的Al计算服务。同时,英特尔表态自MeteorLake开始,将把Al广泛引入PC,引领全球数亿台PC迈入Al时代。此外,基于强大的x86生态系统,英特尔为广大用户提供丰富多样的软件模型和工具。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    460

    文章

    52628

    浏览量

    442849
  • 英特尔
    +关注

    关注

    61

    文章

    10205

    浏览量

    175135
  • 大模型
    +关注

    关注

    2

    文章

    3197

    浏览量

    4154
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    英特尔酷睿Ultra AI PC上部署多种图像生成模型

    全新英特尔酷睿Ultra 200V系列处理器对比上代Meteor Lake,升级了模块化结构、封装工艺,采用全新性能核与能效核、英特尔硬件线程调度器、Xe2微架构锐炫GPU、第四代NPU等,由此也带来了CPU性能提升18%,GP
    的头像 发表于 04-02 15:47 ?576次阅读
    在<b class='flag-5'>英特尔</b>酷睿Ultra AI PC上<b class='flag-5'>部署</b>多种图像生成<b class='flag-5'>模型</b>

    部署成本显著降低!英特尔助阵高效AI算力一体机方案

    3月27日,英特尔举办了名为“‘至’绘未来,锐炫来袭”的创新解决方案研讨会,与生态伙伴共同分享最新AI算力一体机方案。该方案基于英特尔?至强? W处理器和多个英特尔锐炫?显卡,可为日益增长的AI
    的头像 发表于 03-29 16:29 ?1280次阅读
    <b class='flag-5'>部署</b>成本显著降低!<b class='flag-5'>英特尔</b>助阵高效AI算力一体机方案

    请问OpenVINO?工具套件英特尔?Distribution是否与Windows? 10物联网企业版兼容?

    无法在基于 Windows? 10 物联网企业版的目标系统上使用 英特尔? Distribution OpenVINO? 2021* 版本推断模型
    发表于 03-05 08:32

    为什么Caffe模型可以直接与OpenVINO?工具套件推断引擎API一起使用,而无法转换为中间表示 (IR)?

    推断 Caffe 模型直接基于 英特尔? 神经电脑棒 2 (英特尔? NCS2)。 无法确定为什么 Caffe 模型可以直接与OpenVINO?工具套件推断引擎 API 一起使用
    发表于 03-05 06:31

    添越智创基于 RK3588 开发板部署测试 DeepSeek 模型全攻略

    这也会带来新问题,随着模型参数增加,回复速度会明显下降,实际应用中需根据需求权衡。使用 Ollama 工具部署的推理模型运行时主要依赖 CPU 运算。从运行监测数据能看到,
    发表于 02-14 17:42

    英特尔Gaudi 2D AI加速器助力DeepSeek Janus Pro模型性能提升

    Pro模型进行了深度优化。 这一优化举措使得AI开发者能够以更低的成本和更高的效率实现复杂任务的部署与优化。英特尔Gaudi 2D AI加速器通过其卓越的计算能力和高度优化的软件栈,为Janus Pro
    的头像 发表于 02-10 11:10 ?662次阅读

    龙芯中科与DeepSeek大模型协同适配成功

    龙芯中科近日宣布了一项重大进展,其自主研发的龙芯3号CPU已成功运行DeepSeek R17B模型,实现了本地化高效部署。这一成就标志着国产芯片与AI大
    的头像 发表于 02-10 09:14 ?725次阅读

    DeepSeek发布Janus Pro模型英特尔Gaudi 2D AI加速器优化支持

    Gaudi 2D AI加速器现已针对该模型进行了全面优化。这一优化举措使得AI开发者能够更轻松地实现复杂任务的部署与优化,从而有效满足行业应用对于推理算力的迫切需求。 英特尔Gaudi 2D AI加速器的优化支持,为Janus
    的头像 发表于 02-08 14:35 ?661次阅读

    摩尔线程宣布成功部署DeepSeek蒸馏模型推理服务

    近日,摩尔线程智能科技(北京)有限责任公司在其官方渠道发布了一则重要消息,宣布公司已经成功实现了对DeepSeek蒸馏模型推理服务的部署。这一技术突破,标志着摩尔线程在人工智能领域迈出了坚实的一步
    的头像 发表于 02-06 13:49 ?864次阅读

    使用英特尔AI PC为YOLO模型训练加速

    之后,情况有了新的变化,PyTorch2.5正式开始支持英特尔显卡,也就是说,此后我们能够借助英特尔 锐炫 显卡来进行模型训练了。
    的头像 发表于 12-09 16:14 ?1677次阅读
    使用<b class='flag-5'>英特尔</b>AI PC为YOLO<b class='flag-5'>模型</b>训练加速

    语言模型开发框架是什么

    语言模型开发框架是指用于训练、推理和部署大型语言模型的软件工具和库。下面,AI部落小编为您介绍大语言
    的头像 发表于 12-06 10:28 ?569次阅读

    英特尔助力百度智能云千帆大模型平台加速LLM推理

    “大模型在各行业的广泛应用驱动了新一轮产业革命,也凸显了在AI算力方面的瓶颈。通过携手英特尔释放英特尔 至强 可扩展处理器的算力潜力,我们为用户提供了高性能、灵活、经济的算力基础设施方案,结合千帆
    的头像 发表于 11-25 16:59 ?999次阅读
    <b class='flag-5'>英特尔</b>助力百度智能云千帆大<b class='flag-5'>模型</b>平台加速LLM推理

    使用PyTorch在英特尔独立显卡上训练模型

    《PyTorch 2.5重磅更新:性能优化+新特性》中的一个新特性就是:正式支持在英特尔独立显卡上训练模型
    的头像 发表于 11-01 14:21 ?2138次阅读
    使用PyTorch在<b class='flag-5'>英特尔</b>独立显卡上训练<b class='flag-5'>模型</b>

    英特尔下代 CPU 还值得信任吗?

    市场竞争加剧和技术迭代加速,英特尔面临着前所未有的挑战。在这样的背景下,我们不禁要问:英特尔下一代CPU是否还值得我们的信任?
    的头像 发表于 09-04 13:57 ?811次阅读
    <b class='flag-5'>英特尔</b>下代 <b class='flag-5'>CPU</b> 还值得信任吗?

    英特尔IT的发展现状和创新动向

    AI大模型的爆发,客观上给IT的发展带来了巨大的机会。作为把IT发展上升为战略高度的英特尔,自然在推动IT发展中注入了强劲动力。英特尔IT不仅专注创新、AI和优化,以及
    的头像 发表于 08-16 15:22 ?1007次阅读