0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大模型太贵?找找自己的原因好吧?

脑极体 ? 来源:脑极体 ? 作者:脑极体 ? 2023-10-07 09:25 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

什么?

炼个大模型还嫌贵?

到底哪里贵了!?

大模型算力贵?哪里贵了!?

争先恐后训练大模型,

搞得现在“算力慌”“一卡难求”,

算力当然水涨船高了!

“特供版”GPU又贵又缩水,

大家自己愿意当“冤大头”囤卡,

还好意思埋怨贵了?

这么多年有没有认真工作?

为什么这么多算力还依赖进口!

自己为什么不能制造芯片?

有没有在自主化上想想办法?

解决算力难题,

厂商们可以选择AI云服务。

在社会层面进行算力集约,

让算力普惠。

同时支持国产AI算力,

让国内市场活跃起来。

大模型基础设施贵?哪里贵了!?

数据需要存,接入AI模型需要网,

部署AI模型需要终端。

哪个不需要投入了!

任何一个地方出现短板,

就会出现木桶效应!

加一加算一算,当然不便宜了!

有时候找找自己的原因!

综合成本那么高,

是不是盲目追求高配置了?

IT设施能不能跟上大模型发展?

是不是IT采购做得东一榔头,西一棒槌?

有没有做过全盘的数字化设计?

想要把基础设施的综合成本打下来,

就需要选择和大模型

适配的存储、网络产品。

统筹规划自己的ICT基础设施,

让大模型获得良好的数字化土壤。

大模型数据贵?哪里贵了!?

专用数据从采集、清洗到标注、验证,

每一个环节都需要成本。

有的企业整理3TB数据成本就高达数十万。

通用数据便宜!

不担心大模型差异化问题你去买啊!

平时有没有重视自有数据?

全员通宵埋头标注数据的时候,

高价买数据的时候,

就没想想怎么能剩下一笔数据成本?

想降低数据成本,

首先就要重视自身的数据资产,

加强数据资产的收集保存,

同时强化流通,

数据流通起来才有价值!

大模型运维贵?哪里贵了!?

大模型数据规模大、迭代版本多、算力节点多。

多就代表复杂,复杂就代表故障率高。

一出故障要推倒重训,

一次训练恢复就要一星期以上,

项目进度停滞,人工和算力开销照旧,

整体成本咔咔上涨!

运维成本上涨,

有时候找找自己的原因!

为什么一边抱怨人工贵,

一边还要让员工加班?

为什么不找找运维“平替”?

想要找人工运维的“平替”,

当然就是AI运维了 !

用AI来运维AI,

提升运维智能化水平,

实现故障精准定位,快速恢复。

让运维能力秒变省钱超能力!

大模型人才贵?哪里贵了!?

也就是应届生比其他T人才溢价个50%左右,

算法工程师年薪50万起步,

多一点的100万也够了!

有时候挖一个专家,

还要把他学生、助手、

亲戚七大姑八大姨都给挖过来,

1000万起步差不多吧。

有些时候找找自身原因!

这么多年有没有认真工作?

自己能不能变成AI人才?

有没有让员工都去研究学大模型?

有没有送自己小孩去学AI?

破解AI人才难题,

需要产学研协同努力,

加大人才培养力度,

丰富相关岗位分工,

推进AI资质考核标准化

校园培养、在职培养、

社会培养共同发展。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    88

    文章

    35916

    浏览量

    283138
  • 大模型
    +关注

    关注

    2

    文章

    3250

    浏览量

    4247
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    如何进行YOLO模型转换?

    (kmodel_data)代码运行无异常,导出模型大小只有12MB,但在设备中运行模型时间非常长(具体超过5分钟一次),而后将预处理关闭,则设备中跑模型会报错 请问,以上问题是哪里的原因
    发表于 08-14 06:03

    ai_cube训练模型最后部署失败是什么原因

    ai_cube训练模型最后部署失败是什么原因?文件保存路径里也没有中文 查看AICube/AI_Cube.log,看看报什么错?
    发表于 07-30 08:15

    FA模型卡片和Stage模型卡片切换

    卡片切换 卡片切换主要包含如下三部分: 卡片页面布局:FA模型卡片和Stage模型卡片的布局都采用类web范式开发可以直接复用。 卡片配置文件:FA模型的卡片配置在config.json中
    发表于 06-06 08:10

    KaihongOS操作系统FA模型与Stage模型介绍

    (Feature Ability) FA模型是KaihongOS 从API 7开始支持的模型,已经不再被主推。在FA模型中,每个应用组件独享一个ArkTS引擎实例,这意味着每个应用组件都是独立的,拥有
    发表于 04-24 07:27

    小身板大能量:树莓派玩转 Phi-2、Mistral 和 LLaVA 等AI大模型~

    你是否想过在自己的设备上运行自己的大型语言模型(LLMs)或视觉语言模型(VLMs)?你可能有过这样的想法,但是一想到要从头开始设置、管理环境、下载正确的
    的头像 发表于 03-25 09:32 ?479次阅读
    小身板大能量:树莓派玩转 Phi-2、Mistral 和 LLaVA 等AI大<b class='flag-5'>模型</b>~

    Optimum Intel / NNCF在重量压缩中选择FP16模型原因

    无法确定使用 Optimum Intel / NNCF 在重量压缩中选择 FP16 模型原因
    发表于 03-06 06:04

    【「大模型启示录」阅读体验】对大模型更深入的认知

    。兴奋的是,大模型技术的发展为我们带来了无限可能;不安的是,我意识到自己对这一领域的了解还远远不够。我开始思考,作为一名学生,我如何能够更好地利用这些技术,以及在未来的职业生涯中,我如何能够参与到这一变革中去。 学习之路仍然很漫长啊……
    发表于 12-20 15:46

    【「大模型启示录」阅读体验】如何在客服领域应用大模型

    多个因素以确保所选模型能够满足企业的具体需求和目标。首先,企业需要明确自己的客服需求和目标。例如,是否需要24小时在线客服服务?是否需要处理复杂问题的能力?是否需要个性化服务?明确这些需求有助于企业更好
    发表于 12-17 16:53

    Sora之后,视频生成模型的中国牌局

    模型的牌局,国内企业正在找到自己的节奏感
    的头像 发表于 12-12 09:23 ?2952次阅读
    Sora之后,视频生成<b class='flag-5'>模型</b>的中国牌局

    高效大模型的推理综述

    模型推理的文献进行了全面的综述总结。首先分析了大模型推理效率低下的主要原因,即大模型参数规模、注意力计算操的二次复杂度作和自回归解码方法。然后,引入了一个全面的分类法,将现有优化工作
    的头像 发表于 11-15 11:45 ?1663次阅读
    高效大<b class='flag-5'>模型</b>的推理综述

    如何训练自己的LLM模型

    训练自己的大型语言模型(LLM)是一个复杂且资源密集的过程,涉及到大量的数据、计算资源和专业知识。以下是训练LLM模型的一般步骤,以及一些关键考虑因素: 定义目标和需求 : 确定你的LLM将用
    的头像 发表于 11-08 09:30 ?1698次阅读

    如何训练自己的AI大模型

    训练自己的AI大模型是一个复杂且耗时的过程,涉及多个关键步骤。以下是一个详细的训练流程: 一、明确需求和目标 首先,需要明确自己的需求和目标。不同的任务和应用领域需要不同类型的AI模型
    的头像 发表于 10-23 15:07 ?5436次阅读

    用TINA-TI仿真LM4871模型无法有效输出是什么原因

    TI工程师你好,我从TI官网上下载了一个LM4871的模型进行仿真,但是无法有效输出,请问是什么原因
    发表于 10-22 06:20

    使用OPA2134的仿真模型,结果异常的原因

    各位大佬: 电路图如下所示 1、首先是电路使用OPA2134的仿真模型,结果异常。不清楚是模型的问题还是电路上器件不适用的问题。 2、更换OPA4192。仿真没有问题。 3、实际焊接电路测试:此点电压会被拉低,且有震荡。(实际电路中输入的信号源更换为200pF的电容
    发表于 09-29 08:12

    DAC8568 IBIS模型转换成spice模型无法显示所有引脚是什么原因导致的?怎么解决?

    你好,下载的DAC8568 IBIS模型,在cadence中生成spice模型时无法显示所有引脚,只有一个INPUT引脚,没有其他引脚,导致无法进行电路绘制和仿真,请问是什么原因,应该怎么解决?
    发表于 09-09 06:14