夯实算力基础 赋能大模型创新发展

7月13-14日，第三届中国集成电路设计创新大会暨无锡IC应用博览会（ICDIA 2023）在无锡举行。天数智芯副总裁郭为受邀出席“AIoT与ChatGPT”分论坛并发表了题为《国产GPU的大模型实践》的主题演讲，全面介绍了天数智芯通用GPU产品特色以及在大模型上的应用情况。

天数智芯副总裁郭为

郭为指出，算力关乎大模型产品的成败。作为中国领先的通用GPU 高端芯片及超级算力系统提供商，天数智芯先后发布了训练产品天垓100、推理产品智铠100，充分发挥产品自主可控、性能高、通用性强、灵活性高等特点，广泛支持主流AI生态和国内外开发框架，倾力打造了高性价比、广通用的全栈式集群解决方案，为大模型提供了强大算力支撑。

郭为介绍，去年以来天数智芯在大模型训练、推理支持上取得了显著进展。基于天垓100的自主算力集群已率先完成国内70亿参数大模型训练，200P规模算力集群正在开展650亿参数大模型预训练。此外，天垓100正支持各垂直行业大模型训练微调，可支持全量参数微调、Lora快速微调、提示词微调等所有训练微调方法。智铠100支持千亿级参数大模型推理，基于智铠100的推理一体机已应用于法律、金融等行业客户大模型推理业务中，提供较国际主流产品更优的性能、性价比及能耗。

郭为表示，天数智芯将始终以服务国家战略为主线，持续推进通用GPU核心技术创新突破，打造更可信、更高效、更绿色的世界一流算力引擎，赋能大模型创新发展。

作为国内集成电路领域推动“创新”与“应用”的重要平台，ICDIA致力于推动IC设计与芯片应用、促进芯片与系统整机供需对接，实现芯片企业和整机企业的互惠发展。科技部重大专项司副司长邱钢，江苏省科技厅二级巡视员杨小平，无锡市副市长周文栋，国家01专项技术总师、中国集成电路设计创新联盟理事长、清华大学教授魏少军等出席了本届会议。