0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

IBM Storage Ceph:现代数据湖仓的理想技术底座

全球TMT ? 来源:全球TMT ? 作者:全球TMT ? 2024-02-02 10:24 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

作者:周立旸,IBM 大中华区科技事业部存储软件产品总监

北京2024年2月1日/美通社/ -- 一年前,IBM 将 Red Hat 存储产品的路线图及团队集成至 IBM存储业务(IBM Storage)。在此期间,企业在扩展 AI 时正面临前所未有的数据挑战:在多个位置、以多种形式存储的数据量飙升,但数据质量较差。为了帮助客户解决这一问题,我们需要领先的解决方案对客户的基础架构进行现代化改造,以支持其数字化转型。这主要涉及在本地和云环境中提供一致的应用和数据存储。此外,还需要帮助客户采用云原生架构,实现公有云在成本、速度和弹性等方面的优势。作为业界领先的开源软件定义存储平台,IBM Storage Ceph(前身为 Red Hat Ceph)正是实现这一目标所需的基石。

wKgaomW7rpaAGBOrAAEpanYOLGw648.jpg


周立旸,IBM 大中华区科技事业部存储软件产品总监

在数据管理方面,软件定义存储 (SDS) 已成为一股变革力量。与传统的传统存储阵列相比,它具有许多优势,包括极高的灵活性与可扩展性,这非常适用于处理生成式 AI 等最新用例。借助 IBM Storage Ceph,用户可从底层硬件中提取存储资源,实现数据存储的动态分配和高效利用。这种灵活性不仅可以简化管理流程,还有助于提高敏捷性,适应不断变化的业务需求,并将随着新工作负载的增加而扩展计算和容量。这一自我修复和自我管理的平台可在行业标准硬件上运行,并大规模地提供统一的文件存储、块存储和对象存储服务。[1]统一存储可以帮助客户将在独立文件或块存储上运行的传统应用,和包含单一设备对象存储的通用平台连接起来。

Ceph 针对大型单站点和多站点部署进行了优化,经过高效扩展可以支持数百 PB 级数据和数百亿个对象,[2]这对于传统工作负载和生成式 AI 工作负载至关重要。IBM Storage Ceph 可扩展、弹性且安全,支持更传统的工作负载,例如 Red Hat OpenShift 或 RedHat OpenStack 上的 MySQL 和 MongoDB,是支持数据湖仓和AI/ML 开源框架的理想之选。这也是 IBMwatsonx.data包含 IBM Storage Ceph 768 TiB 裸容量授权的原因之一;前者是 IBM推出的开放、可治理、定制化的数据湖仓架构,并针对数据、分析和 AI 工作负载进行了优化。

计算密集型和数据密集型工作负载的理想底座

非结构化数据的爆炸式增长和生成式 AI 相互影响,也相辅相成。Gartner 在其《2023 年企业数据存储的主要趋势》报告中指出:"到 2028 年,大型企业的本地、边缘和公有云上的非结构化数据将比 2023 年年中增加两倍。"[3]非结构化数据(如文本、图像和视频)的激增为训练生成式 AI 模型提供了广泛而多样的资源,而生成式 AI 可支持用户从非结构化数据中提前宝贵的洞察。这种协同作用形成了一个反馈循环,生成式 AI 在大量非结构化数据的基础上蓬勃发展,而 AI 持续生成的真实数据则进一步丰富和完善人们对非结构化数据集的理解,从而促进创新和进步。

根据上述报告[4],预计到 2028 年,将有 70% 的文件和对象数据部署在集成的非结构化数据存储平台上(高于 2023 年的 35%),组织需要能够加速数据提取、数据清理和分类、元数据管理和扩充、云规模容量管理和部署(如软件定义存储)的存储管理解决方案。IBM Storage Ceph 可实现无缝扩展,满足不断增长的数据需求;其自我管理功能确保系统适应不断变化的条件,轻松实现数据完整性。

为了在整个组织中加速和扩展数据和 AI,并最终改善业务成果,企业必须有意识地采用混合云设计(hybrid cloud by design)。这包括通过云原生运营模式在本地使用存储服务,以解决公有云上的部分企业级功能不可用、数据主权和成本等问题。IBM Storage Ceph 的"即插即用"架构简化了与现有基础架构的集成,包括各种平台、云环境、虚拟管理程序、开源数据存储库(如 Apache Iceberg 或 Apache Parquet)以及完整解决方案(如 watsonx.ai、watsonx.data 等)。新节点或设备可以无缝添加到集群中,而不会出现中断或服务停机。它为客户提供来一种简单高效的方式,来使用 watsonx.data 和其他新一代 AI 工作负载构建数据湖仓。

Snap Inc.相关负责人表示:"在 Snap,我们对数据存储的需求越来越大,需要一个能够快速扩展、满足性能 KPI 且具有成本效益的平台。IBM Storage Ceph 凭借其简单可扩展的架构、易于管理的界面和经济高效的软件定义部署,成为我们的首选平台。IBM Storage Ceph 还拥有 IBM 的世界级专长和支持,这也是我们决定将其引入关键业务的一个重要原因。"

利用NVMe over TCP 技术实现快速数据访问

去年,IBM 对 Ceph 进行了几项重要更新,包括最近的 IBM Storage Ceph 7.0。新一代Ceph 平台为 NVMe/TCP 功能做好了准备。它保留了传统 NVMe 的低延迟和高带宽特性,可以在存储设备、服务器和云平台之间实现更快的数据传输,因此适用于需要超快速存储访问的应用,例如数据库、分析和内容传输;并且兼容传统的网络技术投资,从而简化了基础架构。这些优势将帮助客户采用软件定义的方法,在速度、敏捷性和经济性方面享受云端体验。

NVMe/TCP 可以帮助 Ceph 通过扩展架构弥补传统块存储的不足。借助 NVMe/TCP,Ceph 将与 VMware 等平台集成,帮助企业在自己的数据中心复制云架构,摆脱昂贵且固定的 SAN 网络和单片存储阵列。

Ceph 7.0 的其他新功能:

SEC 和 FINRA 合规认证的"写一次读多次"(WORM) 对象锁定,确保对象存储符合WORM 合规要求

为非原生Ceph 客户端的 CephFS文件系统访问提供NFS 支持

如需了解该功能的更多信息,请点击此处访问IBM Storage 社区

借助IBM Storage Ceph 实现云规模经济

由于IBM Storage Ceph 将数据作为对象存储在逻辑存储池中,因此单个集群可以有多个存储池,每个存储池都将针对不同的性能或容量需求进行调整。这样一来,客户能够更轻松快速地访问各种经过分类的内容数据和上下文数据,存储容量仅受组织基础架构规模的限制;与传统存储阵列架构相比,IBM Storage Ceph可消除硬件限制,实现大规模成本降低。

加快价值实现的步伐

wKgaomW7rpeAbSwiAABEqpG3Ig0411.jpg


IBM Storage Ceph

IBM 更进一步简化了 Ceph 部署。借助IBM Storage Ready Nodesfor Ceph,该平台可部署为完整的软硬件解决方案,提供多种容量配置,针对运行 IBM Storage Ceph 工作负载进行了优化。我们消除了配置中的不确定因素,使其更易于理解、配置和管理。

IBM Storage Ceph 的发展是 IBM 存储的软硬件产品通过扩展的容量与性能,加速价值实现、优化客户成本的又一例证。


审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • IBM
    IBM
    +关注

    关注

    3

    文章

    1831

    浏览量

    76021
  • AI
    AI
    +关注

    关注

    88

    文章

    35760

    浏览量

    282497
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    IBM发布全新升级watsonx.data数据平台

    随着企业不断扩展智能体(agents)和其他先进的 AI 应用,“数据困境”已经成为众多企业实施 AI 的首要挑战。IBM 正在致力于此,将它们与关键的非结构化数据连接起来,为企业大模型构建 AI 就绪的
    的头像 发表于 08-08 14:08 ?368次阅读

    手表的无线充电底座能给iphone用吗?

    无线充电底座的通用性受技术标准、充电功率及协议影响,苹果设备与手表底座可能不兼容。
    的头像 发表于 07-23 08:25 ?159次阅读
    手表的无线充电<b class='flag-5'>底座</b>能给iphone用吗?

    Ceph分布式存储系统解析

    在当今数据爆炸的时代,企业对存储系统的需求日益增长,传统的集中式存储已经无法满足大规模数据处理的要求。分布式存储系统应运而生,而Ceph作为开源分布式存储系统的佼佼者,以其高可用性、高扩展性和统一存储架构赢得了众多企业的青睐。
    的头像 发表于 07-14 11:15 ?375次阅读

    华为发布AI数据解决方案加速行业智能化 AI时代数据觉醒

    正式发布AI数据解决方案,加速AI行业化落地。 华为公司副总裁、华为数据存储产品线总裁周跃峰博士 数字化转型已经进行了几十年,很多事发生了变化,只有一样事情从来没有变化过,那就是“数据
    的头像 发表于 04-30 18:01 ?1255次阅读
    华为发布AI<b class='flag-5'>数据</b><b class='flag-5'>湖</b>解决方案加速行业智能化 AI时<b class='flag-5'>代数据</b>觉醒

    功率密度&gt; 100W/in?,TI新款电源管理芯片赋能现代数据中心建设

    电子发烧友网报道(文 / 吴子鹏)在算力需求与碳中和目标的双重约束下,数据中心行业正从单一指标极致化转向系统级优化,对相关元器件的功率密度和效率提出了更高要求。与此同时,现代数据中心体量持续扩大
    的头像 发表于 04-22 00:12 ?1983次阅读
    功率密度&gt; 100W/in?,TI新款电源管理芯片赋能<b class='flag-5'>现代数据</b>中心建设

    IBM收购Hakkoda Inc.,扩展数据专业能力以推动客户的AI转型

    能力,帮助客户准备好数据以推动 AI 驱动的业务运营。 Hakkoda 在数据资产迁移、现代化和变现方面拥有领先的能力,并且是屡获殊荣的 Snowflake 合作伙伴。此次收购增强了 IBM
    的头像 发表于 04-08 19:32 ?719次阅读

    IBM携手英伟达AI数据平台推动企业级AI创新

    近日,IBM(纽约证券交易所:IBM)宣布与英伟达(纳斯达克股票代码:NVDA)开展全新合作,双方将基于英伟达 AI 数据平台参考架构(reference architecture)进行产品集成
    发表于 03-24 19:20 ?275次阅读

    旋转测径仪的底座如何保证稳定性?

    关键字:旋转测径仪,底座材质,测径仪底座结构,旋转测径仪稳定性, 旋转测径仪的底座保证稳定性是确保测量精度和仪器长期稳定运行的关键。以下是一些常见的保证旋转测径仪底座稳定性的方法: 一
    发表于 01-09 14:04

    IBM Storage -?支持AI应用场景的数据存储软硬件解决方案

    为了解决数据和工作负载在各地分散的现状,需要实现对存储在分布式文件和对象存储系统中的大量非结构化数据的高速访问。IBM Storage利用人工智能(AI)、机器学习(ML)和高级分析手
    的头像 发表于 12-30 15:00 ?657次阅读
    <b class='flag-5'>IBM</b> <b class='flag-5'>Storage</b> -?支持AI应用场景的<b class='flag-5'>数据</b>存储软硬件解决方案

    戴尔数据助力企业数字化转型

    在数字化转型的浪潮下,企业正面临着前所未有的数据挑战。从传统的结构化数据到如今的非结构化数据、半结构化数据,每一种类型都对企业的存储和分析能力提出了更高的要求。面对这些变化,传统的
    的头像 发表于 12-20 09:31 ?584次阅读

    IBM 发布光学技术关键突破,生成式AI迎来&quot;光速时代&quot;

    新的光电共封装技术或取代数据中心中的电互连装置,大幅提高AI 和其他计算应用的速度与能效 北京2024年12月12日?/美通社/ -- 近日,IBM(纽约证券交易所代码:IBM)发布了
    的头像 发表于 12-12 15:53 ?595次阅读

    AmpereOne如何满足现代数据中心需求

    在当今要求苛刻的技术环境中,数据中心和企业面临着严峻的挑战。不断上升的能源成本促使公司寻求更节能的解决方案,以满足可持续性和成本目标。对可扩展计算密度的需求也在增长,以跟上日益复杂的应用程序和云原生
    的头像 发表于 12-09 17:33 ?784次阅读

    虚拟化数据恢复—VMware ESX SERVER无法连接STORAGE数据恢复案例

    某单位信息管理平台,数台VMware ESX SERVER共享一台某品牌DS4100存储。 vc报告虚拟磁盘丢失,管理员ssh到ESX中执行fdisk -l查看磁盘,发现STORAGE中的分区表不见了。重启所有设备后,ESX SERVER均无法连接到DS4100存储中的STOR
    的头像 发表于 11-15 11:17 ?450次阅读

    国产数据库企业“人大金”更名为“电科金

    朝阳区市场监督管理局核准,于2024年8月26日完成公司名称变更。 此次公告事项包括:公司名称由“北京人大金信息技术股份有限公司”变更为“中电科金(北京)科技股份有限公司”,简称“电科金
    的头像 发表于 09-04 19:42 ?895次阅读
    国产<b class='flag-5'>数据</b>库企业“人大金<b class='flag-5'>仓</b>”更名为“电科金<b class='flag-5'>仓</b>”

    电科金:数智未来,国产数据库大有可为

    几十年来积累的技术底蕴,加之在众多行业中的实践验证与落地,为金数据库的持续发展奠定了坚实的基础。同时,金还以其专业的服务体系、完善的生态构建以及对人才发展的不懈追求,构筑起了一道坚
    的头像 发表于 09-03 13:58 ?497次阅读
    电科金<b class='flag-5'>仓</b>:数智未来,国产<b class='flag-5'>数据</b>库大有可为