0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

软件系统的数据检索设计

h1654155333.5939 ? 来源:laobabab ? 作者:laobabab ? 2024-08-22 14:08 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

软件系统的数据检索设计

随着业务量加大,数据检索量也会日益增多,为了减轻数据库压力,本系统采用ElasticSearch来实现数据检索功能。

简单来说,Elasticsearch 是一个实时的分布式存储、搜索、分析的引擎,它可以近乎实时的存储、检索数据,本身扩展性很好,可以扩展到上百台服务器,处理PB级别(大数据时代)的数据,ElasticSearch的检索流程如下:

wKgaombG1EeAZD2LAACHH6UYoQU520.png

数据检索流程图

1) 执行refresh操作将mem buffer中的数据写入到新的segment并写入os cache,然后打开本segment以供search使用,最后再次清空mem buffer。

2) 一个commit point被写入磁盘,这个commit point中标明所有的index segment。

3) filesystem cache(os cache)中缓存的所有的index segment文件被fsync强制刷到磁盘os disk,当index segment被fsync强制刷到磁盘上以后,就会被打开,供查询使用。

translog被清空和删除,创建一个新的translog。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据
    +关注

    关注

    8

    文章

    7264

    浏览量

    92403
  • 软件系统
    +关注

    关注

    0

    文章

    66

    浏览量

    9696
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    产品列表获取API接口详解

    ? 在现代软件开发中,API(应用程序编程接口)是获取产品列表的核心工具,它允许开发者从远程服务器高效地检索数据。本文将逐步介绍如何设计和使用产品列表获取API接口,包括核心概念、实现步骤、代码示例
    的头像 发表于 07-24 14:29 ?177次阅读
    产品列表获取API接口详解

    电磁数据展示系统软件平台全面解析

    电磁数据展示系统软件平台全面解析
    的头像 发表于 05-13 10:13 ?259次阅读
    电磁<b class='flag-5'>数据</b>展示<b class='flag-5'>系统软件</b>平台全面解析

    将NXP RT1166更换为RT1064,可以使用JTAG/SWD存储和检索其闪存上的数据吗?

    我在我的项目中使用了 RT1166,但是,其中一个要求是芯片应该具有可被 JTAG/SWD 访问的内部闪存。 RT1166 有,但 RT1064 有 4MB 的内部 Flash。 我可以使用 JTAG/SWD 存储和检索其闪存上的数据吗?
    发表于 04-07 06:29

    海康威视文搜存储系列:跨模态检索,安防新境界

    关键词,系统便能在秒级时间内精准检索出目标图像。这种跨模态检索方式打破了传统时空、报警等检索方式的局限,使得目标检索范围更广、更准、更快、更
    的头像 发表于 02-18 14:08 ?798次阅读

    dbForge Studio for PostgreSQL:PostgreSQL数据库多功能集成开发环境

    数据库模式和表数据的比较和同步 高效便捷地生成针对特定列的智能测试数据 支持14种格式的数据导入和导出 数据透视表中的
    的头像 发表于 01-16 17:26 ?606次阅读

    Oracle数据库的多功能集成开发环境

    Oracle数据库的多功能集成开发环境 快捷菜单中的可视化对象编辑器 上下文感知的SQL代码补全、智能格式化和重构 逐步执行的自动调试功能 多功能数据检索、存储和管理 数据库模式和表数据
    的头像 发表于 01-14 13:52 ?452次阅读
    Oracle<b class='flag-5'>数据</b>库的多功能集成开发环境

    数字化车间数据中台的功能作用及应用场景

    解决方案,能够存储海量的生产数据、设备数据等,同时对数据进行分类、索引和管理,方便后续的数据检索和分析。 数据分析与挖掘:具备强大的
    的头像 发表于 01-14 09:25 ?578次阅读

    检索增强型生成(RAG)系统详解

    成流畅且类似人类的文本方面表现出色,但它们有时在事实准确性上存在困难。当准确性非常重要时,这可能是一个巨大的问题。 那么,这个问题的解决方案是什么呢?答案是检索增强型生成(RAG)系统。 RAG集成了像GPT这样的模型的强大功能,并增加了从外
    的头像 发表于 12-24 10:44 ?1185次阅读
    <b class='flag-5'>检索</b>增强型生成(RAG)<b class='flag-5'>系统</b>详解

    Redis缓存与Memcached的比较

    Redis和Memcached都是广泛使用的内存数据存储系统,它们主要用于提高应用程序的性能,通过减少对数据库的直接访问来加速数据检索。以下是对Redis和Memcached的比较,涵
    的头像 发表于 12-18 09:33 ?696次阅读

    缓存技术在软件开发中的应用

    在现代软件开发中,随着数据量的爆炸性增长和用户对响应速度的高要求,缓存技术成为了提升系统性能的重要手段。缓存技术通过将数据存储在离用户更近的位置,减少
    的头像 发表于 12-18 09:32 ?812次阅读

    可与MES系统集成的数据采集监控平台

    ,确保数据的全面接入。 数据存储与管理: 采用数据库或数据仓库存储采集到的数据。 提供高效的数据检索
    发表于 12-16 15:08

    PDM产品数据管理系统软件是什么?一文读懂PDM系统软件

    在现代制造业和工程领域中,产品数据管理(Product Data Management,简称PDM)系统已成为提升企业生产效率、保证产品质量的关键工具。PDM系统是以软件为基础,专门用
    的头像 发表于 11-14 14:52 ?3854次阅读
    PDM产品<b class='flag-5'>数据</b>管理<b class='flag-5'>系统软件</b>是什么?一文读懂PDM<b class='flag-5'>系统软件</b>

    WDS分布式存储系统软件助力电信工程海量数据存储项目

    WDS分布式存储系统软件助力电信工程海量数据存储项目
    的头像 发表于 11-11 09:59 ?564次阅读
    WDS分布式存储<b class='flag-5'>系统软件</b>助力电信工程海量<b class='flag-5'>数据</b>存储项目

    AD软件打开DigIPCBA工作区,希望可以按照文件夹检索

    希望在AD软件中打开工作区的时候,工作区内的文件夹能显示,文件可以按照文件夹检索,如果工作区内PCB项目很多,不能区分文件夹,不方便访问
    发表于 11-01 11:15

    京东APP百亿级商品与车关系数据检索实践

    作者:京东零售 张强 导读 本文主要讲解了京东百亿级商品车型适配数据存储结构设计以及怎样实现适配接口的高性能查询。通过京东百亿级数据缓存架构设计实践案例,简单剖析了jimdb的位图(bitmap
    的头像 发表于 10-18 14:14 ?1226次阅读
    京东APP百亿级商品与车关系<b class='flag-5'>数据检索</b>实践