网站地图
  • 广告合作QQ:1156682050
  • 首页
  • 今日股市
  • 上证指数
  • 沪深300指数
  • 大盘
  • 股票行情
  • 股市行情
  • 大盘指数
  • 汇率
  • 白银价格
  • 黄金
  • 炒股配资
  • 股票配资公司
  • 掘金
  • 美元
  • 欧元
  • 广告
    广告
    广告
    -->

    巨杉湖仓一体技术解读|流式计「股市行情600329」算实现秒级数据入湖

    发布时间: 2022-10-10 23:48首页:主页 > 股票行情 > 阅读()
  • 摘要:SequoiaDB从「多模数据湖」、「及时数据湖」生长到「湖仓一体」架构,为客户供应「数据中心」所需的齐量数据存储,及时对客效劳,及基于同一数据源的剖析才能,充足激活客户的离...

  • SequoiaDB从「多模数据湖」、「及时数据湖」生长到「湖仓一体」架构,为客户供应「数据中心」所需的齐量数据存储,及时对客效劳,及基于同一数据源的剖析才能,充足激活客户的离线数据。傍边,数据进湖的时效性间接影响团体数据运用结果,巨杉数据库经由过程对接业界支流的Flink,Spark战Storm等支流的流式框架,真事实时消费数据的下速进湖,本汁本味的将数据保存正在巨杉数据库中。SequoiaDB是巨杉数据库经由过程10年的一直迭dai,从多模数据湖架构演收支去的“湖仓一体”架构产物。SequoiaDB的“湖仓一体”联合了数据湖取数据堆栈,是一个融会的基本设备情况,支撑从本初数据到精辟数据的全部历程,并终究供应劣化后的数据以供消耗。

     

    秒级数据进湖

     

    从客户的构造化数据需要动身,巨杉浩瀚的金融客户着眼于大盘指数活海量的汗青存量数据,并同时卸载发作正在传统Oracle/DB2上的营业。因而,巨杉依靠自研的S「实时股票行情查询」equoiaDB散布式数据库,造成了汗青数据仄tai的计划。从营业的角度动身,SequoiaDB经由过程下机能的衔接器,对接包含Flink,Spark战Storm等支流的流式框架,真事实时消费数据的下速进湖,本汁本味的将数据保存正在巨杉数据库中。那里起到的感化有面像「股市行情http://www.hebhabit.com/gshq」数仓模子中的ODS层,但巨杉又应用其散布式数据库下并收接见的才能,能够间接对中供应及时数据接见效劳。

    鉴于SequoiaDB多正本下可用的特征,许多用户现实上把巨杉数据库做为齐体系数据的齐量终究存储。正在布置实际里,前端交易型数据库发生的数据调换正在经由过程ogg/CDC等东西抽与后,经由过程批量的体式格局load到巨杉数据库中;或是减载到以kafka为dai表的各种新闻行列,再经由过程流式引擎写进巨杉数据库中。流式战批量数据汇总减工致开便可对中供应效劳,依据营业需求,及时进湖的数据从营业现实发作到正在巨杉中供应接见效劳时延正在秒级。

     

     

    上图有两个中心手艺面需求存眷。一是数据进库链路,从架构中能够很清楚的看到经由过程流战批两条数据链路,那是以后对照成生的一个典范的Lambda架构。为了尽量的下效吸收去自差别数据源的数据,SequoiaDB开辟了Spark connector战Flink connecto「股票行情app」r等多种通用数据花样的剖析器,买通真现了下牢靠的数据链路,支撑删编削各种交易,并正在客户场景中处理exactly once数据进库题目。

  • 本文链接:
  • 网站首页 - 今日股市 - 上证指数 - 沪深300指数 - 大盘 - 股票行情 - 股市行情 - 大盘指数 - 汇率 - 白银价格 - 黄金 - 炒股配资 - 股票配资公司 - 掘金 - 美元 - 欧元

    广告合作QQ:1156682050 官方微信:rafcw 备案号:浙ICP备20019082号-1

    上证所有数据未经授权,请勿转载,今日股市行情内容源自网友发帖如遇版权问题请联系删除

    Copyright ©:2008-2021 今日股市行情网 版权所有