回答:这个太范化了吧。大数据架构选择的方案就有很多,海量数据的即席查询本省就是业内目前的痛点,暂时没有太好的解决方案,kylin等框架也只是一个折中方案,如果你不是要求海量数据分析的秒级响应的话sparkSql、presto等都是不错的方案,分钟级别可以返回。
回答:现在有幸参与传统银行数字化转型,负责技术架构部分的转型设计。高性能的数据架构(High Performance Data Architecture),正是我们架构转型的重点。随着科技的蓬勃发展、社交网络的广泛使用、线上消费的普及、数据挖掘的技术提升等大趋势,全球银行业正迎来一场声势浩大的数字化创新浪潮。数字化为消费者的生活及行为模式带来翻天覆地的变化,也孵化出一批新型的金融科技(Fintech)竞...
回答:以mysql为列:1:支撑高并发系统,一定会涉及事务,所以数据库引擎必选innodb,innodb支持事务,事务级别根据业务而定,如果业务数据一致性要求很高,事务就开启序列化级别,这样就完全隔离事务,但是会导致锁资源竞争加剧。mysql的性能有一定的降低。2:读写分离,数据库分成主库和从库,主库负责写数据,丛库负责读数据。注意主从数据库数据一致性问题。3:冷热数据分离,美团,饿了么部分设计采用冷热...
回答:目前阶段大数据技术及体系已经逐渐趋于成熟,不再是以概念贯穿的模式,大数据越来越多的被使用,伴随互联网化的发展更多的企业信息化已经由IT时代转变为DT时代,以数据为核心,用数据进行决策,基于数据驱动企业的创新与发展,相信在将来大数据也会有更广泛的应用空间,对于大数据的理解主要分为以下几个层面。1.数据来源:对于大数据时代而言更多强调基于业务数据的沉淀,在一定规模的数据上进行进一步的分析、处理、转换,...
...系统,以及很多太短的通用平台与系统,主要关注架构、数据库、O2O等方面的技术。 壹佰案例: 作为同时负责过58同城和58到家业务的架构师,可否从架构方向谈下两项业务的技术难点有何不同? 沈剑:58同城是一个信息平台...
越来越多的公司言并称大数据,而大数据管道和存储集群的规模甚至可以是业务集群的一百倍的规模。这里有多少机器是真正在做有价值的事情,而有多少cpu cycle是白白被浪费掉了呢?data pipeline 中充斥着惊人的浪费!只是我...
...台的技术公司,服务器仍然保持着100%的本地化。它有5个数据中心,拥有45,000台服务器,以及一个围绕着维护传统技术所需的遗留技能组织起来的一个IT团队。 我们需要大量资源来保持实体基础设施的与时俱进,但在这个...
... 质量对于运维来说的是提供反馈。及时提供指标,提供数据给研发侧,告诉真实的用户体验。提供数据报表给产品侧,用户的实际使用情况。这种反馈的数据可以指导模块的性能优化,长期的架构调整,业务的模式转型。但是...
...页、样式,效率能高吗?让后端人员去抢DBA的饭碗,去做数据库优化,效率能高吗? 不专业的人做不专业的事情,可能和公司的发展历程、组织架构、人员规划有关;也可能和任务安排有关。 公司发展初期,养不起很多专业的...
...用了新兴的产品,像通过软件即服务(SaaS)交付的大数据分析功能。 他们能够将非常复杂的信息简化成视图,放到一个页面上,任何人都可以查看,旧金山桌面即服务提供商Centered Networks的高级工程师Nathan Smith如是...
... 如图所示,企业上云的三大架构为 IT 架构、应用架构和数据架构,在不同的公司,不同的人、不同的角色,关注的重点不同。 对大部分的企业来讲,上云的诉求是从 IT 部门发起的,发起人往往是运维部门,他们关注计算、网...
ChatGPT和Sora等AI大模型应用,将AI大模型和算力需求的热度不断带上新的台阶。哪里可以获得...
大模型的训练用4090是不合适的,但推理(inference/serving)用4090不能说合适,...
图示为GPU性能排行榜,我们可以看到所有GPU的原始相关性能图表。同时根据训练、推理能力由高到低做了...