回答:首先明确下定义：计算时间是指计算机实际执行的时间，不是人等待的时间，因为等待时间依赖于有多少资源可以调度。首先我们不考虑资源问题，讨论时间的预估。执行时间依赖于执行引擎是 Spark 还是 MapReduce。Spark 任务Spark 任务的总执行时间可以看 Spark UI，以下图为例Spark 任务是分多个 Physical Stage 执行的，每个stage下有很多个task，task 的...
silenceboy
|
1039人阅读
回答:目前阶段大数据技术及体系已经逐渐趋于成熟，不再是以概念贯穿的模式，大数据越来越多的被使用，伴随互联网化的发展更多的企业信息化已经由IT时代转变为DT时代，以数据为核心，用数据进行决策，基于数据驱动企业的创新与发展，相信在将来大数据也会有更广泛的应用空间，对于大数据的理解主要分为以下几个层面。1.数据来源：对于大数据时代而言更多强调基于业务数据的沉淀，在一定规模的数据上进行进一步的分析、处理、转换，...
arashicage
|
1163人阅读
回答:在大数据领域大概有四个大的工作方向，除了大数据平台应用及开发、大数据分析与应用和大数据平台集成与运维之外，还有大数据平台架构与研发，除了以上四个大的工作方向之外，还有一个工作方向是大数据技术推广和培训，这部分工作目前也有不少人在从事。大数据平台架构与研发主要的工作内容是研发底层的大数据平台，这部分工作的难度较高，从事这部分工作的研发级岗位也并不多。现在不少技术研发团队都以Hadoop、Spark平...
zhangxiangliang
|
3312人阅读
回答:近几年，大数据的概念逐渐深入人心，大数据的趋势越来越火爆。但是，大数据到底是个啥？怎么样才能玩好大数据呢？大数据的基本含义就是海量数据，麦肯锡全球研究所给出的定义是：一种规模大到在获取、存储、管理、分析方面大大超出了传统数据库软件工具能力范围的数据集合，具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低四大特征。数字经济的要素之一就是大数据资源，现在大家聊得最多的大数据是基于已经存在的...
khlbat
|
771人阅读
回答:随着大数据应用的逐渐落地，很多人都想从事大数据方面的工作，这其中自然就有很多非大数据相关专业（数学、计算机、统计学）的从业者，那么大数据到底能不能从零基础开始学呢？答案是肯定的，但是也要根据自身的知识结构来选择大数据的学习方向。大数据技术体系在2016年的时候已经趋于成熟，目前正处在落地应用的阶段，大数据的细分岗位比较多，自然也就需要具备不同的知识结构。大数据的岗位集中在数据采集、整理、存储、分析...
wuyangnju
|
825人阅读
回答:大数据是处理海量数据的一种技术，你说的写SQL只能处理结构化数据，更多的是非结构化数据（文本数据），和半结构化数据。并且通过SQL处理的数据量一般很少，几个T就根本不行，大数据涉及存储（存储级别为PB级别），资源调度（一般是分布式系统，不是一台机器），计算框架（hadoop;storm;spark）这三部分，缺一不可，你说的写SQL只是相当于计算框架（勉强算得上，性能差远了）。
tracymac7
|
741人阅读
大数据应用已广泛深入我们生活的方方面面，涵盖医疗、交通、金融、教育、体育、零售等各行各业。 天气预测应用案例： 典型的案例即天气预测。各类气象指征瞬时发生，以典型的高频复杂的形式出现，给各类分析人...
...能，20年间软件研发行业趋势发生了翻天覆地的变化。大数据、云计算、AI等新兴领域逐渐改变我们的生活方式，Devops、容器、深度学习、敏捷等技术方式和工作理念对软件研发从业者提出更高要求。 由麦思博（msup）有限公司主...
...身的真正撩妹达人！ 那么现实中，你是否有见过真正的数据科学家呢？ 数据科学家，一个大数据时代的新兴称号，被《哈佛商业评论》中被誉为21世纪最性感的职业，2015年，美国白宫首次设立数据科学家的岗位。 他们可能...
...系统，以及很多太短的通用平台与系统，主要关注架构、数据库、O2O等方面的技术。 壹佰案例： 作为同时负责过58同城和58到家业务的架构师，可否从架构方向谈下两项业务的技术难点有何不同？ 沈剑：58同城是一个信息平台...
...应用都需要有 APM 体系，可以随时分析性能的情况；在大数据时代，随着数据规模的增加以及硬件计算能力的提升，数据库的使用也发生了重大的变化；最重要的，整个 DevOps 也在进化到人工智能时代，监控、服务治理、调度这...
...应用都需要有 APM 体系，可以随时分析性能的情况；在大数据时代，随着数据规模的增加以及硬件计算能力的提升，数据库的使用也发生了重大的变化；最重要的，整个 DevOps 也在进化到人工智能时代，监控、服务治理、调度这...
...新/用户体验、工程文化/团队增长、架构设计/开发流程、数据驱动/工程实践、测试管理/交付运维5大分会场，在3天内进行100个经典案例的集中分享，给听众带来一场纯技术与管理的脑力激荡。 在12月9日的开幕式上，组委会邀请...
...新/用户体验、工程文化/团队增长、架构设计/开发流程、数据驱动/工程实践、测试管理/交付运维5大分会场，在3天内进行100个经典案例的集中分享，给听众带来一场纯技术与管理的脑力激荡。 在12月9日的开幕式上，组委会邀请...
...创新，跨平台的订单系统、CRM系统、ERP系统、营销系统、数据分析系统等，让有赞从单一产品，成为全品类的电商SaaS/PaaS服务平台。伴随着公司业务的快速发展，原有IT架构的部署，已无法满足业务快速迭代的承载需求。针对有...
ChatGPT和Sora等AI大模型应用，将AI大模型和算力需求的热度不断带上新的台阶。哪里可以获得...
大模型的训练用4090是不合适的，但推理（inference/serving）用4090不能说合适，...
图示为GPU性能排行榜，我们可以看到所有GPU的原始相关性能图表。同时根据训练、推理能力由高到低做了...
