-
何为数据湖？用于大数据分析的大规模可扩展存储
所属栏目：[大数据] 日期：2022-06-27 来源：DaWei
从那时起，数据湖技术不断发展，现在正在与数据仓库争夺大数据存储和分析的市场份额。各种工具和产品支持数据湖中更快的SQL查询，而全球三个主要云计算提供商都提供了数据湖存储和分析。甚至还推出了将治理、安全性和分析与成本更低的存储结合起来的数据湖屋[详细]
-
不良数据会造成更严重后果的几个原由
所属栏目：[大数据] 日期：2022-06-27 来源：DaWei
现在回想起来，这是有道理的。当时不仅存在基础设施方面的挑战，而且使用网络的人并不多，网站也没有那么有价值。随着云计算、电子商务和SaaS的兴起，这种情况发生了变化，确保可靠性成为企业的关键任务，站点可靠性工程(SRE)应运而生。 数据如今处于相似的[详细]
-
数据分析常见的误区有哪几种
所属栏目：[大数据] 日期：2022-06-27 来源：DaWei
数据分析常见的误区有哪些？ 1、盲目的收集数据 一个正常运营的产品每天会产生大量的数据，如果把这些数据都收集起来进行分析，不仅会使工作量增加，浪费大量时间，很可能还会得不到想要的分析结果。作为一名数据分析人员，更不应该为了分析而分析，而是应该[详细]
-
如何管理高度可扩大系统中的元数据
所属栏目：[大数据] 日期：2022-06-27 来源：DaWei
元数据过去对数据中心架构的影响很[详细]
-
做数据治理前 应该明白并避开的几大坑
所属栏目：[大数据] 日期：2022-06-27 来源：DaWei
Gartner 的一项调查显示，超过90%的数据治理项目都以失败告终。 这个数据可能会劝退一大波正准备做或者正在观望数据治理的企业：既然这笔投资90% 的概率失败，那为什么要继续。 1. 目标不明晰 数据治理是一个复杂的系统工程，一个明确合理的目标，能让数据治[详细]
-
大数据平台核心架构图鉴 提议收藏
所属栏目：[大数据] 日期：2022-06-27 来源：DaWei
大数据的核心层应该是：数据采集层、数据存储与分析层、数据共享层、数据应用层，可能叫法有所不同，本质上的角色都大同小异。 所以我下面就按这张架构图上的线索，慢慢来剖析一下，大数据的核心技术都包括什么。 01数据采集 数据采集的任务就是把数据从各种[详细]
-
新时代开源数据调度在1000+企业的进化之途
所属栏目：[大数据] 日期：2022-06-27 来源：DaWei
近年来，随着互联网的飞速发展，业务量在短时间内呈现爆发式增长，对应的数据量快速从数百 G 涨至数百 T。无论数据存储还是数据调度，当前数据量已经远超处理能力的上限。若信息处理技术仍渐进式发展，数据处理能力的提升将远落后于指数级增长的数据量。 可[详细]
-
为何很多人宁可用 Excel 也不用 Python
所属栏目：[大数据] 日期：2022-06-26 来源：DaWei
有人说，Python即使不是最好的编程语言，也是最受欢迎的语言之一。因为它简洁易用，功能强大，对初学者也很友好。在众多培训机构的小广告中，学了Python就能批量处理Excel表格，Python是实现办公自动化的利器，从此告别996之类的口号随处可见。但实际工作中[详细]
-
云数据仓库中的数据安全思虑
所属栏目：[大数据] 日期：2022-06-26 来源：DaWei
近年来，由于云计算与云存储具有一定的廉价性和可扩展性，云数据仓库（Cloud data warehouses，CDW）得到了广泛的应用并飞速发展。同时，CDW不但能够存储比本地数据库更多的数据，而且可以通过现代化数据管道，简化了ETL的各种流程，因此许多企业都开始用它[详细]
-
终于有人把MPP大数据系统架构讲清楚了
所属栏目：[大数据] 日期：2022-06-26 来源：DaWei
本文首先回顾并行硬件架构的发展，并进一步介绍基于并行硬件架构的数据库一体机系统与基于MPP架构的数据库软件系统。数据库一体机系统在银行等大型企业中采用广泛，一体机的优点是开箱即用、功能丰富、稳定、售后服务好，缺点是价格昂贵、扩展不灵活。基于普[详细]
-
数据科学家应对的几大挑战及解决方法
所属栏目：[大数据] 日期：2022-06-26 来源：DaWei
每天，全球各地的组织都在寻找2.5万亿字节的数据，以获得对其业务的见解和价值驱动的行动。为了实现这一目标，需要高技能的科学专家或数据科学家参与开发业务中的企业AI。在不断增长的业务领域中，数据科学家的每一个行动都有助于改进业务的功能。 下面来探[详细]
-
使用Java和Python进行数据统计和剖析
所属栏目：[大数据] 日期：2022-06-26 来源：DaWei
Java 和 Python 是当今最流行的两种计算机语言。两者都非常成熟，并提供了工具和技术生态系统，帮助我们解决数据科学领域出现的挑战性问题。每种语言都各有优势，我们要知道什么时候应该使用哪种工具，或者什么时候它们应该协同工作相互补充。 Python 是一种[详细]
-
云迁移之后 企业凭什么充分挖掘数据潜力
所属栏目：[大数据] 日期：2022-06-26 来源：DaWei
近年来，基础设施即服务（IaaS）、平台即服务（PaaS）和软件即服务（SaaS）等业务模式正飞速发展，也推动着云投资屡创新高。根据GlobalData的报告，2024年亚太地区云计算市场规模预计将达到1918亿美元，2019至2024年期间的复合年增长率为7.7%。 然而，云迁移[详细]
-
字节跳动数据平台技术揭晓
所属栏目：[大数据] 日期：2022-06-26 来源：DaWei
ClickHouse作为目前业内主流的列式存储数据库(DBMS)之一，拥有着同类型DBMS难以企及的查询速度。作为该领域中的后起之秀，ClickHouse已凭借其性能优势引领了业内新一轮分析型数据库的热潮。但随着企业业务数据量的不断扩大，在复杂query场景下，ClickHouse容[详细]
-
大规模分布式计算学习引擎Ray在字节跳动NLP场景下的践行
所属栏目：[大数据] 日期：2022-06-26 来源：DaWei
RayRTC 是字节基础架构组与字节 AML 组共同合作，在内部 RTC（Realtime Text Classification）文本训练平台上基于 Ray 进行的下一代 Serverless ML 的探索。RTC 文本分类平台是一个一站式的 NLP 服务平台，包括了数据预处理，标注，模型训练，打分，评估，Au[详细]
-
远程访问装有GPU的电脑很不方便 如今有一个值得试试的办法
所属栏目：[大数据] 日期：2022-06-26 来源：DaWei
由于多种原因，很多人无法将在本地存储了大量文件的电脑和软件带回家，好在有办法做到从任何地方发起高质量的远程访问，而无需额外费用。下面介绍几种经过测试的方法，实现方便地远程管理办公电脑。 DOC怎么了？ 普通员工只需使用远程桌面协议（RDP协议）连[详细]
-
几款日常的开源无代码测试工具
所属栏目：[大数据] 日期：2022-06-26 来源：DaWei
编程语言一直是自动化测试、自动化测试人员、框架甚至工作职责中不可或缺的一部分。如果一个遗留项目已经使用了Java进行测试，该公司会为该项目寻找具备Java专业知识的人员。同样，如果新项目需要从零开始构建测试流程，那么首要考虑的事情就是团队擅长哪种[详细]
-
大数据如何改变制造业
所属栏目：[大数据] 日期：2022-06-11 来源：DaWei
区块链如何改变制造业 由于该领域的独家技术突破，制造业正处于一场革命之中。 制造业的大数据正在实现明智的战略，并制定未来的路线图。 制造业是在过去几十年里经历了巨大变化的行业之一。除了简单地自动化相关流程之外，制造业还利用技术实现各种其他目的[详细]
-
一文读懂元数据管理！
所属栏目：[大数据] 日期：2022-06-11 来源：DaWei
一文读懂元数据管理！ 一、什么是元数据？ 元数据（metadata）是关于数据的组织、数据域及其关系的信息，简言之，元数据就是描述数据的数据。概念总是生涩，对于没有IT背景的人来说比较抽象，不容易理解，下面举几个例子。 示例1：歌词中的元数据 有一首很多[详细]
-
为何大厂选择减人而不是降薪？
所属栏目：[大数据] 日期：2022-06-11 来源：DaWei
为何大厂选择减人而不是降薪？ 01 前2天写了大厂裁人和招人为何同时进行的原理，后台也收到了很多有趣的私信，其中有一个问题让我觉得特别有意思。 问的是大厂为控制成本他能理解，但同样是控制成本，裁掉30%的人，以及不裁人集体降薪30%，区别是啥? 为什么[详细]
-
终于有人把数据的属性讲明白了
所属栏目：[大数据] 日期：2022-06-11 来源：DaWei
终于有人把数据的属性讲明白了 1.结构化与非结构化数据 某些数据集具有很好的结构性，就像数据库中的数据表或电子表程序中一样。而其他的数据以更多样的形式记录着有关世界状况的信息。它们可能是像维基百科这样包含图像和超级链接的文本语料库，也可能是个[详细]
-
价值变现的关键是组织优化和数据治理
所属栏目：[大数据] 日期：2022-06-11 来源：DaWei
大数据、数据治理、数据湖以及目前被热议的数据中台概念，无不让企业信息化部门疲于跟进，而不是根据企业的实际情况决定建设节奏。企业A的IT部门，就曾受到业务部门要求建设数据中台的压力，但迟迟难以下决心启动数据中台项目。 从A企业的视角来看，目前，行[详细]
-
反映数据质量的八个指标
所属栏目：[大数据] 日期：2022-06-11 来源：DaWei
数据的质量直接影响着数据的价值，并且还影响着数据分析的结果以及我们依此做出的决策的质量。质量不高的数据不仅仅是数据本身的问题，还会影响企业的经营管理决策;数据错误还不如没有数据，因为没有数据时，我们会基于经验和常识做出不见得是错误的决策，而[详细]
-
如何采用大数据技术帮助制定数字化策略？
所属栏目：[大数据] 日期：2022-06-11 来源：DaWei
数字化采用被定义为通过优化遗留系统和利用新技术来重塑企业。近年来，大数据一直是数字化采用的中心。这就是全球各地方的公司去年在大数据技术上花费1620亿美元以上的原因。 整个过程远不止这些，但采用新技术并将其集成到业务工作流程中是关键。为了简化这[详细]
-
数据中台虚火？数据管控体系应该这么搭
所属栏目：[大数据] 日期：2022-06-11 来源：DaWei
大数据、数据治理、数据湖以及被热议的数据中台概念，无不让企业信息化部门疲于跟进，而不是根据企业的实际情况决定建设节奏。企业A的IT部门，就曾受到业务部门要求建设数据中台的压力，但迟迟难以下决心启动数据中台项目。 从A企业的视角来看，目前，行业内[详细]
