首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
元中心蘑菇王
门头沟学院 数据分析师
发布于美国
关注
已关注
取消关注
repost
@蓦_然:
数据仓库面试题——介绍下数据仓库
可回答:对数据仓库的理解 问过的一些公司:京东,美团,网易,阿里(2021.09),网易有道(2021.10) 参考答案: 数据仓库的发展大致经历了这样的三个过程: 简单报表阶段:这个阶段,系统的主要目标是解决一些日常的工作中业务人员需要的报表,以及生成一些简单的能够帮助领导进行决策所 需要的汇总数据。大部分表现形式为数据库和前端报表工具。 数据集市阶段:这个阶段,主要是根据某个业务部门的需要,进行一定的数据的采集,整理,按照业务人员的需要,进行多维报表的展现,能够提供对特定业务指导的数据,并且能够提供特定的领导决策数据。 数据仓库阶段:这个阶段,主要是按照一定的数据模型,对整个企业的数据进行采集,整理,并且能够按照各个业务部门的需要,提供跨部门的,完全一致的业务报表数据,能够通过数据仓库生成对对业务具有指导性的数据,同时,为领导决策提供全面的数据支持。 首先,我们先来看下数据库、数据集市、数据仓库以及数据湖的概念。 1、什么是数据库? 数据库(Database)是按照一定格式和数据结构在计算机保存数据的软件,属于物理层。 最早期是广义上的数据库,这个阶段的数据库结构主要以层次或网状的为主,这是数据库的数据和程序间具备非常强的依赖性,应用有一定局限性。 我们现在所说的数据库一般指的是关系型数据库。关系数据库是指采用了关系模型来组织数据的数据库,其以行和列的形式存储数据,具有结构化程度高,独立性强,冗余度低等优点。 关系型数据库主要用于联机事务处理OLTP(On-Line Transaction Processing),主要用于进行基本的、日常的事务处理,例如银行交易等场景。 2、什么是数据集市? 数据集市是一种微型的数据仓库,它通常是有更少的数据,更少的主题区域,以及更少的历史数据,如果数据仓库是企业级的,那数据集市就是部门级的,一般数据集市只能为某个局部范围内的管理人员服务。 3、什么是数据仓库? 数据仓库(Data Warehouse),可简写为DW或DWH。它是为企业所有级别的决策制定过程,提供所有类型数据支持的战略集合。它是单个数据存储,出于分析性报告和决策支持目的而创建。为需要业务智能的企业,提供指导业务流程改进、监视时间、成本、质量以及控制。 数据仓库之父比尔·恩门于1990年提出数据仓库(Data Warehouse),数仓主要是为解决企业的数据集成与分析问题。数据仓库主要功能是将OLTP经年累月所累积的大量数据,通过数据仓库特有的数据储存架构进行OLAP,最终帮助决策者能快速有效地从大量数据中,分析出有价值的信息,提供决策支持。自从数据仓库出现之后,信息产业就开始从以关系型数据库为基础的运营式系统慢慢向决策支持系统发展。 一句话总结:数据仓库存在的意义在于对企业的所有数据进行汇总,为企业各个部门提供统一的, 规范的数据出口。 数据仓库相比数据库,主要有以下两个特点: 数据仓库是面向主题集成的。数据仓库是为了支撑各种业务而建立的,数据来自于分散的操作型数据。因此需要将所需数据从多个异构的数据源中抽取出来,进行加工与集成,按照主题进行重组,最终进入数据仓库。 数据仓库主要用于支撑企业决策分析,所涉及的数据操作主要是数据查询。因此数据仓库通过表结构优化、存储方式优化等方式提高查询速度、降低开销。 数据仓库与数据库的对比 维度 数据仓库 数据库 应用场景 OLAP OLTP 数据来源 多数据源 单数据源 数据标准化 非标准化Schema 高度标准化的静态Schema 数据读取优势 针对读操作进行优化 针对写操作进行优化 4、什么是数据湖? 在现在这个时代,数据对于企业而言,已经是一种重要资产。随着企业的不断发展,数据不断堆积,企业希望把生产经营中的所有相关数据都完整保存下来,进行有效管理与集中治理,挖掘和探索数据价值。而数据湖就应运而生。 数据湖是一个集中存储各类结构化和非结构化数据的大型数据仓库,它可以存储来自多个数据源、多种数据类型的原始数据,数据无需经过结构化处理,就可以进行存取、处理、分析和传输。数据湖能帮助企业快速完成异构数据源的联邦分析、挖掘和探索数据价值。 数据湖的本质,是由“数据存储架构+数据处理工具”组成的解决方案。 数据存储架构:要有足够的扩展性和可靠性,可以存储海量的任意类型的数据,包括结构化、半结构化和非结构化数据。 数据处理工具,则分为两大类: 第一类工具,聚焦如何把数据“搬到”湖里。包括定义数据源、制定数据同步策略、移动数据、编制数据目录等。 第二类工具,关注如何对湖中的数据进行分析、挖掘、利用。数据湖需要具备完善的数据管理能力、多样化的数据分析能力、全面的数据生命周期管理能力、安全的数据获取和数据发布能力。如果没有这些数据治理工具,元数据缺失,湖里的数据质量就没法保障,最终会由数据湖变质为数据沼泽。 数据仓库和数据湖的不同类比于仓库和湖泊:仓库存储着来自特定来源的货物;而湖泊的水来自河流、溪流和其他来源,并且是原始数据。 数据湖与数据仓库的对比 维度 数据湖 数据仓库 应用场景 可以探索性分析所有类型的数据,包括机器学习、数据发现、特征分析、预测等 通过历史的结构化数据进行数据分析 使用成本 起步成本低,后期成本较高 起步成本高,后期成本较低 数据质量 包含大量原始数据,使用前需要清洗和标准化处理 质量高,可作为事实依据 适用对象 数据科学家、数据开发人员为主 业务分析师为主 5、数据仓库特点 1)数据仓库是面向主题的 数据仓库中的数据是按照一定的主题域进行组织的,每一个主题对应一个宏观的分析领域。数据仓库排除对于决策无用的数据,提供特定主题的简明视图。 举个例子: 比如说一个公司会有很多的部门,不同的部门都会去数据仓库拿数据,做自己要做的报表,我们把这一个部门或是某一个业务,也就是独立从我们数据仓库中获取数据的单元,把它称作为主题,也可以理解为一个主题就是一个部门。这个部门作为一个主题会从数据仓库总去获取数据,用于完成需要的报表。 2)数据仓库是集成的 数据仓库中的数据不是一开始就是在里面的,而是从各个分散的数据库中抽取出来的。但是有一个问题,就是这些来自不同数据库的数据会有重复和不一样的地方,如字段的同名异议、异名同义、单位不统一,字长不统一等。所以在集成的过程中,还要对数据进行清洗、规划、去敏等操作。 一句话就是,数据仓库是对企业内不同业务部门数据完整集合,而且还是处理过的数据。 3)数据仓库的数据是稳定的 数据仓库中的数据主要是为了给企业做决策时分析使用,涉及的主要是对数据的查询,一般情况下不会对数据进行修改,如果数据仓库中的历史数据超过存储期限,则会直接删除。 因为数据仓库涉及的操作主要是查询,所以它的系统要比数据库简单很多,但是数据仓库涉及到查询的数据量一般都很大,所以在数据查询就有更高的要求。 一句话记忆,数仓里不存在数据的更新和删除(不是指数据到期的删除)操作。 4)数据仓库中的数据是随时间变化而变化的 数据仓库中的数据不可更新是针对应用来说的,也就是说,数据仓库的用户进行分析处理是不进行数据更新操作的。但并不是说,在从数据集成输入数据仓库开始到最后被删除的整个生存周期中,所有的数据仓库数据都是永远不变的。 数据仓库的数据是随着时间变化而变化的主要表现如下: 数据仓库随着时间变化不断增加新的数据内容。数据仓库系统必须不断捕捉OLTP数据库中变化的数据,追加到数据仓库当中去,也就是要不断的生成OLTP数据库的快照,经统一集成增加到数据仓库中去;但对于确实不在变化的数据库快照,如果捕捉到新的变化数据,则只生成一个新的数据库快照增加进去,而不会对原有的数据库快照进行修改。 数据库随着时间变化不断删去旧的数据内容 。数据仓库内的数据也有存储期限,一旦过了这一期限,过期数据就要被删除。 数据仓库中包含有大量的综合数据,这些综合数据中很多跟时间有关,如数据经常按照时间段进行综合,或隔一定的时间片进行抽样等等。这些数据要随着时间的变化不断地进行从新综合。因此数据仓库的数据特征都包含时间项,以标明数据的历史时期。 一句话理解,数仓里会完整的记录某个对象在一段时期内的变化情况。
点赞 17
评论 1
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
昨天 08:00
蚌埠坦克学院 嵌入式软件开发
海康威视 嵌入式软件 二面 面经
1. 在你做过的嵌入式项目中,请详细描述系统整体架构是如何设计的,各个模块之间是如何解耦和通信的?答案:一般我会采用分层架构设计,把系统拆成三个层次:驱动层(Driver/HAL)封装 SPI、I2C、UART、GPIO 等硬件操作对上提供统一接口,屏蔽具体芯片差异服务层(Service)对驱动进行二次封装,例如:传感器服务通信协议解析负责数据处理和逻辑封装应用层(Application)实现具体业务逻辑不直接操作硬件解耦方式:使用**消息队列(Queue)**传递数据使用回调函数处理事件模块之间只通过接口通信,不直接访问内部数据核心原则:“高内聚、低耦合”尽量避免全局变量共享2. 在嵌入式系...
嵌入式面试八股文全集
点赞
评论
收藏
分享
04-01 17:38
百度_高级研发工程师
AI Coding实战技巧
段段很久没法文章啦,主要是最近是多事之秋,跟主管battle绩效,还要面试和推进流程,实在没心情,现在offer下来了,基本尘埃落定了,段段也准备南下了。 AI Coding已经深入到每个程序员的工作中了,从最开始的尝试、质疑、理解和接受,这个过程是非常快的,也应了我之前发的文章中提到的,AI现在是指数级发展。 本文将结合日常工作经验,为大家梳理一下AI Coding的几个实战技巧。一、幻觉边界、测试先行 测试先行,测试先行,测试先行,重要的话说三遍。为什么要测试先行,可能很多人要问了,测试不都是最后吗?那是以前了,但是现在用AI写代码,就会涉及一个问题,如何保证AI写的代码最后能通过测试,我...
AI Coding实战技...
点赞
评论
收藏
分享
02-23 09:22
山东科技大学 golang
暑期实习求指导
双非一本,八股刚开始,这个简历能找到实习吗。。。
零零幺零零幺:
至少再做一个项目,然后猛投小厂,不然有点难
点赞
评论
收藏
分享
03-07 02:28
南京理工大学 Java
27届找实习
年后投到现在至今0约面,是哪里出了问题,是背景问题还是简历问题呢希望大佬指点一下
I_can_do_b...:
问题不大,现在就是开的少,校友别太焦虑
点赞
评论
收藏
分享
04-03 11:54
字节跳动_人力资源部_HR
🔔 叮!中国交易与广告实习生招募
🎤话筒交给招聘君!今天要安利的团队是 👉 中国交易与广告🌱 关于我们产品研发和工程架构-中国交易与广告团队,负责抖音电商、生活服务、广告营销等营收业务的研发。用技术带来美好生活,让用户发现更多优价好物,为用户提供更丰富独特的生活体验;连接海量用户与商家,促进交易达成,让生态里全流程体验更流畅,助力营收业务长效增长。加入团队,你将投身流量与增长主战场,挑战复杂业务场景技术难题;直面真实商家和用户,用技术解决看得见的问题,在实战中快速成长,书写属于你的价值故事!🔥 热招岗位前端、后端、客户端、算法、 安全、测试开发、产品、运营📍 工作地点北京、上海、杭州、成都、深圳📮 投递方式1️⃣ ...
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
大厂offer拿到手软的后端暑实焚绝在此
8382
2
...
快手-后端-日常实习-一面-4.3
3725
3
...
腾讯前端一面
2915
4
...
美团二面没有直接挂,是排序G了吗?还是面试官忘记填写面评了?
2272
5
...
3.30美团ai应用一面
2198
6
...
从211化学本到字节后端,面经大公开
2163
7
...
快手java后端一面(oc版😼)
2146
8
...
211Java路线求助
1736
9
...
前端面试手撕题
1493
10
...
字节二面压力面,印象深刻
1392
创作者周榜
更多
正在热议
更多
#
学历VS实习,哪个更重要?
#
5160次浏览
93人参与
#
AI替代不了什么?
#
853次浏览
30人参与
#
厦门银行科技岗值不值得投
#
16374次浏览
399人参与
#
烂工作和没工作哪个更痛苦?
#
707次浏览
23人参与
#
牛油的搬砖plog
#
188868次浏览
1261人参与
#
工作上你捅过哪些篓子?
#
69064次浏览
333人参与
#
一人分享一道面试手撕题
#
112562次浏览
2734人参与
#
春招至今,你收到几个面试了?
#
3284次浏览
22人参与
#
发工资后,你做的第一件事是什么
#
100007次浏览
330人参与
#
uu们,春招你还来吗?
#
68008次浏览
896人参与
#
面试中,你被问过哪些奇葩问题?
#
98797次浏览
1400人参与
#
实习生应该准时下班吗
#
349123次浏览
1752人参与
#
面试紧张时你会有什么表现?
#
35343次浏览
235人参与
#
你的实习什么时候入职
#
367956次浏览
2367人参与
#
牛友的志愿填报指南
#
63717次浏览
491人参与
#
网申一定要掌握的小技巧
#
20680次浏览
87人参与
#
关于春招你都做了哪些准备?
#
145650次浏览
769人参与
#
产运销实习日记
#
98277次浏览
725人参与
#
90后北漂现状
#
36282次浏览
215人参与
#
面试被问到不会的问题,你怎么应对?
#
29052次浏览
770人参与
#
你都用vibe coding做过什么?
#
25374次浏览
966人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务