Summary
本页目录· 7 条
出勤率不会记录。但是,您的出勤率会被记录下来,以便追踪。
本周Seminar概览
刚开始简单介绍了下Teaching Team, Topics, Assessments,然后举了几个Geospatial analysis例子之后,就开始念PPT了,PPT内容大概就是讲数据工程、数据仓库、数据清理之类的概念性知识。最后匆匆过了一下SQL revision就结束了。
感觉Seminar和Lecture没差别,也是Lecturer自言自语的读PPT,甚至时间把握也没把握好,PPT都没读完就匆匆结束了。
本周教学目的
- 建立“数据工程视角”
让你用系统工程的方式看“数据到数用”的全链路,明确对象/用途/用户/原料/流程/工具,不再把数据工作等同于零散的清洗脚本。
- 为后续的 DW/OLAP/BI 奠基
解释为何需要 DW(决策支持、规模与口径统一)、DW 如何建模(星型/粒度/预计算)、如何被消费(OLAP/BI)。这是从“数据库技术”走向“高级数据库技术(分析型)”的第一步。
- 强调质量与可持续交付
通过“医院案例”说明一次性做法在长期运维中不可持续,因此要用模块化/分工化来确保质量保证(QA)与团队协作。
- 明确学习与实践边界
指出你需要掌握的技术栈与方法(DB、DW、ETL、建模、分析、存储/优化 + 编程/可视化等),为后续实验与作业(如案例星型建模与仓库实现)设定目标。
本周知识点
一、Data Engineering: An Introduction(数据工程入门)
- 以与软件工程并行的“七问”框架切入(我们在构建什么、用途、谁用、工具、方法/流程、原材料、需求),把数据工程当作一门有对象—流程—交付的系统工程来理解。
- 明确产物不是“报表/模型代码”,而是“可用于分析的数据”(We are designing and building data!!)。
- 用途:服务数据分析与建模(预测、趋势、聚类/分类、仪表板、描述/规范/因果分析等)。
- 原材料:原始数据,且“原始数据并未就绪”,需要工程化加工。
- 数据来源/格式多样:事务库、公开/第三方、设备/传感器、应用/爬虫、地图;文本/结构化/半结构化/CSV/专用结构/多媒体。
- 后续主线:数据工程架构与数据工程组件。
二、Why We Need Data Warehousing(为什么需要数据仓库)
- 以维州 5 家医院手术数据(2 年 CSV)做仪表板为例,展示“临时合并+清洗+出图”的一次性流程,以及其中暴露的质量与复用问题。
- 指出更真实场景是持续到数的多批次到来、口径变化与新错误叠加,一次性脚本会不断“返工”。
- 借鉴软件工程的模块化与抽象,强调需要框架化、分工化:把清洗与仪表板等环节拆成可独立演进的流水线阶段。
- 结论:要有过程/数据质量保障与专业化分工;数据工程工作量很大(“DE=80%”);即使小项目不建 DW,DW 也能提供方法论与框架。
三、DE: Architectures & Components(架构与组件)
- 架构:三种以 DW 为核心的输入场景——来自本地数据库、外部来源、其它数据生产者,突显多源异构。
- 组件:
- 数据库:关系模型、事务管理、ACID,面向一致性与在线处理。
- 数据仓库:预计算与粒度(granularity)设计,基于关系技术但需预先建模,面向分析性能与稳定口径。
- 工具与过程:数据库/DW 技术、(大数据/系统/编程/可视化)工具;ETL、DW 建模、数据分析、存储与优化构成理论基线。
四、Data Warehousing: An Introduction(数据仓库入门)
- 从操作型数据库到数据仓库:通过 ETL 完成抽取—转换—加载。
- 面向多维分析的新建模:把仓库看作多维“立方体”,底层以**星型模式(Star Schema)**实现。
- OLAP:在大体量上**即时汇总(on the fly)**需要 OLAP 工具;BI 消费层包含报表、图表、仪表板与交互式导航。
- 星型模式三件套:事实(数值度量)、维度(观察视角)、属性(维度细化),发展动因是 ER/范式化难以满足高级分析结构诉求。
- 案例作业:围绕学院收入/缴费主题,要求定义事实与维度、绘制星型模式、明确维度属性,并在实验中实现。