数据资源梳理的书？

一、数据资源梳理的书？

有：深入浅出统计学，MySQL必知必会，精益数据分析等。

二、数据运营如何梳理数据埋点需求？

数据分析数据治理入门分享-转载渭河数分星球嘉宾SpaceLion的文章（四年互联网大厂数据科学经验），未经许可不能转载

1、前言

看到这个标题可能有的同学会有疑惑，为什么我作为数据分析师还需要去管数据治理的活，这个不是会有专门的同学去做吗？

确实，在很多大厂，数据开发和数据分析职能都是分开的，数分的同学一开始拿到的表就是已经清洗过的宽表，BI看板搭建就是写几条sql配置一下，日志埋点的工作都会交给产品来完成。但是很多中小公司是不具备这种条件的，尤其是很多初期的创业公司，在产品架构尚未完善，团队分工不够明确的情况下，很多时候日志埋点，数据清洗的工作都会落到数据分析同学的身上。

在择业的时候，遇到这种分工尚未明确的项目，可能有一部分同学就直接放弃了，有的同学可能会说：我想专精数据分析，不想在数据治理上花时间，我找一个分工明确的团队就行了，如果职能分工不明确，说明这个项目的老板不懂数据等等诸如此类的。当然这也是没问题的，人的精力是有限的，追求知识的深度那必定会导致广度的不足。

不过从我个人的角度来看的话，这样可能就会使我个人的择业范围受限，只能选择一些数据建设相对较好的团队。另一方面，如果能够懂得一些数据治理的方法，那么在一些场景下也能够给数据分析工作带来一些便利性，包括能够让数据分析人员更好地定义口径，在复杂的统计任务中通过埋点和数仓来解决问题等。例如，一个刚刚搭建起来没多久的电商APP，想要分析用户点击下单之前上一个页面来自于哪里，假设我只在应用层面解决，那我可能需要把用户的点击事件按照时间排序，再进行清洗计算，费时费力。但是这个时候如果我通过埋点解决这个问题，让程序在用户的点击事件日志上加入一个refer字段，记录了上一个页面的url，这样无论是统计分析，还是搭建后续的BI能力，都能够快速解决

因此本篇随笔的目的就是分享一些本人在数据治理方面的入门经验，希望能给到一些完全没接触过数据治理的同学一些帮助。

2、数据治理链路以及数分同学参与的环节

国际数据管理协会DAMA对数据管理的主题分类可以分为以下几种类型：数据治理、数据架构、数据建模和设计、数据存储和操作、数据安全、数据集成和互操作、文件和内容管理、参考数据和主数据、数据仓库和商务智能、元数据、数据质量。而对于这些工作的从层次划分，网上有各种不同的概念，毕竟不同的公司架构不太一样，我们在这里引用《大数据之路：阿里巴巴大数据实践》书中的数据体系。整个架构分为四个层次：数据采集层，数据计算层，数据服务层，数据应用层。

1、数据采集层：包括日志收集，数据库，数据同步；

2、数据计算层：包括离线数据计算，数据仓库，实时数据

3、数据服务层：基本上就到了我们比较熟悉的环节，包括数分同学平时能拿到进行分析的mysql数据源，hive数据源，数仓的cube等等，数分同学的大部分工作，可能就是拿着这些数据源去做数据应用层的东西，不管是统计分析还是数据建模。

4、数据应用层：这里就是到了一些应用层的数据，对线上产品的，对内部系统的等等

在整条链路中，一些纯技术向的，涉及线上开发的内容是不用数分的同学参与的，一般数分的同学可能参与的环节主要在日志埋点和数仓设计两部分，参与的深度视实际需求会有灵活的变化。

3、日志埋点

3.1 数分同学参与日志埋点工作的优势

在日志收集环节，数据分析师可能会参与到日志埋点工作当中，有些尚没有实际工作经验的同学可能不太清楚，线上产出的原始数据都是json或者双逗号分割等不同类型的的字符串，其中定义了每一个字段的key-value，需要经过清洗才能够变成我们常用的数据表格式。那么一般数据分析师要做的就是配合产品运营，定义清楚每一条日志的上报机制，以及对应的key-value含义。

有的同学会讲这个东西不是应该产品自己来搞吗？没错一个基础能力强的产品确实是能够承担埋点的工作，并且产品功能是他设计的，他比谁都更清楚功能上线之后他想要知道哪些信息，对应所需要埋哪些点。但是有的时候一些产品虽然懂得功能设计和交互，但是却不太懂数据，他们想要的可能是一个抽象的概念，比如功能上线之后他想知道用户的活跃，用户的漏斗转化，此时如果没有专门的数分同学参与，那么产品估计就会去找开发，开发可能更了解底层架构，但是不了解业务，如果没有定义清楚日志上报机制和含义，那么可能就会出现这样一种情况：

产品上了一个促销活动的页面希望知道用户的PV，以及页面带来的GMV，开发随便埋了一个服务端日志，只要用户发送了访问页面请求就记录一条，结果数分同学统计出来发现PV量巨大，但是GMV少的可怜，于是产品疯狂优化交互，但是GMV依旧没有什么提升。最后经过多方排查发现，原因是由于前端页面加载问题导致很多用户虽然请求了链接，但是页面素材却加载不出来，而PV统计的是服务端日志，也许后面的转化其实还可以，但数据口径的差异导致了整个问题的误判。

以上这个例子是我编的，但是参考了一些工作当中踩过的坑点，我们可以发现在产品或者技术自身能力不够强的时候，把埋点全权交给他们就容易出现数据统计口径不明确的问题。而反过来看，数据埋点也是要为业务服务的，最好是通过需求和数据指标反推需要什么埋点，这就决定了数据分析的同学在这个环节当中有着很大的参与空间，其意义在于：

1、明确埋点机制对应的数据指标口径，避免业务分析的偏差。

2、帮助数分同学了解底层架构，拓展业务分析当中的思路。

3、数分同学可以自主增加便于分析的日志埋点，提升效率。

3.2 日志埋点的经验分享

埋点的方法根据每个公司使用的数据服务不同也有很大差异，我个人将埋点方法分为两类：全埋点，代码埋点。代码埋点又分为前端和服务端埋点。

全埋点就是部署了一些sdk，能够把APP的所有行为全部记录下来，然后由分析人员自定义关键事件，直接圈选分析。使用这种方法一般是接入了一些外部的数据服务供应商的系统，比如神策之类的，优点是你想怎么定义都行，无需重新开发，缺点就是这么多数据占用空间大不能存太久，也只适合一些轻量级的项目分析，我自己是没用过这种方法。

代码埋点顾名思义就是需要让开发把一些关键事件信息的返回写到代码里面去，需要预先定义好在什么场景下，返回一些什么字段，这个就是我们最常用的一种方式。

前端埋点主要是在APP客户端，或者网页页面当中，触发了一些关键素材时返回日志，比如页面加载，素材图片的加载，按钮的点击之类的。这类埋点上报会受到页面改版，网络等问题的影响，会有一些误差；服务端埋点指的是成功请求了一个服务器接口时返回日志，这种日志通常是最准确的，比如下单，播放视频等，请求成功了就是成功了，不受前端改版等问题的影响。

设计埋点的时候我一般遵循这几个步骤：

第一步肯定是要跟产品运营对齐，看一遍产品文档，新功能页面做了什么改动，新增改动了什么功能，是否需要添加前端或服务端埋点；然后再明确这个功能上线之后要看哪些核心的数据，分别需要在前端和服务端埋一些什么内容，确保功能上线能够统计到对应的数据。输出好需要哪些字段之后，需要跟开发对齐，在什么情况下上报，字段都能不能上报，可能有些字段是记录不了的要怎么处理，这些明确了之后才能进入开发。

对于日志字段的设计，个人的经验是可以按照几个大类进行梳理：

以这样的标准去写埋点文档，就有利于拉齐大家对埋点的认知，从而更高效，准确的沟通。核心的逻辑是从产品对UI的理解过渡到数据指标的设计然后到具体的开发环节，所以需要三方都要听得懂

最后成型的埋点文档应该长下面这样

4、数据仓库

4.1数分同学参与数仓的优势

数据仓库一般跟数据存储，数据安全这些职能是绑定的，所以大部分工作会落到数据开发的同学身上。不过这种情况是在数据体系已经有一定沉淀的基础上，如果是从零到一的数据仓库搭建，数据分析同学的参与空间也是很大的。

数据开发的同学擅长将数据仓库设计的高效，可拓展，可维护，但是在服务层和应用层当中要结合业务进行设计，比如对于一个短视频产品，数开的同学能够做到让上数十亿条数据的用户-视频维度的事实表清洗任务时长缩短一半，但是到了服务层以上，需要定义一些“近30天用户活跃天数”，“近90天用户观看时长”的时候，数据开发的同学可能就会不知道怎么去设计能更加贴合业务了，此时就需要数分的同学参与进来。

4.2 数仓设计的经验分享

数据仓库一般分为：

1、ODS层（数据准备层）：包含业务的原始日志，是直接接入数据源的部分。

2、DWD层（数据明细层）：将DW层（DWD，DWM，DWS）与业务层（ODS）隔开的部分，在数据字段的定义上与ODS层保持相同的颗粒度，但是会把ODS层的原始JSON等字符串日志进行解析变成数据库表，同时会做一些空值填补等数据清洗操作。

3、DWM层（数据中间层）：在DWD的基础上做轻微的聚合，计算出相应的统计指标，例如假设对于一个短视频产品，DWD层记录的是，用户-创作者-作品-时长的维度数据，并且当一个用户多次观看同一个视频，可能会产生多条记录，那么在DWM层可能会根据业务需要把表聚合为用户-创作者-时长的维度数据，每一对用户-创作者的只会对应一条记录。

4、DWS层（数据服务层）：在DWM的基础上整合的主题数据表，例如上面说的用户-创作者-时长的中间表，可能会根据业务需要被聚合为用户主题表：用户-总时长-创作者人数....；创作者主题表：创作者-用户数-总时长......；这里的数据维度通常就已经是具有业务含义的数据指标了

5、ADS层（数据应用层）：这里主要是给提供给产品或者数据分析的表，比如BI展示的数据指标表，以及一些为了方便快速分析预聚合好的数据表，其数据指标自定义程度也会更高，比如”近90天观看视频数”等等。

通俗地说，数据仓库从下层往上层设计的过程就是一个不断group by的过程，从多条明细group by成一条，从N个维度group by成一两个维度如何选择维度，以及要group by出哪些指标，就是数据分析同学发挥作用的地方。一般ODS，DWD这两个维度可以不需要数分同学参与，数据开发的同学保证数仓的准确性和稳定性即可，但是到了DWM层数据分析的同学就可以适当参与进来。比如此时DWM层待聚合的维度有20个左右，包括用户id，创作者id，视频信息，用户的机型设备IP这些，那么数分的同学就可以结合平时的分析经验挑选需要聚合哪些维度，比如IP，机型，如果在分析当中并不是一个主要的维度，那么在DWM层当中就无需保留，那么假设数分的同学平时要经常统计“活跃设备数”这样的指标，那么设备ID就需要在DWM层保留下来。

设计数据仓库的过程这里介绍Kimball的维度建模步骤：

1、选择业务过程：这个步骤通俗地讲就是业务场景，比如在某个直播产品当中，我们定义一条用户的核心业务路径定义为观看直播-付费充值-礼物打赏，那么最初的事实表就需要确定是单一场景的观看直播行为表，还是观看直播-付费充值两个场景叠加的表。

2、声明粒度：确定主键，比如在上述的观看直播行为表中，我们选择用户作为粒度。

3、确认维度：根据关联分析的常用维度挑选字段，比如以用户为粒度的表中，我们通常会关注用户看了哪些主播，在什么渠道下看的，看的什么类型，那维度就需要包含主播id，渠道来源，直播品类，核心考量的就是业务相关性。

4、确认事实：也就是确定业务的度量指标，比如观看直播场景下，业务需要关注时长，PV，那么就需要在聚合的过程中把这两个指标计算出来。

如果按这个过程无限拓展，数仓的维度是可以拆出非常多的，常用的模式有：

无论是哪种，其实核心都是要在存储空间和业务便捷性当中找到一个平衡点，维度表越多，分析的便利性就更强，但是同时增加了存储成本；维度设计的简单，数仓运行更高效，但是可能每次做稍微复杂的分析都要从最底层的表开始用起，降低分析效率。这一块工作是需要数据分析和数据开发的同学长期共建的，数分同学提供业务视角的建议，数开的同学提供技术上的方案，单一方我觉得都很难把这块做好。

5、数据治理-数据分析共同进化

其实分享了这么多，其实核心都是希望能够给数分的同学提供一些跳出数据分析框架解决问题的思路，如果能够了解一些数据治理的基础方法，在一些关键的节点上就可以寻求数据开发的帮助。例如你在分析用户路径的过程中发现了一个很关键的行为，比如用户在浏览3次以上商品详情页之后，购买率会提升10%，那么是不是可以设计对应的埋点，在每次用户曝光商品时，让开发同学记录当天已曝光该商品的次数，产品也可以直接读取这个数据做对应的干预策略；又例如某个视频产品的数仓以前只有简单的用户-创作者-视频维度的事实表，结果最近运营总是提需求看不同MCN机构的数据表现，那我们是不是可以给数仓的同学提需求增加对应的字段或者设计新的事实表和维度表，方便后续的BI能力搭建。

反过来说，数据开发的同学也能得到业务经验的反哺，我发现商品曝光次数是一个非常关键的行为，那么我在下次打其他埋点的时候，也可以建议产品加上这个数据；我发现业务方经常看A维度数据不看B维度的数据，那我也可以设计一些更加便捷的维度表给他们用。

整体来说，我觉得对于数据治理这项工作，数分和数开的同学是一个相辅相成，共同进化的合作关系，如果未来大家在做项目的时候，遇到了需要自己参与到数据治理工作当中的情况，希望本文可以给到大家一些启发。

三、杭州湾新区各楼盘大数据梳理，看看哪些楼盘去化率最高，哪些楼盘销售正热？

杭州湾新区各楼盘大数据梳理，看看哪些楼盘去化率最高，哪些楼盘销售正热？

2020年10月份我统计了杭州湾新区商务核心区（滨海新城+南部新城）在售楼盘的销售情况，当时统计数据为楼盘平均去化率达91.83%！如今半年时间过去了，各楼盘之间的销售数据又有了哪些变化呢？

所以今天，对上次统计楼盘再次进行数据梳理，看看那些楼盘去化率最高，那些楼盘销售正热！（注：以下数据来源宁波市房地产交易中心网站，网签套数不等于实际销售套数，具体以各售楼处当天销售为准；预售信息采集截止到4月28日以前，待售及以后信息未统计在内。此次统计仅做参考！）

01

绿地海湾

预售总计20853套，售19731套，余1122套，去化率约94.61%。

绿地·海湾

宁波杭州湾新区

项目地址：位于杭州湾新区

总 体 量：2.5万套左右

占地面积：3133330㎡

建筑面积：380000㎡

开 发 商：绿地集团

物 业：南都物业。物业费2.55元/平

主力面积：7D地块高层（面积75平-90平-95平精装修交付），洋房（110平-125平）7B洋房（110平-120平毛坯交付），7B 8B 8C地块高层（面积70平-90平-100平）

均 付：14200/平左右（高层），15000/平（洋房）

容 积 率：2.0

车 位：1:1.2

交房情况：期房

交付标准：精装，毛坯

左右滑动查看更多户型

02

杭州湾海上传奇

预售总计5937套，售5372套，余565套，去化率约90.02%。

建筑面积约67㎡高层

极致小户型设计，避开市场上集中面积段，总价低，易出手，好出租，首付20万起买核心启动区高品质小区

建筑面积约79㎡高层

极致小户型设计，避开市场上集中面积段，总价低，易出手，好出租，首付30万起买核心启动区高品质小区

建筑面积约99㎡高层

极致三房设计，利用率高，自住舒适，改善首选

建筑面积约129㎡高层

极致四房设计，利用率高，自住舒适，改善首选

建筑面积约143㎡洋房

03

卓越蔚蓝海岸/杭州湾中心

04

融创杭州湾壹号

2#b、2#d地块鸟瞰图

1#b地块鸟瞰图

户型图

05

合生杭州湾国际新城

目前在售：十一期天泽湾

△效果图

建面；95-108-109-128

单价：11500-12500

06

祥源漫城

07

港中旅锦绣东方

项目卖点：

地处杭州湾核心区域，杭州湾乃至长三角地区文旅新地标，升值潜力无限

1.杭州湾唯一央企开发商，品质保证，周边配套齐全。

2.地处杭州湾滨海新城核心启动区的文旅宜居板块，国风小镇以东方禅意为核心理念，旨在打造成为长三角文化旅居度假目的地。

3.三面临水，独享半岛风情，更舒适的人居环境；更轩阔的空间，彰显大家气派；更大尺度，南北观景，美好尽收眼底。

4.国风商业街，网红打卡处，TOD悬轨双站点。

4#地块信息

【占地面积】:约5.9万方

【建筑面积】:约15.6万方

【产品类型】:高层、洋房

【在售户型】:高层住宅建面89/105平 、洋房116平

【产权年限】:70年

【交付标准】:毛坯交付、两梯四户

【交付时间】:2023年6月30日

【小区物业】:港中旅自持物业-港中旅物业

【物业费用】:2.6元/平方

【开 发 商】 :中国旅游集团

【容 积 率】：约1.9

【绿 化 率】：约30%

【车 位 比】：1：1.1

【总 层 数】：高层32/33F；洋房11F

——爆款户型

08

港中旅海泉湾

预售总计2174套，售2032套，余142套，去化率约93.46%。

产 权：70年

容 积 率：2.5

绿 地 率：30%

得 房 率：75-78%（不算赠送面积）

车 位 比：1：1.16

物 业 费：2.55元

总 层 数：17-31F

高层，11F洋房

交房标准：毛坯

占地面积：4.17万方

交房时间：2022年6月

户型：

09

滨海壹号

预售总计930套，售871套，余59套，去化率约93.65%。

产权年限：70年

占地面积：6.8万方左右

建筑面积：14万方

总户数：852户

外立面：涂料

绿化率：30%

交付时间：2021年年底

户型面积：住宅97㎡-125㎡-139㎡

交付标准：高层全装

项目价格：高层13500

开盘时间：高层已开盘

❤小区配套

高层户型图：

10

世外旭辉城

预售总计1572套，售698套，余874套，去化率约44.40%。

【项目信息】

10#C地块

• 首推面积：85-95-170㎡

• 均价：13300元/平

• 建筑面积：约30万方

• 占地面积：约10万方

• 总套数：2168套

• 总层高：17-27F

18#19# 27F

26#29# 18F

24# 17F

• 得房率: 约80%

• 绿化率：30%

• 容积率：2.2

• 梯户比：18#19# 三梯六户

• 梯户比：26#29# 两梯四户

• 梯户比：24# 两梯两户

• 交房标准：毛柸

• 拿地时间：2019年10月

• 交付时间：2023年6月（10#c地块）

• 效果图

• 户型图

11

绿地尚湾

户型图

边套采光：三面采光大格局，拥享强大采光体验，尽揽四时风景

餐客连厅：客餐一体化设计，横幕宽境格局，营造核心生活空间 5.7米开间

奢适主卧：主卧设计步入式衣帽间，独立卫生间，熨帖雅致生活

舒适次卧：次卧带270度全景飘窗，拥揽阳光美景，舒适宜人

边套采光：三面采光大格局，拥享强大采光体验，尽揽四时风景

餐客连厅：客餐一体化设计，横幕宽境格局，营造核心生活空间 5.7米开间

奢适主卧：主卧设计步入式衣帽间，独立卫生间，熨帖雅致生活

舒适次卧：次卧带270度全景飘窗，拥揽阳光美景，舒适宜人

其中，以滨海新城为例，所有楼盘去化率均超过90%，其中以融创杭州湾壹号和卓越蔚蓝海岸项目去化率最高，分别达到98.76%和99.39%！ 由于前两年杭州湾土地集中出让，供应量很大，给大家的感觉就是房子太多！不过再多的房子在如今看来也都已经接近销售尾声了。

2021年下半年或将有部分新盘入市，如滨海新城内绿城双子星项目——春来云潮、春熙月明；南部新城内人才社区一期地块的碧桂园项目、港中旅项目，这些新盘的入市估计售价将有望达到1.5万+！还有今年即将出让的人才社区二期地块、奥特莱斯一期、二期地块（住宅）等，特别在当前余慈地区土拍市场楼王频出的大环境下，未来售价也必定会上一个新的台阶！

2022年是滨海新城开发收官之年，各项规划建设也已基本落实且逐渐形成规模！各楼盘配套商业、学校及市政道路等项目正紧锣密鼓建设中，地段开发早期的也已相继入住。现阶段买房群体并非全是投资客，有相当一部分是考虑学区及自住或后期自住为属性的宁波及余慈地区群体客户，如果有这类客户，还是及早入手为好！

前湾新区 ▏杭州湾新区目前集聚了国内一线优质开发商：卓越、碧桂园、融创、港中旅、绿地、中南、祥源、绿城、合生、世纪城、雅戈尔、蓝光等

以上内容来自“微信公众号”前湾新区楼市风云。一个专注于前湾新区（杭州湾新区）的房产投资的公众号，在微信上“搜索”前湾新区楼市风云，可直接关注

顶一下

(0)

0%

踩一下

(0)

0%