测试用例难写?
合作与伙伴关系 Virgin Media Business公司产品总监Andrew Halliwell表示,实现云计算投资最大化的第一步是寻找协作平台和咨询服务机构,这两者都可以帮助企业充分利用云计算技术。 Halliwell表示,首先,这是关于选择在单一平台内提供简化和集成的云计算协作解决方案。现有的技术可以在所有部门和用户中创建一种联合、个性化、差异化的员工和消费者体验。因此,企业获得的是改变游戏规则的整合能力,不仅仅是购买解决方案,而且还影响到企业的各个层面。 其次,需要利用伙伴关系的潜力。在冠状病毒疫情发生之后,很多企业面临复杂而困难的挑战,因此,他们需要扩展在投资云计算基础设施方面的专业知识库。
通过与合作伙伴开展合作,企业可以在业务运营的各个方面(从改善客户体验到增强安全性)获得咨询服务,从而获得更多价值,并实现投资最大化。 Q3:建设数据仓库的方法论是什么?主要用到什么系统? 主要是依赖Kimball的多维建模方法论,但是针对一些实体分析的场景,如用户数仓、内容数仓等等,则需要引入Anchor建模方式,这两种建模方式是目前我们主要采用的;我们目前是自建的数仓平台,是依赖自身制定的数仓规范进行建设的,主要有建模流程、模型管理、维度管理和指标管理等子模块。 Q4:数据仓库里,拉链表多吗? 目前拉链表较少,拉链表的生产和使用成本相对较高,而使用的场景又相对有限;如果确实有这方面的需求,可以考虑在特定的场景对快照表进行相应的处理,以实现拉链表所提供的能力。 Q5:请问投递怎么理解?是埋点或者订阅吗?主要涉及到哪些工作? 投递可以理解为用户行为的记录,包括用户启动APP、播放视频、浏览页面和点击内容等,可以记录用户在APP内的操作行为;主要涉及投递设计和管理,投递出的日志收集和ETL,包括用于监控投递质量的统计平台等。 Q6:请问什么是埋点呢?埋点丢失时预警有做吗? 埋点可以理解为用户行为的记录,即在用户的某种行为下会触发行为日志的投递;埋点丢失的预警可以有两个角度,一个是功能角度,即用户级别的监测,这依赖前端的投递SDK,用于记录投递失败的次数和信息;另一个是统计角度,即从相对粗的粒度进行行为统计,根据其他事件或者历史情况进行对比,确认数据是否有丢失。 Q7:数据重跑是怎样的? 数据重跑的场景可以分为几种情况,数据修复、口径变化、新增指标等;我们会通过数据平台的任务管理来创建重跑任务,指定重跑时间段、相关参数和并行度等,然后执行重跑任务,最后在数据重跑后进行数据的验证。 Q8:数据质量平台稽核任务的执行,对接的数据存储一般用哪些?关系型数据库还是Hive? 数据中台的数据主要是离线和实时两种形式,离线数据主要以Hive为载体,其中包括从关系型数据库接入的业务数据;实时数据主要以Kafka为载体;数据质量平台主要针对这两种形式的数据进行数据稽核。 Q9:在中台上如何开放目录或者地图,让业务方或者其他应用开发者快速获取所需数据? 数据中台中有数据图谱模块,以搜索和地图等形式将元数据以更为合理的形式输出,方便用户发现数据,并在平台一站式的完成数据的权限申请和使用。 Q10:数据治理是放到数据服务之后吗?数据治理主要是治理哪块?数据质量?数据标准? 数据治理是贯穿整个数据生命周期的,和数据服务没有前后关系,可以认为数据服务也是在数据治理的范畴之内;数据治理主要包括数据质量的分析、生产链路稳定性的分析、资源利用分析、数据标准化分析和使用审计等,数据治理的目的是为了保障数据稳定高质的进行生产,并推进整体的资源优化,同时防止数据的泄露等。 Q11:对于数据生命周期怎么处理?有做冷热备份吗? 数据有不同的资产等级,需要根据不同的资产等级制定TTL的设定;同时可以对数据进行垂直裁剪,将时效性要求较高的部分进行裁剪,以降低数据存储的成本;另外,为了满足对历史数据的追溯,可以将使用频率极低的数据存储到冷备,但需要考虑冷备的成本,包括恢复数据的经济成本和时间成本。 Q12:请问支持为多租户分配平台资源、工具、开发吗? 支持,这是数据平台必须的能力。 Q13:爱奇艺用到的大数据集群是开源的还是CDH? 主要是基于CDH的,并在此基础上进行了定制化的开发,包括内外部的各种补丁。 Q14:任务调度系统是自研的吗?还是用的开源的,哪个会比较好呢? 目前任务调度系统是基于oozie进行二次开发的,主要是增加了一些参数和打通其他的数据中台组件;目前主流的调度主要是oozie、airflow和azkaban等,各有优势,主要还是得看具体的使用场景和取舍,进而选择合适的调度系统。 Q15:请问下老师,大数据平台目前对外输出吗?
暂时还没有对外输出,由于每个公司的具体场景存在差异性,数据中台的体现形式也会稍有不同,不过后期可能会通过文章或者书籍的方式对外输出我们的想法和建设感受。 (编辑:鹰潭站长网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |