是的,我们和‘growing io’在一起!
合在一起,是数据云与分析云联手服务客户的王牌,也是组织的融合与共同成长。当然,我们的工程师也是“在一起”的!
没错,今年的StartDT Hackathon,主题是“StartDT产品全家桶”,有奇点云和GrowingIO的工程师一起玩!
这是有史以来最开放的选题。
奇点云的合作伙伴,黑客马拉松的发起者——地雷的介绍。为了从工程师领域推动集成,形成和优化全栈技术方案,实现“真在一起”,本课题不局限于产品,特别鼓励多产品技术团队在产品集成和突破层面共同创新。
“StartDT产品家族桶”由数据云和分析云两大产品体系组成,包括数据云平台DataSimba、消费者运营平台DataNuza、用户行为分析平台GrowingIO-UBA等王牌产品。
各产品团队的工程师从日常实践和“吃狗粮”中,从不同角度挖掘出15道题目,其中以下6道题通过测试正式入选并进入大赛:
1.DataNuza前端微服转型_你说团队
2.增长IO-UBA和DataNuza汇聚服务器_三秋树的缩减方案
3.当DataSimba遇上GrowingIO-UBA,分析一张图的用法_十二黄金圣斗士
4.Datanuza-MA _炸鸡网钩触点的配置
5.DataSimba全栈支持Kerberos认证_某组
6.解耦部署依赖,进而提高DataSimba deployment _藕淀粉组的有效性
#1
需要无缝集成,灵活部署DataNuza的前端微服务转型挑战。
DataNuza是一个数据驱动的消费者运营平台,包括CDP、MA等模块,而GrowingIO-UBA是一个用户行为分析和增长的平台。
这两种完全不同的产品满足了项目实践中“一体化”的要求——很多客户同时购买了DataNuza和GrowingIO-UBA。数据可以访问就不用说了,模块部署也更加灵活。例如,只部署CDP和而不部署MA,或者之前已经购买了CDP和MA,希望再增加一个UBA。
然而,DataNuza和UBA使用不同的前端框架,因此对于产品团队来说,在保留两者的同时完成集成操作是一个挑战。
另外,随着多年的产品迭代,团队越来越大,单个项目的体量越来越大,模块之间的耦合太重,导致单个模块无法增量升级,影响了以后产品的开发、升级和维护效率。
“这是微服务转型的好机会,可以一起解决以上问题。”“你说的团队,”队长带着剑和微笑说,“以这次黑客马拉松的大主题,正是你想要的。”
具体来说,他们这样做:
1.搭建一个主应用库,通过统一的门户登录,开放账号体系,通过这个库在子应用之间发送和传递数据;
2.改变路由系统,改造应用的数据层,将原来的聚石应用按模块拆分成多个应用,完成解耦。优化打包方式,使子应用可以集成到基础中,并且可以独立运行和部署。
微服务改造后,DataNuza和GrowingIO-UBA可以无缝融合,用户可以在同一个入口登录并选择模块进行操作,没有拆分体验;
在产品层面上,CDP、MA、的模块相互独立,可以迭代、开发、测试功能,而不是“牵一发而动全身”。
产品在销售和部署时,也更加灵活,方便拆分或组合部署各个模块,无需手动重写;
基于主要的应用基础,未来可以接入更多的其他第三方产品,因此DataNuza这种消费级运营平台的整合和开放能力更强。
#2
产品融合将服务器成本降低高达43%
以往DataNuza和GrowingIO-UBA产品的部署都要消耗自己的服务器资源,会给客户带来一定的负担,单独部署、实施和维护会更加困难。
以此次产品整合为契机,是否可以探索服务器缩减的优化方案?
在考察了DataNuza和GrowingIO-UBA的产品后,“三秋树”团队提出了最低部署方案。通过减少应用服务器,合并中间件和数据库服务器,新的最小部署方案与单独部署相比,最多可以减少43%的服务器资源。
彩蛋:“三秋树”的组名来源于清代文学家郑板桥的作品“删繁就简三秋树,以异标新二月花”。团队成员希望不断删除大量的树并简化它们,以减轻资源负担。
#3
当达辛巴遇上UBA,两人相得益彰,是“天生一对”
“很久以前,我就想给DataSimba选一套前端嵌入工具,辅助DataSimba的产品运营……巧的是,我们和GrowingIO在一起,它有全宇宙最强的用户行为分析工具!”黄金圣斗士12团成员、DataSimba高级产品经理沙嘉介绍了话题的由来,表示“机会总是留给命中注定的好产品”。
黄金圣斗士12团在DataSimba上部署了GrowingIO的前端采集工具,将采集到的数据导入DataSimba,并结合DataSimba自身的元仓库数据进行联合分析。
最后,通过GrowingIO-UBA的看板,你可以准实时的了解DataSimba产品的使用情况,包括每个模块的访问量、用户数、停留时长、任务出错数、工种占比等,并找出用户的痛点,可以为升级DataSimba产品体验提供参考。
“这只是一个例子。我们以DataSimba的产品运营为例,向大家展示了DataSimba和GrowingIO-UBA如何合作,实现数据驱动的运营和增长。在客户场景下,也能激发更多价值。”
黄金圣斗士十二组组长东风表示,“比如过去客户的商城app或小程序的前端SDK集合,可以分析出基本的用户行为,而现在用户行为数据进入数据云平台DataSimba,可以与商品管理后台的维度表等更多来源的数据融合,甚至细化到商品货架信息、库存信息、历史促销记录等。,扩展数据维度,然后将相关融合后的数据输入UBA进行进一步分析。"
评委、资深技术专家穆然评价说:“在这个项目中,行为数据和元仓里的业务数据在DataSimba合并后返回UBA,行为数据本身得到了增强,是一个非常好的整合尝试。”
据悉,“DataSimba+GrowingIO-UBA”的实践已经形成了标准化的方案,可以在各种产品或不同环境下快速部署。
彩蛋:如何评价双方的首次合作?
DataSimba高级前端工程师还首次使用了GrowingIO前端SDK采集工具。他说,“GrowingIO有一套完整的标准化对接文档。这次从学习文件到完成全面部署,用了不到一个小时,真是方便快捷。”
黄金圣斗士12团成员、GrowingIO的产品专家千叶在了解到DataSimba后表示,“这两款产品是天生的一对。”
经过上赛季的黑客马拉松DataSimba和DataNuza团队的“红蓝CP”协作,产品经理和工程师对这种多团队混搭感到很舒服。
除了上述三个融合团队,还有另外三个群体选择了“专注于自己”,努力提高DataNuza的配置效率和DataSimba的安全性和部署效率,继续往下看。
#4
马的Webhook联系人配置效率提高80%
是马消费运营平台DataNuza的重要模块之一。可以帮助用户自动执行营销任务,通过短信、微信官方账号、微信等渠道自动触达用户,帮助企业组织全球营销活动。
在为客户配置MA时,由于不同客户提供的接口不同,手动开发和配置MA的每组标准触点需要几个人工日。
能否减少重复动作,节省开发和实现时间,以更智能的方式完成Webhook联系人配置?
基于项目成员丰富的实施经验,“炒菜团队”总结了常见的对接项目,并形成了界面表单配置,代替手工开发:
步骤1,确定接口地址和请求方法;
步骤2,填写请求界面所需的参数信息;
第三步:请求客户界面后根据返回的结果进行映射。
“总共有3个步骤。配置完成,测试通过后,就可以开始使用了。”“炊事队”队长朝戈介绍,“这套方案更简单,技术门槛更低,效率完全可以比原来的做法提高80%。”
#5
全栈支持Kerberos身份验证数据安全升级
为了提高DataSimba的安全性,“某团”提出了Kerberos全栈支持的话题:DataSimba全栈组件开放Kerberos安全认证,包括Flink、Spark、Impala、Hive、HDFS、Hbase、Kafka等。
Kerberos是一种网络身份验证协议,旨在通过使用密钥加密技术为客户端/服务器应用程序提供强身份验证。通过验证,不仅可以验证发送方和接收方的身份是否真实,还可以验证来回传输的数据的有效性和完整性,并在传输过程中对数据进行加密。
团队成员贝明介绍,在Kerberos全栈支持后,DataSimba的安全性进一步加强,随时可以满足“多租户”场景。
#6
观察30分钟,记录DataSimba部署,然后提高效率。
DataSimba可以在短短30分钟内完成部署!
这是所有StartDT工程师都引以为豪的记录。DataSimba升级到R4.2版本后,藕粉组的同学发现,这个记录可能保不住了。
莲藕淀粉集团负责人冯智表示:DataSimba R4.2需要在部署大数据引擎后进行部署,客户资源的申请时间不可控,会导致DataSimba在半小时内无法部署成功。
解耦DataSimba R4.2与中间件的部署依赖,进而提高DataSimba自动化部署的效率。这是这个藕粉组的话题。
Lotus Root Group定义了每个微服务使用云原生文件系统、装载存储引擎、配置HDFS和配置机会的方式。通过反转服务域和云原生文件系统之间的依赖关系,服务域管理云原生文件系统。最终在k8s环境下不更换云原生文件系统和HDFS的情况下成功完成解耦动作,不依赖大数据引擎即可启动DataSimba,且代码量较少,不增加项目负荷。
#StartDT
云+分析云齐头并进
今年5月,StartDT“数据云+分析云”产品矩阵正式发布。开放、中立、安全的数据云作为基础设施,封装复杂技术,为企业高效沉淀数据资产,降低数据管理和资源成本;一站式智能易用的分析云将数据与不同的业务场景连接起来,帮助客户一站式实现数据探索、发现、预测、决策和行动,以数据进一步驱动价值增长。
那么,在实际场景中,“数据云+分析云”如何整合、有机赋能客户,能给客户带来多大价值?
拒绝技术!在这一季的黑客马拉松中,StartDT的工程师们以“DataSimba+GrowingIO-UBA”为例,率先完成了最佳实践。随着产品体系的成长,DataNuza等产品团队也在积极创新,探索和分析云融合解决方案。
第一次参加StartDT Hackathon的评委和GrowingIO的资深技术专家深感惊喜:“DataSimba+UBA的完成度非常高。UBA结合元仓库数据,可以真正整合行为数据和业务数据,意义重大。特别是从DataSimba和UBA团队在项目期间拍摄的照片中,我们可以感受到工程师和同学们互相帮助,共同解决问题的团队精神,他们在问题面前是光明的。真的太棒了!”
评委、资深技术专家Gate表示,这次的黑客马拉松是目前看到的最有创意的一次。“UBA+达辛巴+达塔努扎,三者强强联手。实时的用户分析,实时的数据处理,实时的营销推送,应该是同等计算资源下最快,同等速度下最节省资源的。小伙伴们把整套数据云、分析云产品玩的很好,设置了多个场景,针对多个场景提出了颠覆性的整改意见,确实解决了一些场景。我很高兴能参与其中。和优秀的人一起工作会让我变得更好。”
真正的需求推动真正的融合,真正的痛点推动真正的创新。
在这群对数据技术充满热情、上进心强、创造力强的工程师的支持下,StartDT产品“全家桶”将不断进化迭代,真正成为DT时代客户的最佳合作伙伴。
有奖!
今年的StartDT Hackathon有三个奖金组:“你说的那支队伍”和“某团”并列第二,“十二黄金圣斗士”以绝对领先获得第一名。
二等奖:你说的那个团队。
Rain:感谢公司提供这个宝贵的机会让我提升自己。我觉得参加这个黑马特别有意义,让微前端从零开始付诸实践。
铜仁:每一次黑客马拉松都很有意思,可以感受到大家思想的碰撞。毕竟“大家都是产品经理”。只是这次我们的“微前端改造计划”对大家的触动更大一点,哈哈哈哈哈哈~
黛西:当我得知我们队获得了“二等奖”时,我感到异常兴奋。这是我们所有团队成员相互合作,齐心协力的荣誉!
执剑:感谢你举办这次黑客马拉松,让我们有机会挑战新技术,同时站在商业的交汇点,产生商业价值。感谢评委的认可和鼓励,我们会不断思考,为公司带来新的价值。
并列二等奖:某组
不愿意透露姓名的队员:低调还是能赢。
另一位不愿透露姓名的队员:这是实力的象征。
一等奖:十二黄金圣斗士。
圣人代表:短短四天,我从无到有,特别荣幸能和这样一个有主人翁精神的战斗团队一起工作。和都在做事的人一起工作是一种享受。十二黄金圣斗士是最棒的!
注:圣斗士之一、资深数据产品经理沙加因为屡战屡胜,以100%的胜率赢得了黑客马拉松,将被禁止进入下一届。