首发于 帆软数据应用研究院
大数据平台在互联网行业的应用

大数据平台在互联网行业的应用

本文是58同城信息系统部高级经理余中洋对大数据在互联网行业应用的总结。以实际经验讲解了大数据从雏形到发展,以及发展过程中传统数据仓库到大数据平台的转化和大数据的可视化应用。

顺便分享一份企业0-1数据决策分析平台建设方案,包含生产、营销、财务、库存四个模块方案介绍,并附带成功客户案例供参考。

大数据显雏形——发展

所有公司在一开始时,数据的建设都是比较落后的,但随着互联网的环境推动,以及公司计划2013年在纽约交易所上市,这时候面临一个很大的问题。在上市之前,公司的数据,无论是流量数据还是财务产品数据都需要经过非常严格的审计。为此,我们开始整理数据,做数据报表,花费一年多的时间做数据整理、数据规范,慢慢的大数据的平台有了雏形。

后来公司上市之后,数据运营的重点从反映过去和现在的状况转变成指导业务、管理业绩、支持销售。

2015年到2016年这两年,公司将目标投入到数据智能上,建立了一个非常大的系统平台,并且让整个销售和产品运营体系全面实施数据化运营。在这个平台上,我们不仅仅要进行管理销售,还要构建销售能力模型,预测未来业绩。因为在美国市场的股价,更多的是依赖公司未来的发展,公司未来预期决定了公司现在的股价,因此总共的业绩预测非常重要,能够非常精确的预测销售更加重要。

大数据平台建设

公司拥有很多的业务数据库,有订单、CRM、合同管理、人力资源等数据库。以往,我们会把这些数据库里的数据做集成,做一个简单的数据仓库,然后根据业务需求,在数据集成的基础上,通过帆软报表建立一个决策系统,做数据展示,提供服务。这个过程的好处是开发成本低,投入成本低,技术架构简单,可以非常快速的在公司内部运行起来。

但是这样的方式随着业务系统的增多,逐渐开始不适用。一是业务数据多样化、数据未集中管理、有效利用数据难度大;数据存储能力受限,无法追溯较远的历史数据。二是很多情况下,不同的产品经理和工程师所提的需求是不同的,而且这些不同的需求本身是交织在一起的。因此不同的团队做出同样的指标,由于数据指标定义不一致,存在意义相近重复指标的时候,管理层很难做出决策。三是分析和运营使用的数据渠道完全依赖于自身数据的监控,这会导致IT部门工作压力较大。

除了以上反映的问题,公司在基于未来发展情况下又呈现了新一轮的现状,并提出了以下需求:

  • 业务的多元化发展,公司大量的并购导致集团数据量和数据需求爆发式增长;
  • 数据网状流通,基础数据、数据指标缺少统一的元数据管理;
  • 为了更好发掘数据价值,提升数据能力、构建标准化数据体系成为当务之急。

大数据平台业务架构

集团的业务架构大体可以分为几块内容。第一个是数据模型师。主要的工作是做好元数据管理,数据模型的开发以及建立统一的数据标准。第二个是数据开发员,它会对接产品,然后去做一些业务开发。第三个是业务人员,业务人员是运营、销售、市场人员,在这个地方做了很多可视化来帮助他们做出决策。最后是公司的数据分析部门,他们有很多对于审计包括公司一些非常核心的数据的分析需求,他们会通过独立的数据查询系统实现数据多维度分析。

下图是技术架构,在底层进行数据存储,抓取数据,并将存储层的数据传给处理层,在处理层完成业务计算,形成指标。然后前端通过帆软报表FineReport的应用,将数据以业务报表的方式进行图形化展示,并在移动报表APP上进行展示。

除去这个,我们还在管理上做了数据中心的建设规范。然后是数据质量管理,包括确保数据的准确性,为保证数据的及时性还建立了一个运行和管理规范。这四块结合起来以保证平台的平稳运行。

大数据可视化



数据可视化是这个平台最后的一步也是应用范围最广的一步。这方面,由于我们



1、需求来源多:团队需要同时对接财务部、销售中心、客服中心、管理层等各级部门,且各个部门关注的指标千差万别。



2、报表可视化方式多:需要通过明细表、汇总表、钻取表以及各类图表来分别满足各个部门的不同管理职级的需求,还要给给需求方提供离线报表、实时报表、邮件&短信推送数据等多种渠道。



3、自定义开发多:为了对接公司内部的业务系统,需要经常自定义开发。



所以,需要一个满足这些需求的可视化报表开发工具。这一块,无论从最初的传统数据仓库方式还是现在的大数据平台,我们都选择了帆软报表。



优势如下:



  • 类EXCEL设计风格:操作界面大大降低了学习成本。
  • 多数据源支持:接入个各个部门的各个类型的数据库非常方便。
  • 优秀的图标展示:HTML5图表技术,支持多种图表类型、样式、风格,参数传递灵活,交互效果丰富。
  • 友好的接口:开发人员使用网页脚本、API接口等进行深入的开发与控制,支持插件开发、安装、使用和管理,以满足其个性化的需求。

可视化展示:


最后分享一些相关资源:


往期案例内容:

数据平台建设

作为余额宝最大的合伙公司,天弘基金的数据平台建设有何讲究?

深化管理、提升IT的数据平台建设方案

IT人看过来,这样子的分析平台,才牛逼!

如何搭建可视化的数据分析平台?

亲,你的决策需要一个平台!

中小企业如何搭建数据平台?

数据化运营

CIO喊话,IT建设要与企业发展战略和业务变革紧密结合

一个500强公司的数据化运营管理实践

企业案例 | 数据化运营的殊死搏斗!

数据可视化应用

实践案例 | 数据可视化报表的应用

数据可视化案例 | 如何打造数据中心APP产品

直击互联网行业

互联网数据分析的底层应用架构

大数据平台在互联网行业的应用

聚圣源祝福表情五行八字起名姓名测试联众论坛燕京啤酒吧苏怎样起名起名字用伊和依哪个好给小孩起名 姓李糖字起可爱的名字情不自禁叶玉卿起泡胶的排名多媒体音频控制器希尔顿酒店价钱立春忌讳和禁忌给马起名延安颂歌曲贾雨岚李凡小说养鸡养鱼开局登基当皇帝杨什么汐起名喜欢唱歌应该起个什么名字石家庄起名预测七画字的字起名免费的起名大全软件下载硬盘安装系统属牛的宝宝起名字大全基督徒女孩起名字吉名100分起名网网络起名免费网好听店名,起名大全电商公司起名字淀粉肠小王子日销售额涨超10倍罗斯否认插足凯特王妃婚姻让美丽中国“从细节出发”清明节放假3天调休1天男孩疑遭霸凌 家长讨说法被踢出群国产伟哥去年销售近13亿网友建议重庆地铁不准乘客携带菜筐雅江山火三名扑火人员牺牲系谣言代拍被何赛飞拿着魔杖追着打月嫂回应掌掴婴儿是在赶虫子山西高速一大巴发生事故 已致13死高中生被打伤下体休学 邯郸通报李梦为奥运任务婉拒WNBA邀请19岁小伙救下5人后溺亡 多方发声王树国3次鞠躬告别西交大师生单亲妈妈陷入热恋 14岁儿子报警315晚会后胖东来又人满为患了倪萍分享减重40斤方法王楚钦登顶三项第一今日春分两大学生合买彩票中奖一人不认账张家界的山上“长”满了韩国人?周杰伦一审败诉网易房客欠租失踪 房东直发愁男子持台球杆殴打2名女店员被抓男子被猫抓伤后确诊“猫抓病”“重生之我在北大当嫡校长”槽头肉企业被曝光前生意红火男孩8年未见母亲被告知被遗忘恒大被罚41.75亿到底怎么缴网友洛杉矶偶遇贾玲杨倩无缘巴黎奥运张立群任西安交通大学校长黑马情侣提车了西双版纳热带植物园回应蜉蝣大爆发妈妈回应孩子在校撞护栏坠楼考生莫言也上北大硕士复试名单了韩国首次吊销离岗医生执照奥巴马现身唐宁街 黑色着装引猜测沈阳一轿车冲入人行道致3死2伤阿根廷将发行1万与2万面值的纸币外国人感慨凌晨的中国很安全男子被流浪猫绊倒 投喂者赔24万手机成瘾是影响睡眠质量重要因素春分“立蛋”成功率更高?胖东来员工每周单休无小长假“开封王婆”爆火:促成四五十对专家建议不必谈骨泥色变浙江一高校内汽车冲撞行人 多人受伤许家印被限制高消费

聚圣源 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化