行業 

運營商

支持的業務應用 
·  網絡管理和優化，包括基礎設施建設優化和網絡運營管理和優化；

·  市場與精準營銷，包括客戶畫像、關系鏈研究、精準營銷、實時營銷和個性化推薦；

·  客戶關系管理，包括客服中心優化和客戶生命周期管理。

·  企業運營管理，包括業務運營監控和經營分析。

·  數據商業化指數據對外商業化。

影響 
·  消除數據訪問瓶頸和發現用戶使用習慣，開展更有針對性的營銷。
·  Hbase管理賬單數據，海量用戶隨機查和響應得到保證。

使用的技術 
·  Cloudera商業版
·  使用的組件：cloudera manager 、hbase、 kudu、yarn、hive、hdfs、sentry、kerberos、spark等

大數據規模 
400+生產性CDH

傳統數據倉庫無法有效存儲日益增長的業務數據
隨著運營商業務數據量的增加，同時伴隨應用復雜導致的數據量的進一步增加，海量的數據增加了運營商業務系統數據存儲和處理壓力；而數據倉庫無法線性擴容，導致運營商信息系統出現管理難度加大、成本高、擴容壓力大、效率下降等問題。運營商的用戶上網記錄數據量巨大，之前采用的方案是在網關上用戶流量必經地方采集，分析流量數據，然后生成上網記錄話單，話單量非常大。

傳統數據倉庫無法有效處理新型的業務數據
運營商對于電子渠道越來越重視，現在很多的業務直接在網站就可以辦理， 用戶可以定制一些電信業務，或者進行查詢。所有用戶在網站上的這些行為，其實也是一定程度上的運行測試行為。運營商以前做的分析，主要都是關于客戶交費是否及時、信用度是否較好，但并沒有把網站上的用戶關注度或行為特點記錄下來。如果將這部分數據跟原有的數據庫進行整合分析，就能將用戶個人的購買行為輪廓真正地描繪出來。，其數據都是文本、圖片或視頻等非結構化數據，不同于傳統通信業務分析特點，需要對內容等非結構化、大容量信息進行有效分析，傳統的架構處理難以應付。現在通過一些技術手段逐漸可以實現和逐漸完善。

分散建設的系統和標準化程度較低的數據急需大數據平臺統一管理
運營商當前很多業務系統建設分散，難以實現資源和應用的共享。經營分析、信令監測、綜合網絡分析、不良信息監測、上網日志留存等大數據系統分專業建設，其中部分系統分省建設，造成資源重復建設、應用重復開發、專家資源無法共享。另外，數據的分散存儲、標準化缺失是運營商面臨的一個重大問題，各大數據系統數據模型不統一，跨系統綜合分析需求不斷增加。難以滿足業務發展的需要。高可擴展的、成本低的新的大數據架構成為重要方向。 

融合架構下的集中化商業智能平臺需要大數據提供數據和營銷支持
運營商實施數據管理和分析的一個重要平臺是商業智能平臺，隨著數據量的激增以及客戶營銷定位要求提升，具備集中化的、強大擴展性和高可用性的商業智能系統平臺構建成為運營商基于大數據應用的關鍵一環。比如，運營商一方面要求商業智能平臺支持海量結構化及非結構化數據分析挖掘，此外，結合用戶上網日志及互聯網網頁內容，為精準行銷提供用戶行為偏好分析；為互聯網業務發展提供大趨勢及業務競品分析能力。由于集中化建設，集中化 BI 系統將面臨著數據規模大、數據處理復雜、混合負載多樣等多種挑戰，傳統的單一數據倉庫技術難以滿足，需要引入大數據技術。 

解決方案

采用cloudera多租戶企業大數據平臺，對內業務提升、運營優化以消費者為中心，開展用戶行為模式的分析與數據挖掘，支撐各類數據應用，包括基礎設施建設和網絡運營管理優化，挖掘新業務并實現精準營銷，客戶服務優化、企業運營決策支持等。

對外提供數據服務運營商整合數據，通過數據挖掘脫敏生成結果數據集，提供給企業客戶，幫助企業了解用戶，提高競爭力，包括精準廣告、數據報告、精準營銷、能力開放和能力租用等。

整體部署架構：

·  使用mapreduce和spark來進行數據的轉換和處理；
·  使用hbase來管理海量數據;
·  使用hive impala kudu等對數據進行分析處理; 
·  使用flink進行流式處理。

                        03

基礎運維
包括平臺監控、集群巡檢、數據備份遷移：hbase數據遷移，hive數據遷移。

疑難問題解決 
·  hive canary指標高，hive metastore連接緩慢,元數據同步異常，造成任務的失敗，業務層面無法完成對數據的分析，影響數據的發布如月末計費。
·  sentry授權無法同步為hdfs acl權限，業務層面每次對表數據進行處理時需要重復授權，降低處理的時效性。
·  hbase 長時間rit情況，業務層面hbase表無法訪問，話單表單，實時展示的數據延遲。
·  ha情況下NAMENODE備節點無法checkpoint合并元數據，業務層面如果namenode的宕機可能導致集群不可用，各類計算都不能正常進行。
·  集群使用cm管理節點管理集群，運維人員手動通 過cm頁面指標或者后臺指標對集群進行巡檢重復工作，工作效率低
·  集群使用多租戶的方式，cm沒有多租戶的統一管理界面，配置多租戶流程較為復雜重復事情耗時長。

高級調優

·  基準性能指標提取統計：hdfs jmx指標hbase指標，hive線程網絡流量等進行分析，深度優化，提高集群的性能。
·  平臺升級/安全加固：平臺從cdh5.9升級到cdh5.14方案確認及實施；平臺各關鍵組件web界面安全加固方案設計；
namenode元數據遷移方案；數據傾斜情況整改方案。 
·  集群擴容：集群橫向擴容降低對業務的影響方案設計。
·  集群性能調優：hbase表數據，表分布，表數量，進行整改，降低長時間rit發生率。

·  關鍵數據匯總及時性提升15% ；
·  集群因惡意攻擊造成重大事故為零；
·  集群及組件健康度顯著提高； 
·  因操作失誤造成的生產事故為零； 
·  集群穩定性顯著提高。

碧茂科技作為專業大數據解決方案服務商，致力于國家數字化轉型戰略。在中科院上海計算技術研究所的引領下，引進國外先進技術和行業解決方案。與Cloudera、華為、星環等廠商密切合作。為客戶提供從系統架構、數據治理到人才培養，全生命周期的技術支持，構建更穩定、更高效、更安全的企業級大數據平臺。

                                                                                                                   轉載自公眾號：碧茂科技2020年12月17日https://mp.weixin.qq.com/s/SxIKjgyMPeiAleCc6khNsA