建站
咨詢
售后
建站咨詢
新聞中心
Spark查詢優(yōu)化：提升關(guān)系型數(shù)據(jù)庫性能
成都創(chuàng)新互聯(lián)公司堅(jiān)持“要么做到，要么別承諾”的工作理念，服務(wù)領(lǐng)域包括：成都網(wǎng)站制作、做網(wǎng)站、企業(yè)官網(wǎng)、英文網(wǎng)站、手機(jī)端網(wǎng)站、網(wǎng)站推廣等服務(wù)，滿足客戶于互聯(lián)網(wǎng)時(shí)代的萬秀網(wǎng)站設(shè)計(jì)、移動(dòng)媒體設(shè)計(jì)的需求，幫助企業(yè)找到有效的互聯(lián)網(wǎng)解決方案。努力成為您成熟可靠的網(wǎng)絡(luò)建設(shè)合作伙伴！
隨著數(shù)據(jù)量的不斷增加，傳統(tǒng)的關(guān)系型數(shù)據(jù)庫在處理海量數(shù)據(jù)時(shí)顯得力不從心。而Spark作為一種高速、通用、可擴(kuò)展、分布式內(nèi)存計(jì)算引擎，已成為處理大數(shù)據(jù)和機(jī)器學(xué)習(xí)任務(wù)的首選工具之一。在現(xiàn)實(shí)應(yīng)用中，人們經(jīng)常需要將關(guān)系型數(shù)據(jù)庫數(shù)據(jù)導(dǎo)入到Spark中，來進(jìn)行各種數(shù)據(jù)的分析和處理。但是，因?yàn)殛P(guān)系型數(shù)據(jù)庫和Spark有著不同的特性，所以在這個(gè)過程中，我們必須做到優(yōu)化數(shù)據(jù)查詢，以提高Spark的性能。
本文將介紹一些重要的Spark查詢優(yōu)化技巧，以及如何在數(shù)據(jù)導(dǎo)入過程中避免常見的問題，以提高關(guān)系型數(shù)據(jù)庫性能。
一、了解Spark查詢執(zhí)行過程
Spark查詢執(zhí)行過程是很重要的，因?yàn)樗兄谖覀冊O(shè)計(jì)更好的查詢。在Spark中，查詢會(huì)被拆分成不同的階段。例如，當(dāng)我們查詢從一個(gè)表中選取一個(gè)特定的列時(shí)，Spark 會(huì)把查詢拆分成兩個(gè)階段。之一步是選擇要保留的列，第二步是將所選列返回。因此，我們可以通過選擇要保留的列來改善查詢的性能。
二、避免全表掃描
在一個(gè)巨大的表中進(jìn)行全表掃描會(huì)導(dǎo)致大量的I/O操作和內(nèi)存消耗，因此我們需要避免全表掃描。我們可以使用多種方法來改進(jìn)查詢，如條件查詢、使用索引、分區(qū)表等。
條件查詢：條件查詢是通過使用WHERE子句來限制要返回的結(jié)果行。例如，SELECT * FROM orders WHERE product_id=1234；
使用索引：使用索引可以幫助我們快速定位需要的記錄，而不必掃描整個(gè)表。對于常見的查詢條件，如日期范圍或產(chǎn)品代碼，我們可以使用索引來加速查詢。
分區(qū)表：分區(qū)表是在表中分割數(shù)據(jù)的一種方式。這在寬表上特別有用，如日志表、事務(wù)表等。分區(qū)表將數(shù)據(jù)按邏輯分成各個(gè)分區(qū)，因此，當(dāng)我們需要處理數(shù)據(jù)時(shí)，只需要處理目標(biāo)分區(qū)，而不必掃描整個(gè)表。此外，Spark還支持動(dòng)態(tài)分區(qū)，它可以讓您在運(yùn)行時(shí)為表添加新分區(qū)，可幫助您將數(shù)據(jù)加載到目標(biāo)系統(tǒng)中，而無需預(yù)定義分區(qū)方案。
三、了解數(shù)據(jù)傾斜
在使用Spark處理大規(guī)模數(shù)據(jù)時(shí)，我們往往會(huì)遇到數(shù)據(jù)傾斜的問題。數(shù)據(jù)傾斜指的是數(shù)據(jù)在加工過程中，某個(gè)特定部分的數(shù)據(jù)擾動(dòng)導(dǎo)致負(fù)載不平衡，從而導(dǎo)致一些任務(wù)遠(yuǎn)遠(yuǎn)耗時(shí)比其他任務(wù)長。數(shù)據(jù)傾斜會(huì)嚴(yán)重影響程序效率。
在Spark中，我們可以通過對數(shù)據(jù)進(jìn)行分區(qū)來緩解數(shù)據(jù)傾斜。我們可以根據(jù)數(shù)據(jù)分布應(yīng)用不同的分區(qū)策略來解決數(shù)據(jù)傾斜問題，如采用key-range分區(qū)策略、采樣分區(qū)策略等。
四、使用廣播變量
廣播變量是用于將一個(gè)較小的只讀變量緩存到每個(gè)工作節(jié)點(diǎn)上的一種機(jī)制。它能夠跨作業(yè)傳輸信息以改善性能。在Spark中使用廣播變量的過程很簡單，只需要使用sparkContext.broadcast()函數(shù)將需要廣播的變量進(jìn)行打包，即可在每個(gè)處理節(jié)點(diǎn)上存儲它，而不必將變量復(fù)制到每個(gè)節(jié)點(diǎn)。
廣播變量的使用場景很多，例如：
1. 在join操作中將小表緩存到內(nèi)存中，以避免運(yùn)行時(shí)占用整個(gè)集群。
2. 在MapReduce任務(wù)中，將常量存儲到廣播變量中，以使不同的MapReduce作業(yè)都可以訪問該變量。
3. 在數(shù)據(jù)建模時(shí)，將詞典、停用詞保存在廣播變量中，以供注釋器使用。
五、使用數(shù)據(jù)框架
在大多數(shù)情況下，使用數(shù)據(jù)框架（如Spark SQL）比使用RDD更高效。Spark SQL是一個(gè)基于Spark的模塊，用于結(jié)構(gòu)化數(shù)據(jù)處理。它提供了一種新的數(shù)據(jù)抽象層，使我們可以快速輕松地查詢數(shù)據(jù)。
Spark SQL 能夠?qū)⒔Y(jié)構(gòu)化數(shù)據(jù)讀入DataFrames或者 Dataset對象中，提供了 SQL 語言的強(qiáng)大功能，如篩選、排序、聚合、Group By 操作等高級操作，同時(shí)對于使用Java或Python開發(fā)者進(jìn)行編程的場景也非常的友好。
六、
查詢優(yōu)化是提高關(guān)系型數(shù)據(jù)庫性能的重要步驟。本文介紹了一些查詢優(yōu)化的技術(shù)，如條件查詢、使用索引、分區(qū)表、廣播變量和使用數(shù)據(jù)框架等內(nèi)容。
在實(shí)際應(yīng)用中，我們可以根據(jù)實(shí)際情況靈活選用這些技巧，以提高Spark和關(guān)系型數(shù)據(jù)庫的性能和效率。同時(shí)，我們還需要不斷深入地學(xué)習(xí)和理解Spark框架的原理，來更好地優(yōu)化和優(yōu)化查詢性能。
相關(guān)問題拓展閱讀：
- 大數(shù)據(jù)三大核心技術(shù)：拿數(shù)據(jù)、算數(shù)據(jù)、賣數(shù)據(jù)！
- 漫談工業(yè)大數(shù)據(jù)9：開源工業(yè)大數(shù)據(jù)軟件簡介（上）
大數(shù)據(jù)三大核心技術(shù)：拿數(shù)據(jù)、算數(shù)據(jù)、賣數(shù)據(jù)！
大數(shù)據(jù)的由來
對于“大數(shù)據(jù)”（Big data）研究機(jī)構(gòu)Gartner給出了這樣的定義?！按髷?shù)據(jù)”是需要新處理模式才能具有更強(qiáng)的決策力、洞察發(fā)現(xiàn)力和流程優(yōu)化能力來適應(yīng)海量、高
增長率
和多樣化的信息資產(chǎn)。
1
麥肯錫
全球研究所給出的定義是：一種規(guī)模大到在獲取、存儲、管理、分析方面大大超出了傳統(tǒng)數(shù)據(jù)庫軟件工具能力范圍的數(shù)據(jù)，具有海量的數(shù)據(jù)規(guī)模、快速的數(shù)據(jù)流轉(zhuǎn)、多樣的數(shù)據(jù)類型和價(jià)值密度低四大特征。
大數(shù)據(jù)技術(shù)
的戰(zhàn)略意義不在于掌握龐大的數(shù)據(jù)信息，而在于對這些含有意義的數(shù)據(jù)進(jìn)行專業(yè)化處理。換而言之，如果把大數(shù)據(jù)比作一種產(chǎn)業(yè)，那么這種產(chǎn)業(yè)實(shí)現(xiàn)盈利的關(guān)鍵，在于提高對數(shù)據(jù)的“加工能力”，通過“加工納跡碰”實(shí)現(xiàn)數(shù)據(jù)的“增值”。
從技術(shù)上看，大數(shù)據(jù)與云計(jì)算的關(guān)系就像一枚硬幣的正反面一樣密不可分。大數(shù)據(jù)必然無法用單臺的計(jì)算機(jī)進(jìn)行處理，必須采用分布式架構(gòu)。它的特色在于對海量數(shù)據(jù)進(jìn)行分布式
數(shù)據(jù)挖掘
。但它必須依托云計(jì)算的分布式處理、分布式數(shù)據(jù)庫和云存儲、虛擬化技術(shù)。
大數(shù)據(jù)需要特殊的技術(shù)，以有效地處理大量的容忍經(jīng)過時(shí)間內(nèi)的數(shù)據(jù)。適用于大數(shù)據(jù)的技術(shù)，包括大規(guī)模并行處理（MPP）數(shù)據(jù)庫、數(shù)據(jù)挖掘、分布式文件系統(tǒng)、分布式數(shù)據(jù)庫、云計(jì)算平臺、互聯(lián)網(wǎng)和可擴(kuò)展的存儲系統(tǒng)。
最小的基本單位是bit，按順序給出所有單位：bit、Byte、KB、MB、GB、TB、PB、EB、ZB、YB、BB、NB、DB。
大數(shù)據(jù)的應(yīng)用領(lǐng)域
大數(shù)據(jù)無處不在，大數(shù)據(jù)應(yīng)用于各個(gè)行業(yè)，包括金融、 汽車 、餐飲、電信、能源、體能和 娛樂 等在內(nèi)的 社會(huì) 各行各業(yè)都已經(jīng)融入了大數(shù)據(jù)的印跡。
制造業(yè)，利用工業(yè)大數(shù)據(jù)提升制造業(yè)水平，包括產(chǎn)品故障診斷與預(yù)測、分析工藝流程、改進(jìn)生產(chǎn)工藝，優(yōu)化生產(chǎn)過程能耗、工業(yè)供應(yīng)鏈分析與優(yōu)化、生產(chǎn)計(jì)劃與排程。
金融行業(yè)，大數(shù)據(jù)在高頻交易、社交情緒分析和信貸風(fēng)險(xiǎn)分析三大金融創(chuàng)新領(lǐng)域發(fā)揮重大作用。
汽車 行業(yè)，利用大數(shù)據(jù)和
物聯(lián)網(wǎng)技術(shù)
的無人駕州老駛 汽車 ，在不遠(yuǎn)的未來將走入我們的日常生活。
互聯(lián)網(wǎng)行業(yè)，借助于大數(shù)據(jù)技術(shù)，可以分析客戶行為，進(jìn)行商品推薦和針對性廣告投放。
電信行業(yè)，利用大數(shù)據(jù)技術(shù)實(shí)現(xiàn)客戶離網(wǎng)分析，及時(shí)掌握客戶離網(wǎng)傾向，出臺客戶挽留措施。
能源行業(yè)，隨著智能電網(wǎng)的發(fā)展，電力公司可以掌握海量的用戶用電信息，利用大數(shù)據(jù)技術(shù)分析用戶用電模式，可以改進(jìn)電網(wǎng)運(yùn)行，合理設(shè)計(jì)電力需求響應(yīng)系統(tǒng)，確保電網(wǎng)運(yùn)行安全。
物流行業(yè)洞談
，利用大數(shù)據(jù)優(yōu)化物流網(wǎng)絡(luò)，提高物流效率，降低物流成本。
城市管理，可以利用大數(shù)據(jù)實(shí)現(xiàn)智能交通、環(huán)保監(jiān)測、城市規(guī)劃和智能安防。
體育 娛樂 ，大數(shù)據(jù)可以幫助我們訓(xùn)練球隊(duì)，決定投拍哪種 題財(cái)?shù)?影視作品，以及預(yù)測比賽結(jié)果。
安全領(lǐng)域，可以利用大數(shù)據(jù)技術(shù)構(gòu)建起強(qiáng)大的
國家安全
保障體系，企業(yè)可以利用大數(shù)據(jù)抵御網(wǎng)絡(luò)攻擊，警察可以借助大數(shù)據(jù)來預(yù)防犯罪。
個(gè)人生活， 大數(shù)據(jù)還可以應(yīng)用于個(gè)人生活，利用與每個(gè)人相關(guān)聯(lián)的“個(gè)人大數(shù)據(jù)”，分析個(gè)人生活行為習(xí)慣，為其提供更加周到的個(gè)性化服務(wù)。
大數(shù)據(jù)的價(jià)值，遠(yuǎn)遠(yuǎn)不止于此，大數(shù)據(jù)對各行各業(yè)的滲透，大大推動(dòng)了 社會(huì) 生產(chǎn)和生活，未來必將產(chǎn)生重大而深遠(yuǎn)的影響。
大數(shù)據(jù)方面核心技術(shù)有哪些？
大數(shù)據(jù)技術(shù)的體系龐大且復(fù)雜，基礎(chǔ)的技術(shù)包含數(shù)據(jù)的采集、數(shù)據(jù)預(yù)處理、
分布式存儲
、NoSQL數(shù)據(jù)庫、
數(shù)據(jù)倉庫
、機(jī)器學(xué)習(xí)、并行計(jì)算、可視化等各種技術(shù)范疇和不同的技術(shù)層面。首先給出一個(gè)通用化的大數(shù)據(jù)處理框架，主要分為下面幾個(gè)方面：數(shù)據(jù)采集與預(yù)處理、數(shù)據(jù)存儲、
數(shù)據(jù)清洗
、數(shù)據(jù)查詢分析和數(shù)據(jù)可視化。
數(shù)據(jù)采集與預(yù)處理
對于各種來源的數(shù)據(jù)，包括移動(dòng)互聯(lián)網(wǎng)數(shù)據(jù)、
社交網(wǎng)絡(luò)
的數(shù)據(jù)等，這些結(jié)構(gòu)化和非結(jié)構(gòu)化的海量數(shù)據(jù)是零散的，也就是所謂的數(shù)據(jù)孤島，此時(shí)的這些數(shù)據(jù)并沒有什么意義，數(shù)據(jù)采集就是將這些數(shù)據(jù)寫入數(shù)據(jù)倉庫中，把零散的數(shù)據(jù)整合在一起，對這些數(shù)據(jù)綜合起來進(jìn)行分析。數(shù)據(jù)采集包括文件日志的采集、數(shù)據(jù)庫日志的采集、
關(guān)系型數(shù)據(jù)庫
的接入和應(yīng)用程序的接入等。在數(shù)據(jù)量比較小的時(shí)候，可以寫個(gè)定時(shí)的腳本將日志寫入存儲系統(tǒng)，但隨著數(shù)據(jù)量的增長，這些方法無法提供數(shù)據(jù)安全保障，并且運(yùn)維困難，需要更強(qiáng)壯的解決方案。
Flume NG
Flume NG作為實(shí)時(shí)日志收集系統(tǒng)，支持在日志系統(tǒng)中定制各類數(shù)據(jù)發(fā)送方，用于收集數(shù)據(jù)，同時(shí)，對數(shù)據(jù)進(jìn)行簡單處理，并寫到各種數(shù)據(jù)接收方(比如文本，HDFS，Hbase等)。Flume NG采用的是三層架構(gòu)：Agent層，Collector層和Store層，每一層均可水平拓展。其中Agent包含Source，Channel和 Sink，source用來消費(fèi)(收集)數(shù)據(jù)源到channel組件中，channel作為中間臨時(shí)存儲，保存所有source的組件信息，sink從channel中讀取數(shù)據(jù)，讀取成功之后會(huì)刪除channel中的信息。
NDC
Logstash
Logstash是開源的服務(wù)器端數(shù)據(jù)處理管道，能夠同時(shí)從多個(gè)來源采集數(shù)據(jù)、轉(zhuǎn)換數(shù)據(jù)，然后將數(shù)據(jù)發(fā)送到您最喜歡的 “存儲庫” 中。一般常用的存儲庫是Elasticsearch。Logstash 支持各種輸入選擇，可以在同一時(shí)間從眾多常用的數(shù)據(jù)來源捕捉事件，能夠以連續(xù)的流式傳輸方式，輕松地從您的日志、指標(biāo)、Web 應(yīng)用、數(shù)據(jù)存儲以及各種 AWS 服務(wù)采集數(shù)據(jù)。
Sqoop
Sqoop，用來將關(guān)系型數(shù)據(jù)庫和Hadoop中的數(shù)據(jù)進(jìn)行相互轉(zhuǎn)移的工具，可以將一個(gè)關(guān)系型數(shù)據(jù)庫(例如Mysql、Oracle)中的數(shù)據(jù)導(dǎo)入到Hadoop(例如HDFS、Hive、Hbase)中，也可以將Hadoop(例如HDFS、Hive、Hbase)中的數(shù)據(jù)導(dǎo)入到關(guān)系型數(shù)據(jù)庫(例如Mysql、Oracle)中。Sqoop 啟用了一個(gè) MapReduce 作業(yè)(極其容錯(cuò)的分布式并行計(jì)算)來執(zhí)行任務(wù)。Sqoop 的另一大優(yōu)勢是其傳輸大量結(jié)構(gòu)化或半結(jié)構(gòu)化數(shù)據(jù)的過程是完全自動(dòng)化的。
流式計(jì)算
流式計(jì)算是行業(yè)研究的一個(gè)熱點(diǎn)，流式計(jì)算對多個(gè)高吞吐量的數(shù)據(jù)源進(jìn)行實(shí)時(shí)的清洗、聚合和分析，可以對存在于
社交網(wǎng)站
、新聞等的數(shù)據(jù)信息流進(jìn)行快速的處理并反饋，目前大數(shù)據(jù)流分析工具有很多，比如開源的strom，spark streaming等。
Strom集群結(jié)構(gòu)是有一個(gè)主節(jié)點(diǎn)(nimbus)和多個(gè)工作節(jié)點(diǎn)(supervisor)組成的
主從結(jié)構(gòu)
，主節(jié)點(diǎn)通過配置靜態(tài)指定或者在運(yùn)行時(shí)動(dòng)態(tài)選舉，nimbus與supervisor都是Storm提供的后臺守護(hù)進(jìn)程，之間的通信是結(jié)合Zookeeper的狀態(tài)變更通知和監(jiān)控通知來處理。nimbus進(jìn)程的主要職責(zé)是管理、協(xié)調(diào)和監(jiān)控集群上運(yùn)行的topology(包括topology的發(fā)布、任務(wù)指派、事件處理時(shí)重新指派任務(wù)等)。supervisor進(jìn)程等待nimbus分配任務(wù)后生成并監(jiān)控worker(jvm進(jìn)程)執(zhí)行任務(wù)。supervisor與worker運(yùn)行在不同的jvm上，如果由supervisor啟動(dòng)的某個(gè)worker因?yàn)殄e(cuò)誤異常退出(或被kill掉)，supervisor會(huì)嘗試重新生成新的worker進(jìn)程。
Zookeeper
Zookeeper是一個(gè)分布式的，開放源碼的分布式應(yīng)用程序協(xié)調(diào)服務(wù)，提供數(shù)據(jù)同步服務(wù)。它的作用主要有配置管理、名字服務(wù)、分布式鎖和集群管理。配置管理指的是在一個(gè)地方修改了配置，那么對這個(gè)地方的配置感興趣的所有的都可以獲得變更，省去了手動(dòng)拷貝配置的繁瑣，還很好的保證了數(shù)據(jù)的可靠和一致性，同時(shí)它可以通過名字來獲取資源或者服務(wù)的地址等信息，可以監(jiān)控集群中機(jī)器的變化，實(shí)現(xiàn)了類似于心跳機(jī)制的功能。
數(shù)據(jù)存儲
Hadoop作為一個(gè)開源的框架，專為離線和大規(guī)模
數(shù)據(jù)分析
而設(shè)計(jì)，HDFS作為其核心的存儲引擎，已被廣泛用于數(shù)據(jù)存儲。
HBase
HBase，是一個(gè)分布式的、面向列的開源數(shù)據(jù)庫，可以認(rèn)為是hdfs的封裝，本質(zhì)是數(shù)據(jù)存儲、NoSQL數(shù)據(jù)庫。HBase是一種Key/Value系統(tǒng)，部署在hdfs上，克服了hdfs在隨機(jī)讀寫這個(gè)方面的缺點(diǎn)，與hadoop一樣，Hbase目標(biāo)主要依靠橫向擴(kuò)展，通過不斷增加廉價(jià)的商用服務(wù)器，來增加計(jì)算和存儲能力。
Phoenix
Phoenix，相當(dāng)于一個(gè)Java
中間件
，幫助開發(fā)工程師能夠像使用JDBC訪問關(guān)系型數(shù)據(jù)庫一樣訪問NoSQL數(shù)據(jù)庫HBase。
Yarn
Yarn是一種Hadoop資源管理器，可為上層應(yīng)用提供統(tǒng)一的資源管理和調(diào)度，它的引入為集群在利用率、資源統(tǒng)一管理和數(shù)據(jù)共享等方面帶來了巨大好處。Yarn由下面的幾大組件構(gòu)成：一個(gè)全局的資源管理器ResourceManager、ResourceManager的每個(gè)節(jié)點(diǎn)代理NodeManager、表示每個(gè)應(yīng)用的Application以及每一個(gè)ApplicationMaster擁有多個(gè)Container在NodeManager上運(yùn)行。
Mesos
Mesos是一款開源的集群管理軟件，支持Hadoop、ElasticSearch、Spark、Storm 和Kafka等應(yīng)用架構(gòu)。
Redis
Redis是一種速度非?？斓姆顷P(guān)系數(shù)據(jù)庫，可以存儲鍵與5種不同類型的值之間的映射，可以將存儲在內(nèi)存的鍵值對數(shù)據(jù)持久化到硬盤中，使用復(fù)制特性來擴(kuò)展性能，還可以使用客戶端分片來擴(kuò)展寫性能。
Atlas
Atlas是一個(gè)位于應(yīng)用程序與MySQL之間的中間件。在后端DB看來，Atlas相當(dāng)于連接它的客戶端，在前端應(yīng)用看來，Atlas相當(dāng)于一個(gè)DB。Atlas作為服務(wù)端與應(yīng)用程序通訊，它實(shí)現(xiàn)了MySQL的客戶端和服務(wù)端協(xié)議，同時(shí)作為客戶端與MySQL通訊。它對應(yīng)用程序屏蔽了DB的細(xì)節(jié)，同時(shí)為了降低MySQL負(fù)擔(dān)，它還維護(hù)了連接池。Atlas啟動(dòng)后會(huì)創(chuàng)建多個(gè)線程，其中一個(gè)為主線程，其余為工作線程。主線程負(fù)責(zé)監(jiān)聽所有的客戶端連接請求，工作線程只監(jiān)聽主線程的命令請求。
Kudu
Kudu是圍繞Hadoop生態(tài)圈建立的存儲引擎，Kudu擁有和Hadoop生態(tài)圈共同的設(shè)計(jì)理念，它運(yùn)行在普通的服務(wù)器上、可分布式規(guī)?；渴?、并且滿足工業(yè)界的高可用要求。其設(shè)計(jì)理念為fast ytics on fast data。作為一個(gè)開源的存儲引擎，可以同時(shí)提供低延遲的隨機(jī)讀寫和高效的數(shù)據(jù)分析能力。Kudu不但提供了行級的插入、更新、刪除API，同時(shí)也提供了接近Parquet性能的批量掃描操作。使用同一份存儲，既可以進(jìn)行隨機(jī)讀寫，也可以滿足數(shù)據(jù)分析的要求。Kudu的應(yīng)用場景很廣泛，比如可以進(jìn)行實(shí)時(shí)的數(shù)據(jù)分析，用于數(shù)據(jù)可能會(huì)存在變化的時(shí)序數(shù)據(jù)應(yīng)用等。
在數(shù)據(jù)存儲過程中，涉及到的數(shù)據(jù)表都是成千上百列，包含各種復(fù)雜的Query，推薦使用列式存儲方法，比如parquent,ORC等對數(shù)據(jù)進(jìn)行壓縮。Parquet 可以支持靈活的壓縮選項(xiàng)，顯著減少磁盤上的存儲。
數(shù)據(jù)清洗
MapReduce作為Hadoop的查詢引擎，用于大規(guī)模數(shù)據(jù)集的并行計(jì)算，”Map(映射)”和”Reduce(歸約)”，是它的主要思想。它極大的方便了編程人員在不會(huì)分布式并行編程的情況下，將自己的程序運(yùn)行在分布式系統(tǒng)中。
隨著業(yè)務(wù)數(shù)據(jù)量的增多，需要進(jìn)行訓(xùn)練和清洗的數(shù)據(jù)會(huì)變得越來越復(fù)雜，這個(gè)時(shí)候就需要任務(wù)調(diào)度系統(tǒng)，比如oozie或者azkaban，對關(guān)鍵任務(wù)進(jìn)行調(diào)度和監(jiān)控。
Oozie
Oozie是用于Hadoop平臺的一種工作流調(diào)度引擎，提供了RESTful API接口來接受用戶的提交請求(提交工作流作業(yè))，當(dāng)提交了workflow后，由工作流引擎負(fù)責(zé)workflow的執(zhí)行以及狀態(tài)的轉(zhuǎn)換。用戶在HDFS上部署好作業(yè)(MR作業(yè))，然后向Oozie提交Workflow，Oozie以異步方式將作業(yè)(MR作業(yè))提交給Hadoop。這也是為什么當(dāng)調(diào)用Oozie 的RESTful接口提交作業(yè)之后能立即返回一個(gè)JobId的原因，用戶程序不必等待作業(yè)執(zhí)行完成(因?yàn)橛行┐笞鳂I(yè)可能會(huì)執(zhí)行很久(幾個(gè)小時(shí)甚至幾天))。Oozie在后臺以異步方式，再將workflow對應(yīng)的Action提交給hadoop執(zhí)行。
Azkaban
Azkaban也是一種工作流的控制引擎，可以用來解決有多個(gè)hadoop或者spark等離線計(jì)算任務(wù)之間的依賴關(guān)系問題。azkaban主要是由三部分構(gòu)成：Relational Database，Azkaban Web Server和Azkaban Executor Server。azkaban將大多數(shù)的狀態(tài)信息都保存在MySQL中，Azkaban Web Server提供了Web UI，是azkaban主要的管理者，包括project的管理、認(rèn)證、調(diào)度以及對工作流執(zhí)行過程中的監(jiān)控等;Azkaban Executor Server用來調(diào)度工作流和任務(wù)，記錄工作流或者任務(wù)的日志。
流計(jì)算任務(wù)的處理平臺Sloth，是網(wǎng)易首個(gè)自研流計(jì)算平臺，旨在解決公司內(nèi)各產(chǎn)品日益增長的流計(jì)算需求。作為一個(gè)計(jì)算服務(wù)平臺，其特點(diǎn)是易用、實(shí)時(shí)、可靠，為用戶節(jié)省技術(shù)方面(開發(fā)、運(yùn)維)的投入，幫助用戶專注于解決產(chǎn)品本身的流計(jì)算需求
數(shù)據(jù)查詢分析
Hive
Hive的核心工作就是把SQL語句翻譯成MR程序，可以將結(jié)構(gòu)化的數(shù)據(jù)映射為一張數(shù)據(jù)庫表，并提供 HQL(Hive SQL)查詢功能。Hive本身不存儲和計(jì)算數(shù)據(jù)，它完全依賴于HDFS和MapReduce?？梢詫ive理解為一個(gè)客戶端工具，將SQL操作轉(zhuǎn)換為相應(yīng)的MapReduce jobs，然后在hadoop上面運(yùn)行。Hive支持標(biāo)準(zhǔn)的SQL語法，免去了用戶編寫MapReduce程序的過程，它的出現(xiàn)可以讓那些精通SQL技能、但是不熟悉MapReduce 、編程能力較弱與不擅長Java語言的用戶能夠在HDFS大規(guī)模數(shù)據(jù)集上很方便地利用SQL 語言查詢、匯總、分析數(shù)據(jù)。
Hive是為大數(shù)據(jù)批量處理而生的，Hive的出現(xiàn)解決了傳統(tǒng)的關(guān)系型數(shù)據(jù)庫(MySql、Oracle)在大數(shù)據(jù)處理上的瓶頸 。Hive 將執(zhí)行計(jì)劃分成map->shuffle->reduce->map->shuffle->reduce…的模型。如果一個(gè)Query會(huì)被編譯成多輪MapReduce，則會(huì)有更多的寫中間結(jié)果。由于MapReduce執(zhí)行框架本身的特點(diǎn)，過多的中間過程會(huì)增加整個(gè)Query的執(zhí)行時(shí)間。在Hive的運(yùn)行過程中，用戶只需要?jiǎng)?chuàng)建表，導(dǎo)入數(shù)據(jù)，編寫SQL分析語句即可。剩下的過程由Hive框架自動(dòng)的完成。
Impala
Impala是對Hive的一個(gè)補(bǔ)充，可以實(shí)現(xiàn)高效的SQL查詢。使用Impala來實(shí)現(xiàn)SQL on Hadoop，用來進(jìn)行大數(shù)據(jù)實(shí)時(shí)查詢分析。通過熟悉的傳統(tǒng)關(guān)系型數(shù)據(jù)庫的SQL風(fēng)格來操作大數(shù)據(jù)，同時(shí)數(shù)據(jù)也是可以存儲到HDFS和HBase中的。Impala沒有再使用緩慢的Hive+MapReduce批處理，而是通過使用與商用并行關(guān)系數(shù)據(jù)庫中類似的分布式查詢引擎(由Query Planner、Query Coordinator和Query Exec Engine三部分組成)，可以直接從HDFS或HBase中用SELECT、JOIN和統(tǒng)計(jì)函數(shù)查詢數(shù)據(jù)，從而大大降低了延遲。Impala將整個(gè)查詢分成一執(zhí)行計(jì)劃樹，而不是一連串的MapReduce任務(wù)，相比Hive沒了MapReduce啟動(dòng)時(shí)間。
Hive 適合于長時(shí)間的批處理查詢分析，而Impala適合于實(shí)時(shí)交互式SQL查詢，Impala給數(shù)據(jù)人員提供了快速實(shí)驗(yàn)，驗(yàn)證想法的大數(shù)據(jù)分析工具，可以先使用Hive進(jìn)行數(shù)據(jù)轉(zhuǎn)換處理，之后使用Impala在Hive處理好后的數(shù)據(jù)集上進(jìn)行快速的數(shù)據(jù)分析。總的來說：Impala把執(zhí)行計(jì)劃表現(xiàn)為一棵完整的執(zhí)行計(jì)劃樹，可以更自然地分發(fā)執(zhí)行計(jì)劃到各個(gè)Impalad執(zhí)行查詢，而不用像Hive那樣把它組合成管道型的map->reduce模式，以此保證Impala有更好的并發(fā)性和避免不必要的中間sort與shuffle。但是Impala不支持UDF，能處理的問題有一定的限制。
Spark
Spark擁有Hadoop MapReduce所具有的特點(diǎn)，它將Job中間輸出結(jié)果保存在內(nèi)存中，從而不需要讀取HDFS。Spark 啟用了內(nèi)存分布數(shù)據(jù)集，除了能夠提供交互式查詢外，它還可以優(yōu)化迭代工作負(fù)載。Spark 是在 Scala 語言中實(shí)現(xiàn)的，它將 Scala 用作其應(yīng)用程序框架。與 Hadoop 不同，Spark 和 Scala 能夠緊密集成，其中的 Scala 可以像操作本地對象一樣輕松地操作分布式數(shù)據(jù)集。
Nutch
Nutch 是一個(gè)開源Java 實(shí)現(xiàn)的搜索引擎。它提供了我們運(yùn)行自己的搜索引擎所需的全部工具，包括全文搜索和Web爬蟲。
Solr
Solr用Java編寫、運(yùn)行在Servlet容器(如Apache Tomcat或Jetty)的一個(gè)獨(dú)立的企業(yè)級搜索應(yīng)用的全文搜索服務(wù)器。它對外提供類似于Web-service的API接口，用戶可以通過http請求，向搜索引擎服務(wù)器提交一定格式的XML文件，生成索引;也可以通過Http Get操作提出查找請求，并得到XML格式的返回結(jié)果。
Elasticsearch
Elasticsearch是一個(gè)開源的全文搜索引擎，基于Lucene的搜索服務(wù)器，可以快速的儲存、搜索和分析海量的數(shù)據(jù)。設(shè)計(jì)用于云計(jì)算中，能夠達(dá)到實(shí)時(shí)搜索，穩(wěn)定，可靠，快速，安裝使用方便。
還涉及到一些機(jī)器學(xué)習(xí)語言，比如，Mahout主要目標(biāo)是創(chuàng)建一些可伸縮的機(jī)器學(xué)習(xí)算法，供開發(fā)人員在Apache的許可下免費(fèi)使用;深度學(xué)習(xí)框架Caffe以及使用數(shù)據(jù)流圖進(jìn)行數(shù)值計(jì)算的開源軟件庫TensorFlow等，常用的機(jī)器學(xué)習(xí)算法比如，貝葉斯、邏輯回歸、決策樹、神經(jīng)網(wǎng)絡(luò)、協(xié)同過濾等。
數(shù)據(jù)可視化
對接一些BI平臺，將分析得到的數(shù)據(jù)進(jìn)行可視化，用于指導(dǎo)決策服務(wù)。主流的BI平臺比如，國外的敏捷BI Tableau、Qlikview、PowrerBI等，國內(nèi)的SmallBI和新興的網(wǎng)易有數(shù)等。
在上面的每一個(gè)階段，保障數(shù)據(jù)的安全是不可忽視的問題。
基于網(wǎng)絡(luò)身份認(rèn)證的協(xié)議Kerberos，用來在非安全網(wǎng)絡(luò)中，對個(gè)人通信以安全的手段進(jìn)行身份認(rèn)證，它允許某實(shí)體在非安全網(wǎng)絡(luò)環(huán)境下通信，向另一個(gè)實(shí)體以一種安全的方式證明自己的身份。
控制權(quán)限的ranger是一個(gè)Hadoop集群權(quán)限框架，提供操作、監(jiān)控、管理復(fù)雜的數(shù)據(jù)權(quán)限，它提供一個(gè)集中的管理機(jī)制，管理基于yarn的Hadoop生態(tài)圈的所有數(shù)據(jù)權(quán)限?？梢詫adoop生態(tài)的組件如Hive，Hbase進(jìn)行細(xì)粒度的數(shù)據(jù)訪問控制。通過操作Ranger控制臺，管理員可以輕松的通過配置策略來控制用戶訪問HDFS文件夾、HDFS文件、數(shù)據(jù)庫、表、字段權(quán)限。這些策略可以為不同的用戶和組來設(shè)置，同時(shí)權(quán)限可與hadoop無縫對接。
簡單說有三大核心技術(shù)：拿數(shù)據(jù)，算數(shù)據(jù)，賣數(shù)據(jù)。
漫談工業(yè)大數(shù)據(jù)9：開源工業(yè)大數(shù)據(jù)軟件簡介（上）
今天真是一個(gè)美好的時(shí)代，有無數(shù)的開源系統(tǒng)可以為我們提供服務(wù)，現(xiàn)在有許多開發(fā)軟件可以用到工業(yè)大數(shù)據(jù)中，當(dāng)然很多系統(tǒng)還不成熟，應(yīng)用到工業(yè)中還需要小心，并且需要開發(fā)人員對其進(jìn)行一定的優(yōu)化和調(diào)整。下面就簡單介紹一些開源的大數(shù)據(jù)工具軟件，看看有哪些能夠應(yīng)用到工業(yè)大數(shù)據(jù)領(lǐng)域。
下面這張圖是我根據(jù)網(wǎng)上流傳的一張開源大數(shù)據(jù)軟件分類圖整理的：
我們可以把開源大數(shù)據(jù)軟件分成幾類，有一些可以逐步應(yīng)用到工業(yè)大數(shù)據(jù)領(lǐng)域，下面就一一介紹一下這些軟件。（以下系統(tǒng)介紹大都來源于網(wǎng)絡(luò)）
1、數(shù)據(jù)存儲類
（1）關(guān)系數(shù)據(jù)庫MySQL
這個(gè)就不用太多介紹了吧，關(guān)系型數(shù)據(jù)庫領(lǐng)域應(yīng)用最廣泛的開源軟件，目前屬于 Oracle 旗下產(chǎn)品。
（2）文件數(shù)據(jù)庫Hadoop
Hadoop是大數(shù)據(jù)時(shí)代的明星產(chǎn)品，它更大的成就在于實(shí)現(xiàn)了一個(gè)分布式文件系統(tǒng)（Hadoop Distributed FileSystem），簡稱HDFS。HDFS有高容錯(cuò)性的特點(diǎn)，并且設(shè)計(jì)用來部署在低廉的硬件上，而且它提供高吞吐量來訪問應(yīng)用程序的數(shù)據(jù)，適合那些有著超大數(shù)據(jù)集的應(yīng)用程序。
Hadoop可以在工業(yè)大數(shù)據(jù)應(yīng)用中用來作為底層的基礎(chǔ)數(shù)據(jù)庫，由于它采用了分布式部署的方式，如果是私有云部署，適用于大型企業(yè)集團(tuán)。如果是公有云的話，可以用來存儲文檔、視頻、圖像等資料。
（3）列數(shù)據(jù)庫Hbase
HBase是一個(gè)分布式的、面向列的開源數(shù)據(jù)庫，HBase是Apache的Hadoop項(xiàng)目的子項(xiàng)目。HBase不同于一般的關(guān)系數(shù)據(jù)庫，它是一個(gè)適合于非結(jié)構(gòu)化數(shù)據(jù)存儲的數(shù)據(jù)庫。另一個(gè)不同的是HBase基于列的而不是基于行的模式。
基于Hbase開發(fā)的OpenTSDB，可以存儲所有的時(shí)序（無須采樣）來構(gòu)建一個(gè)分布式、可伸縮的時(shí)間序列數(shù)據(jù)庫。它支持秒級數(shù)據(jù)采集所有metrics，支持永久存儲，可以做容量規(guī)劃，并很容易的接入到現(xiàn)有的報(bào)警系統(tǒng)里。
這樣的話，它就可以替代在工業(yè)領(lǐng)域用得最多的實(shí)時(shí)數(shù)據(jù)庫。
（4）文檔數(shù)據(jù)庫MongoDB
MongoDB是一個(gè)介于關(guān)系數(shù)據(jù)庫和非關(guān)系數(shù)據(jù)庫之間的產(chǎn)品，是非關(guān)系數(shù)據(jù)庫當(dāng)中功能最豐富，最像關(guān)系數(shù)據(jù)庫的。他支持的數(shù)據(jù)結(jié)構(gòu)非常松散，是類似json的bson格式，因此可以存儲比較復(fù)雜的數(shù)據(jù)類型。Mongo更大的特點(diǎn)是他支持的查詢語言非常強(qiáng)大，其語法有點(diǎn)類似于面向?qū)ο蟮牟樵冋Z言，幾乎可以實(shí)現(xiàn)類似關(guān)系數(shù)據(jù)庫單表查詢的絕大部分功能，而且還支持對信悶鏈數(shù)據(jù)建立索引。
MongoDB適合于存儲工業(yè)大數(shù)據(jù)中的各類文檔，包括各類圖紙、文檔等。
（5）圖數(shù)據(jù)庫Neo4j/OrientDB
圖數(shù)據(jù)庫不是存放圖片的，是基于圖的形式構(gòu)建的數(shù)據(jù)系統(tǒng)。
Neo4j是一個(gè)高性能的,NOSQL圖形數(shù)據(jù)庫，它將結(jié)構(gòu)化數(shù)據(jù)存儲在網(wǎng)絡(luò)上而不是表中。它是一個(gè)嵌入式的、基于磁盤的、具備完全的事務(wù)特性的Java持久化引擎，但是它將結(jié)構(gòu)化數(shù)據(jù)存儲在網(wǎng)絡(luò)(從數(shù)學(xué)角度叫做圖)上而不是表中。Neo4j也可以被看作是一個(gè)高性能的圖引擎，該引擎具有成熟數(shù)據(jù)庫的所有特性。程序員工作在一個(gè)面向?qū)ο蟮?、靈活的網(wǎng)絡(luò)結(jié)構(gòu)下而不是嚴(yán)格、靜態(tài)的表中——但是他們可以享受到具備完全的事務(wù)特性、
企業(yè)級
的數(shù)據(jù)庫的所有好處。
OrientDB是兼具文檔數(shù)據(jù)庫的靈活性和圖形數(shù)據(jù)庫管理 鏈接 能力的可深罩嫌層次擴(kuò)展的文檔-圖形數(shù)據(jù)庫管理系統(tǒng)。可選無模式、全模式或混合模式下。支持許多高級特性，諸如ACID事務(wù)、快速索引，原生和SQL查詢功能。可以O(shè)N格式導(dǎo)入、導(dǎo)出文檔。若不執(zhí)行昂貴的JOIN操作的話，如同關(guān)系數(shù)據(jù)庫可在幾毫秒內(nèi)可檢索數(shù)以百記的鏈接文檔圖。
這些數(shù)據(jù)庫都可以用來存儲非結(jié)構(gòu)化數(shù)據(jù)。
2、數(shù)據(jù)分析類
（1）批處理MapReduce/Spark
MapReduce是一種編程模型，用于大規(guī)模數(shù)據(jù)集（大于1TB）的并行運(yùn)算。概念”Map（映射）”和”Reduce（歸約）”，是它們的主要思想，都滑孫是從函數(shù)式編程語言里借來的，還有從矢量編程語言里借來的特性。它極大地方便了編程人員在不會(huì)分布式并行編程的情況下，將自己的程序運(yùn)行在分布式系統(tǒng)上。 當(dāng)前的軟件實(shí)現(xiàn)是指定一個(gè)Map（映射）函數(shù)，用來把一組鍵值對映射成一組新的鍵值對，指定并發(fā)的Reduce（歸約）函數(shù)，用來保證所有映射的鍵值對中的每一個(gè)共享相同的鍵組。
Apache Spark 是專為大規(guī)模數(shù)據(jù)處理而設(shè)計(jì)的快速通用的計(jì)算引擎。Spark 是一種與 Hadoop 相似的開源集群計(jì)算環(huán)境，但是兩者之間還存在一些不同之處，這些有用的不同之處使 Spark 在某些工作負(fù)載方面表現(xiàn)得更加優(yōu)越，換句話說，Spark 啟用了內(nèi)存分布數(shù)據(jù)集，除了能夠提供交互式查詢外，它還可以優(yōu)化迭代工作負(fù)載。盡管創(chuàng)建 Spark 是為了支持分布式數(shù)據(jù)集上的迭代作業(yè)，但是實(shí)際上它是對 Hadoop 的補(bǔ)充，可以在 Hadoop 文件系統(tǒng)中并行運(yùn)行。
這些大數(shù)據(jù)的明星產(chǎn)品可以用來做工業(yè)大數(shù)據(jù)的處理。
（2）流處理Storm
Storm是一個(gè)開源的分布式實(shí)時(shí)計(jì)算系統(tǒng)，可以簡單、可靠的處理大量的數(shù)據(jù)流。Storm有很多使用場景：如實(shí)時(shí)分析，在線機(jī)器學(xué)習(xí)，持續(xù)計(jì)算，分布式RPC，ETL等等。Storm支持水平擴(kuò)展，具有高容錯(cuò)性，保證每個(gè)消息都會(huì)得到處理，而且處理速度很快（在一個(gè)小集群中，每個(gè)結(jié)點(diǎn)每秒可以處理數(shù)以百萬計(jì)的消息）。Storm的部署和運(yùn)維都很便捷，而且更為重要的是可以使用任意編程語言來開發(fā)應(yīng)用。
（3）圖處理Giraph
Giraph是什么？Giraph是Apache基金會(huì)開源項(xiàng)目之一，被定義為迭代式圖處理系統(tǒng)。他架構(gòu)在Hadoop之上，提供了圖處理接口，專門處理大數(shù)據(jù)的圖問題。
Giraph的存在很有必要，現(xiàn)在的大數(shù)據(jù)的圖問題又很多，例如表達(dá)人與人之間的關(guān)系的有社交網(wǎng)絡(luò)，搜索引擎需要經(jīng)常計(jì)算網(wǎng)頁與網(wǎng)頁之間的關(guān)系，而map-reduce接口不太適合實(shí)現(xiàn)圖算法。
Giraph主要用于分析用戶或者內(nèi)容之間的聯(lián)系或重要性。
（4）并行計(jì)算MPI/OpenCL
OpenCL（全稱Open Computing Language，開放運(yùn)算語言）是之一個(gè)面向
異構(gòu)系統(tǒng)
通用目的并行編程的開放式、免費(fèi)標(biāo)準(zhǔn)，也是一個(gè)統(tǒng)一的編程環(huán)境，便于軟件開發(fā)人員為高性能計(jì)算
服務(wù)器
、桌面計(jì)算系統(tǒng)、手持設(shè)備編寫高效輕便的代碼，而且廣泛適用于多核心處理器(CPU)、圖形處理器(GPU)、Cell類型架構(gòu)以及數(shù)字信號處理器(DSP)等其他并行處理器，在 游戲 、 娛樂 、科研、醫(yī)療等各種領(lǐng)域都有廣闊的發(fā)展前景。
（5）分析框架Hive
Hive是基于Hadoop的一個(gè)數(shù)據(jù)倉庫工具，可以將結(jié)構(gòu)化的數(shù)據(jù)文件映射為一張數(shù)據(jù)庫表，并提供簡單的sql查詢功能，可以將sql語句轉(zhuǎn)換為MapReduce任務(wù)進(jìn)行運(yùn)行。 其優(yōu)點(diǎn)是學(xué)習(xí)成本低，可以通過類SQL語句快速實(shí)現(xiàn)簡單的MapReduce統(tǒng)計(jì)，不必開發(fā)專門的MapReduce應(yīng)用，十分適合數(shù)據(jù)倉庫的統(tǒng)計(jì)分析。
（6）分析框架Pig
Apache Pig 是apache平臺下的一個(gè)免費(fèi)開源項(xiàng)目，Pig為大型數(shù)據(jù)集的處理提供了更高層次的抽象，很多時(shí)候數(shù)據(jù)的處理需要多個(gè)MapReduce過程才能實(shí)現(xiàn)，使得數(shù)據(jù)處理過程與該模式匹配可能很困難。有了Pig就能夠使用更豐富的數(shù)據(jù)結(jié)構(gòu)。
Pig LatinPig Latin 是一個(gè)相對簡單的語言，一條語句 就是一個(gè)操作，與數(shù)據(jù)庫的表類似，可以在關(guān)系數(shù)據(jù)庫中找到它（其中，元組代表行，并且每個(gè)元組都由字段組成）。
spark查詢關(guān)系型數(shù)據(jù)庫優(yōu)化的介紹就聊到這里吧，感謝你花時(shí)間閱讀本站內(nèi)容，更多關(guān)于spark查詢關(guān)系型數(shù)據(jù)庫優(yōu)化,Spark 查詢優(yōu)化：提升關(guān)系型數(shù)據(jù)庫性能,大數(shù)據(jù)三大核心技術(shù)：拿數(shù)據(jù)、算數(shù)據(jù)、賣數(shù)據(jù)！,漫談工業(yè)大數(shù)據(jù)9：開源工業(yè)大數(shù)據(jù)軟件簡介（上）的信息別忘了在本站進(jìn)行查找喔。
創(chuàng)新互聯(lián)成都網(wǎng)站建設(shè)公司提供專業(yè)的建站服務(wù)，為您量身定制，歡迎來電（028-86922220）為您打造專屬于企業(yè)本身的網(wǎng)絡(luò)品牌形象。
成都創(chuàng)新互聯(lián)品牌官網(wǎng)提供專業(yè)的網(wǎng)站建設(shè)、設(shè)計(jì)、制作等服務(wù)，是一家以網(wǎng)站建設(shè)為主要業(yè)務(wù)的公司，在網(wǎng)站建設(shè)、設(shè)計(jì)和制作領(lǐng)域具有豐富的經(jīng)驗(yàn)。
標(biāo)題名稱：Spark查詢優(yōu)化：提升關(guān)系型數(shù)據(jù)庫性能(spark查詢關(guān)系型數(shù)據(jù)庫優(yōu)化)
分享路徑：http://m.5511xx.com/article/dpspjcs.html
