新聞中心
本節(jié)向大家介紹一下Hadoop本地安裝是如何實現的,相信通過本文的介紹大家能夠很快掌握Hadoop本地安裝的方法,讓我們一起來看一下如何進行Hadoop本地安裝。為了便于大家理解,在沒有介紹之前先看一下Hadoop的概念。

公司主營業(yè)務:成都網站建設、網站制作、移動網站開發(fā)等業(yè)務。幫助企業(yè)客戶真正實現互聯網宣傳,提高企業(yè)的競爭能力。創(chuàng)新互聯建站是一支青春激揚、勤奮敬業(yè)、活力青春激揚、勤奮敬業(yè)、活力澎湃、和諧高效的團隊。公司秉承以“開放、自由、嚴謹、自律”為核心的企業(yè)文化,感謝他們對我們的高要求,感謝他們從不同領域給我們帶來的挑戰(zhàn),讓我們激情的團隊有機會用頭腦與智慧不斷的給客戶帶來驚喜。創(chuàng)新互聯建站推出龍亭免費做網站回饋大家。
Hadoop本地模式安裝
Hadoop概念
Hadoop是一個分布式系統(tǒng)基礎架構,由Apache基金會開發(fā)。用戶可以在不了解分布式底層細節(jié)的情況下,開發(fā)分布式程序。充分利用集群的威力高速運算和存儲。簡單地說來,Hadoop是一個可以更容易開發(fā)和運行處理大規(guī)模數據的軟件平臺?! ?br /> Hadoop實現了一個分布式文件系統(tǒng)(HadoopDistributedFileSystem),簡稱HDFS。HDFS有著高容錯性(fault-tolerent)的特點,并且設計用來部署在低廉的(low-cost)硬件上。而且它提供高傳輸率(highthroughput)來訪問應用程序的數據,適合那些有著超大數據集(largedataset)的應用程序。HDFS放寬了(relax)POSIX的要求(requirements)這樣可以流的形式訪問(streamingaccess)文件系統(tǒng)中的數據。當前最新版本是hadoop0.20.1。下面就hadoop0.20.1為藍本,介紹在UbuntuLinux9.10下hadoop本地安裝的方法。
支持的平臺:
Linux,可作為開發(fā)和產品部署的平臺;
Windows,可作為開發(fā)平臺。
事先需要的軟件:
1.JavaTM1.6.x,必須安裝,建議選擇Sun公司發(fā)行的Java版本;
2.ssh必須安裝,并保證sshd運行,hadoop將以ssh進行通訊;
3.如果是windows,則需要裝Cygwin,用以支持shell命令。
Hadoop安裝可用的模式:
1.本地模式;
2.偽分布模式;
3.全分布模式。
本地模式安裝步驟:
1.將hadoop安裝包解壓縮到某目錄下;
2.修改conf/hadoop-env.sh文件,exportJAVA_HOME=那行設置正確的JAVA_HOME位置,當然如果事先在操作系統(tǒng)已經set完JAVA_HOME,可以忽略此步驟;
Hadoop本地模式安裝完了,就這么簡單!
測試一下運行效果:
$mkdirinput
$cpconf/*.xmlinput
$bin/hadoopjarhadoop-*-examples.jargrepinputoutput'dfs[a-z.]+'
$catoutput/*
這個示例程序是hadoop自帶的,用于把conf下的xml文件拷貝到input目錄下,并且找到并顯示所有與最后一個參數的正則表達式相匹配的行,output是輸出文件夾。本節(jié)關于Hadoop本地安裝介紹到這里,希望你有所收獲。
文章題目:Hadoop本地模式安裝如何實現?
地址分享:http://m.5511xx.com/article/cdhhpsc.html


咨詢
建站咨詢
