




版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)
文檔簡介
1、 大數(shù)據(jù)技術(shù)之標(biāo)題一、Flume簡介1) Flume提供一個分布式的,可靠的,對大數(shù)據(jù)量的日志進(jìn)行高效收集、聚集、移動的服務(wù),F(xiàn)lume只能在Unix環(huán)境下運行。2) Flume基于流式架構(gòu),容錯性強,也很靈活簡單。3) Flume、Kafka用來實時進(jìn)行數(shù)據(jù)收集,Spark、Storm用來實時處理數(shù)據(jù),impala用來實時查詢。二、Flume角色2.1、Source用于采集數(shù)據(jù),Source是產(chǎn)生數(shù)據(jù)流的地方,同時Source會將產(chǎn)生的數(shù)據(jù)流傳輸?shù)紺hannel,這個有點類似于Java IO部分的Channel。2.2、Channel用于橋接Sources和Sinks,類似于一個隊列。2.3
2、、Sink從Channel收集數(shù)據(jù),將數(shù)據(jù)寫到目標(biāo)源(可以是下一個Source,也可以是HDFS或者HBase)。2.4、Event傳輸單元,F(xiàn)lume數(shù)據(jù)傳輸?shù)幕締卧?,以事件的形式將?shù)據(jù)從源頭送至目的地。三、Flume傳輸過程source監(jiān)控某個文件或數(shù)據(jù)流,數(shù)據(jù)源產(chǎn)生新的數(shù)據(jù),拿到該數(shù)據(jù)后,將數(shù)據(jù)封裝在一個Event中,并put到channel后commit提交,channel隊列先進(jìn)先出,sink去channel隊列中拉取數(shù)據(jù),然后寫入到hdfs或者HBase中。四、Flume部署及使用4.1、文件配置flume-env.sh涉及修改項:JAVA_HOME=/home/admin/mo
3、dules/jdk1.8.0_1214.2、案例4.2.1、案例一目標(biāo):Flume監(jiān)控一端Console,另一端Console發(fā)送消息,使被監(jiān)控端實時顯示。分步實現(xiàn):1) 創(chuàng)建Flume Agent配置文件flume-telnet.conf# Name the components on this agenta1.sources = r1a1.sinks = k1a1.channels = c1# Describe/configure the sourcea1.sources.r1.type = netcata1.sources.r1.bind = localhosta1.sources.r1
4、.port = 44444# Describe the sinka1.sinks.k1.type = logger# Use a channel which buffers events in memorya1.channels.c1.type = memorya1.channels.c1.capacity = 1000a1.channels.c1.transactionCapacity = 100# Bind the source and sink to the channela1.sources.r1.channels = c1a1.sinks.k1.channel = c12) 安裝te
5、lnet工具$ sudo rpm -ivh telnet-server-0.17-59.el7.x86_64.rpm $ sudo rpm -ivh telnet-0.17-59.el7.x86_64.rpm3) 判斷44444端口是否被占用$ netstat -an | grep 444444) 先開啟flume先聽端口$ bin/flume-ng agent -conf conf/ -name a1 -conf-file conf/flume-telnet.conf -Dflume.root.logger=INFO,console5) 使用telnet工具向本機的44444端口發(fā)送內(nèi)容$
6、telnet localhost 444444.2.2、案例二目標(biāo):實時監(jiān)控hive日志,并上傳到HDFS中分步實現(xiàn):1) 拷貝Hadoop相關(guān)jar到Flume的lib目錄下(要學(xué)會根據(jù)自己的目錄和版本查找jar包)$ cp share/hadoop/common/lib/hadoop-auth-2.5.0-cdh5.3.6.jar ./lib/$ cp share/hadoop/common/lib/commons-configuration-1.6.jar ./lib/$ cp share/hadoop/mapreduce1/lib/hadoop-hdfs-2.5.0-cdh5.3.6.
7、jar ./lib/$ cp share/hadoop/common/hadoop-common-2.5.0-cdh5.3.6.jar ./lib/$ cp ./share/hadoop/hdfs/lib/htrace-core-3.1.0-incubating.jar ./lib/$ cp ./share/hadoop/hdfs/lib/commons-io-2.4.jar ./lib/尖叫提示:標(biāo)紅的jar為1.99版本flume必須引用的jar2) 創(chuàng)建flume-hdfs.conf文件# Name the components on this agenta2.sources = r2a
8、2.sinks = k2a2.channels = c2# Describe/configure the sourcea2.sources.r2.type = execmand = tail -F /home/admin/modules/apache-flume-1.7.0-bin/my_custom_logs.txta2.sources.r2.shell = /bin/bash -c# Describe the sinka2.sinks.k2.type = hdfsa2.sinks.k2.hdfs.path = hdfs:/linux01:8020/flume/%Y%m%d/%H#上傳文件的
9、前綴a2.sinks.k2.hdfs.filePrefix = logs-#是否按照時間滾動文件夾a2.sinks.k2.hdfs.round = true#多少時間單位創(chuàng)建一個新的文件夾a2.sinks.k2.hdfs.roundValue = 1#重新定義時間單位a2.sinks.k2.hdfs.roundUnit = hour#是否使用本地時間戳a2.sinks.k2.hdfs.useLocalTimeStamp = true#積攢多少個Event才flush到HDFS一次a2.sinks.k2.hdfs.batchSize = 1000#設(shè)置文件類型,可支持壓縮a2.sinks.k2.
10、hdfs.fileType = DataStream#多久生成一個新的文件a2.sinks.k2.hdfs.rollInterval = 600#設(shè)置每個文件的滾動大小a2.sinks.k2.hdfs.rollSize = 134217700#文件的滾動與Event數(shù)量無關(guān)a2.sinks.k2.hdfs.rollCount = 0#最小冗余數(shù)a2.sinks.k2.hdfs.minBlockReplicas = 1# Use a channel which buffers events in memorya2.channels.c2.type = memorya2.channels.c2.c
11、apacity = 1000a2.channels.c2.transactionCapacity = 100# Bind the source and sink to the channela2.sources.r2.channels = c2a2.sinks.k2.channel = c23) 執(zhí)行監(jiān)控配置$ bin/flume-ng agent -conf conf/ -name a2 -conf-file conf/flume-hdfs.conf4.2.3、案例三目標(biāo):使用flume監(jiān)聽整個目錄的文件分步實現(xiàn):1) 創(chuàng)建配置文件flume-dir.confa3.sources = r3a
12、3.sinks = k3a3.channels = c3# Describe/configure the sourcea3.sources.r3.type = spooldira3.sources.r3.spoolDir = /home/admin/modules/apache-flume-1.7.0-bin/uploada3.sources.r3.fileHeader = true#忽略所有以.tmp結(jié)尾的文件,不上傳a3.sources.r3.ignorePattern = ( *.tmp)# Describe the sinka3.sinks.k3.type = hdfsa3.sinks
13、.k3.hdfs.path = hdfs:/linux01:8020/flume/upload/%Y%m%d/%H#上傳文件的前綴a3.sinks.k3.hdfs.filePrefix = upload-#是否按照時間滾動文件夾a3.sinks.k3.hdfs.round = true#多少時間單位創(chuàng)建一個新的文件夾a3.sinks.k3.hdfs.roundValue = 1#重新定義時間單位a3.sinks.k3.hdfs.roundUnit = hour#是否使用本地時間戳a3.sinks.k3.hdfs.useLocalTimeStamp = true#積攢多少個Event才flush
14、到HDFS一次a3.sinks.k3.hdfs.batchSize = 1000#設(shè)置文件類型,可支持壓縮a3.sinks.k3.hdfs.fileType = DataStream#多久生成一個新的文件a3.sinks.k3.hdfs.rollInterval = 600#設(shè)置每個文件的滾動大小a3.sinks.k3.hdfs.rollSize = 134217700#文件的滾動與Event數(shù)量無關(guān)a3.sinks.k3.hdfs.rollCount = 0#最小冗余數(shù)a3.sinks.k3.hdfs.minBlockReplicas = 1# Use a channel which buffers events in memorya3.channels.c3.type = memorya3.channels.c3.capacity = 1000a3.channels.c3.transactionCapacity = 100# Bind the source and sink to the channela3.sources.r3.channels = c3a3.sinks.k3.cha
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 材料員崗位面試問題及答案
- 廣東省揭陽市產(chǎn)業(yè)園2025屆化學(xué)高一下期末綜合測試試題含解析
- 天津耀華嘉誠國際中學(xué)2025屆高二化學(xué)第二學(xué)期期末預(yù)測試題含解析
- 湖北省仙桃、天門、潛江三市2025屆高一下化學(xué)期末監(jiān)測試題含解析
- 北斗監(jiān)控動態(tài)管理辦法
- 農(nóng)村產(chǎn)權(quán)交易管理辦法
- 保安制服收繳管理辦法
- 北京招聘醫(yī)療管理辦法
- 制程物料標(biāo)識管理辦法
- 新質(zhì)生產(chǎn)力背景下元宇宙賦能圖書館數(shù)字化轉(zhuǎn)型的策略與挑戰(zhàn)
- 廣州市藝術(shù)中學(xué)招聘教師考試真題2024
- 工業(yè)自動化設(shè)備保修及維修管理措施
- 期末作文預(yù)測外研版七年級英語下冊
- 2025-2030中國兒童魚油行業(yè)銷售動態(tài)及競爭策略分析報告
- 統(tǒng)編版五年級升六年級語文暑期銜接《課外閱讀》專項測試卷及答案
- 小小理財家課件
- DB43-T 2622-2023 醫(yī)療導(dǎo)管標(biāo)識管理規(guī)范
- 譯林版一年級下冊全冊英語知識點梳理
- 案場物業(yè)制度管理制度
- 護(hù)理事業(yè)十五五發(fā)展規(guī)劃(2026-2030)
- CJ/T 316-2009城鎮(zhèn)供水服務(wù)
評論
0/150
提交評論