IDEA上運行Flink任務(wù)的實戰(zhàn)教程
歡迎訪問我的GitHub
https://github.com/zq2599/blog_demos
內(nèi)容:所有原創(chuàng)文章分類匯總及配套源碼,涉及Java、Docker、Kubernetes、DevOPS等;
IDEA是常用的IDE,我們編寫的flink任務(wù)代碼如果能直接在IDEA運行,會給學(xué)習(xí)和開發(fā)帶來很大便利,例如改完代碼立即運行不用部署、斷點、單步調(diào)試等;
環(huán)境信息
電腦:2019版13寸MacBook Pro,2.3 GHz 四核Intel Core i5,8 GB 2133 MHz LPDDR3 操作系統(tǒng):macOS Catalina 10.15.3 JDK:1.8.0_211 Maven:3.6.0 IDEA:2018.3.5 (Ultimate Edition) Flink版本:1.9.2關(guān)于正版IDEA
如何免費使用正版IDEA,可以參考《免費申請和使用IntelliJ IDEA商業(yè)版License指南》
開發(fā)
首先確保您電腦上maven已裝好; 創(chuàng)建一個flink任務(wù)的maven工程,找個干凈目錄執(zhí)行以下命令:mvn archetype:generate -DarchetypeGroupId=org.apache.flink -DarchetypeArtifactId=flink-quickstart-java -DarchetypeVersion=1.9.2
按提示輸入groupId、artifactId、version、package等內(nèi)容:

4. 現(xiàn)在maven工程已生成,用IDEA導(dǎo)入這個工程,如下圖:

5. 以maven的類型導(dǎo)入:

6. 導(dǎo)入成功后的樣子:

7. 修改StreamingJob.java,加入功能是監(jiān)聽本地18081端口,得到的字符串做word count操作,完整代碼在此下載:https://raw.githubusercontent.com/zq2599/blog_demos/master/files/StreamingJob.java

8. 現(xiàn)在的代碼已經(jīng)能運行,但flink網(wǎng)頁卻還不能訪問,會顯示以下錯誤信息,需要繼續(xù)做些設(shè)置:

9. 下載flink-1.9.2安裝包,這里面有flink網(wǎng)頁服務(wù)用到的一個jar,地址是:https://www-eu.apache.org/dist/flink/flink-1.9.2/flink-1.9.2-bin-scala_2.11.tgz10. flink-1.9.2-bin-scala_2.11.tgz下載后解壓,在lib目錄下有個flink-dist_2.11-1.9.2.jar文件,記住此文件的位置,稍后會用到;11. 回到IDEA,在項目上點擊右鍵,點擊菜單Open Module Settings:

12. 在彈出的窗口做如下操作,目的是給項目中增加jar:

13. 彈出選擇文件的窗口,請選擇剛才準(zhǔn)備好的文件flink-dist_2.11-1.9.2.jar:

14. 設(shè)置工作已經(jīng)完成,由于StreamingJob的工作是讀取本機18081端口的數(shù)據(jù),所以我們要把18081端口的服務(wù)啟動起來,不然StreamingJob運行時是連不上端口的,打開一個控制臺,執(zhí)行命令:nc -l 1808115. 現(xiàn)在可以將StreamingJob運行起來,如下圖,右鍵點擊StreamingJob,選擇Run ’StreamingJob.main()’:即可啟動flink任務(wù),如果想打斷點調(diào)試,請選擇Debug ’StreamingJob.main()’

16. 回到剛才執(zhí)行nc命令的控制臺,輸入一些字符串,例如'aaa bbb aaa',然后回車;17. 再回到IDEA,可見StreamingJob已經(jīng)從18081端口讀到了數(shù)據(jù)并且輸出了統(tǒng)計結(jié)果:

18. 在IDEA的控制臺搜索關(guān)鍵字localhost,如下圖紅框,可以查到flink網(wǎng)頁的端口,我這里是62641:

19. 瀏覽器訪問http://localhost:62641,如下圖,可見flink網(wǎng)頁已經(jīng)正常顯示,正在運行的任務(wù)也能看到:

至此,最簡單的IDEA運行flink任務(wù)的實戰(zhàn)就完成了,如果您也在學(xué)習(xí)flink,希望本文能給您一些參考;
https://github.com/zq2599/blog_demos
到此這篇關(guān)于IDEA上運行Flink任務(wù)的文章就介紹到這了,更多相關(guān)IDEA上運行Flink任務(wù)內(nèi)容請搜索好吧啦網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持好吧啦網(wǎng)!
相關(guān)文章:
1. 詳解Android studio 動態(tài)fragment的用法2. Android如何加載Base64編碼格式圖片3. 什么是python的自省4. 基于android studio的layout的xml文件的創(chuàng)建方式5. 解決Android studio xml界面無法預(yù)覽問題6. 編程語言PHP在Web開發(fā)領(lǐng)域的優(yōu)勢在哪?7. .Net Core使用Coravel實現(xiàn)任務(wù)調(diào)度的完整步驟8. Vuex localStorage的具體使用9. 圖文詳解vue中proto文件的函數(shù)調(diào)用10. Vue3狀態(tài)管理的使用詳解

網(wǎng)公網(wǎng)安備