免费视频淫片aa毛片_日韩高清在线亚洲专区vr_日韩大片免费观看视频播放_亚洲欧美国产精品完整版

打開APP
userphoto
未登錄

開通VIP,暢享免費(fèi)電子書等14項超值服

開通VIP
Spark

1 IDEA 打包

示例代碼參考AMPCamp2015之SparkSQL,開發(fā)環(huán)境使用idea。首先需要將程序打包成jar


選擇project structure --》artifacts ,由于集群已經(jīng)有了運(yùn)行依賴的jar包,打包時可以將這些jar包排除出去,以減小打包后的jar包的大小。


點擊ok,然后選擇build --》build artifacts,SparkSQLTest --》build,然后在工程目錄的子目錄下會生成j對應(yīng)的jar文件:


2 提交任務(wù)

首先啟動集群,然后客戶端來到spark-submit目錄:/app/hadoop/spark131/bin


spark-submit通過命令行的方式提交任務(wù),具體參數(shù)信息如下參考


提交示例如下:


在命令行輸入如下命令:
./spark-submit  --class SparkSQLTest --master spark:hadoop1:7077 --executor-memory 2g --num-executors 3  /home/kaiseu/MyProject/IdeaProjects/SparkProject/Saprk131/out/artifacts/SparkSQLTest_jar/SparkSQLTest.jar



在web監(jiān)控界面可以看到:


3 運(yùn)行結(jié)果

結(jié)果如下:




本站僅提供存儲服務(wù),所有內(nèi)容均由用戶發(fā)布,如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請點擊舉報
打開APP,閱讀全文并永久保存 查看更多類似文章
猜你喜歡
類似文章
IDEA常用導(dǎo)入JAR包
IntelliJ IDEA15導(dǎo)入jar包
IDEA
3000門徒內(nèi)部訓(xùn)練絕密視頻(泄密版)第9課:徹底實戰(zhàn)詳解使用IntelliJ IDEA下的Spark程序開發(fā)
Hive在spark2.0.0啟動時無法訪問../lib/spark
IntelliJ IDEA openfire 使用IntelliJ IDEA 部署OPENFIRE 服務(wù)端
更多類似文章 >>
生活服務(wù)
分享 收藏 導(dǎo)長圖 關(guān)注 下載文章
綁定賬號成功
后續(xù)可登錄賬號暢享VIP特權(quán)!
如果VIP功能使用有故障,
可點擊這里聯(lián)系客服!

聯(lián)系客服