1 IDEA 打包
選擇project structure --》artifacts ,由于集群已經(jīng)有了運(yùn)行依賴的jar包,打包時可以將這些jar包排除出去,以減小打包后的jar包的大小。
點擊ok,然后選擇build --》build artifacts,SparkSQLTest --》build,然后在工程目錄的子目錄下會生成j對應(yīng)的jar文件:
2 提交任務(wù)
首先啟動集群,然后客戶端來到spark-submit目錄:/app/hadoop/spark131/bin
spark-submit通過命令行的方式提交任務(wù),具體參數(shù)信息如下參考:
提交示例如下:
在命令行輸入如下命令:
./spark-submit --class SparkSQLTest --master spark:hadoop1:7077 --executor-memory 2g --num-executors 3 /home/kaiseu/MyProject/IdeaProjects/SparkProject/Saprk131/out/artifacts/SparkSQLTest_jar/SparkSQLTest.jar
在web監(jiān)控界面可以看到:
3 運(yùn)行結(jié)果
結(jié)果如下:
本站僅提供存儲服務(wù),所有內(nèi)容均由用戶發(fā)布,如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請
點擊舉報。