免费视频淫片aa毛片_日韩高清在线亚洲专区vr_日韩大片免费观看视频播放_亚洲欧美国产精品完整版

打開APP
userphoto
未登錄

開通VIP,暢享免費電子書等14項超值服

開通VIP
3000門徒內(nèi)部訓練絕密視頻(泄密版)第9課:徹底實戰(zhàn)詳解使用IntelliJ IDEA下的Spark程序開發(fā)

徹底實戰(zhàn)詳解使用IntelliJ IDEA下的Spark程序開發(fā)

1、下載安裝包(Windows)
2、本地java8和Scala 2.10.4軟件套件的安裝
3、為IDEA安裝Scala,這個過程是IDEA的自動化的插件管理,所以點擊后會自動下載
4、指定JDK1.8.x和Scala2.10.4
5、File->Project Structure 來設(shè)置工程的Libraries核心是添加Spark的jar依賴
6、添加Spark的jar依賴

為什么不能再IDE中直接發(fā)布Spark程序到Spark集群中
1、內(nèi)存和core的限制,默認情況下Spark程序的Driver會在提交Spark的機器上,所以如果在IDE中提交程序的話,那IDE機器就必須非常強大
2、driver要指揮集群中的worker運行,并頻繁地發(fā)生通信,如果開發(fā)環(huán)境IDEA和Spark集群不在同一個網(wǎng)絡(luò)下,就會出現(xiàn)任務丟失,運行緩慢等多種不必要的問題
3、這是不安全的

打包:
File->Project Structure-> Artifacts -> 加號 -> jar -> From module with dependencies

注意要把Spark和Scala的jar去掉

本站僅提供存儲服務,所有內(nèi)容均由用戶發(fā)布,如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請點擊舉報。
打開APP,閱讀全文并永久保存 查看更多類似文章
猜你喜歡
類似文章
Scala從零開始:使用Intellij IDEA寫hello world
IntelliJ IDEA15導入jar包
Spark
idea2022激活碼,永久有效!
為什么比起 IntelliJ IDEA,我更喜歡 Eclipse…
Scala環(huán)境搭建之eclipse .
更多類似文章 >>
生活服務
分享 收藏 導長圖 關(guān)注 下載文章
綁定賬號成功
后續(xù)可登錄賬號暢享VIP特權(quán)!
如果VIP功能使用有故障,
可點擊這里聯(lián)系客服!

聯(lián)系客服