国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Win10 環(huán)境下 spark 本地環(huán)境的搭建

這篇具有很好參考價(jià)值的文章主要介紹了Win10 環(huán)境下 spark 本地環(huán)境的搭建。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問。

?一、安裝配置 java 環(huán)境(已有 java 環(huán)境則跳過)

所需文件下載

鏈接:https://pan.baidu.com/s/1OYoeMVHOtcu05jR1mL7LeA?
提取碼:yyds

下載 jdk1.8.0_66_windows-x64_bin.exe(或其他版本)

配置環(huán)境變量:

此電腦(右擊)==>屬性==>高級(jí)系統(tǒng)設(shè)置==>環(huán)境變量==>系統(tǒng)變量==>新建

CLASSPATH:.;%JAVA_HOME%\lib\dt.jar;%JAVA_HOME%\lib\tools.jar;
JAVA_HOME:C:\Program Files\Java\jdk1.8.0_66(jdk安裝路徑)

?win10開發(fā)spark,spark,大數(shù)據(jù),分布式

?此電腦(右擊)==>屬性==>高級(jí)系統(tǒng)設(shè)置==>環(huán)境變量==>系統(tǒng)變量==>Path==>新建

%JAVA_HOME%\bin
%JAVA_HOME%\jre\bin

?win10開發(fā)spark,spark,大數(shù)據(jù),分布式

二、scala 安裝配置

下載 scala-2.11.12.msi

配置環(huán)境變量

?此電腦(右擊)==>屬性==>高級(jí)系統(tǒng)設(shè)置==>環(huán)境變量==>系統(tǒng)變量==>Path==>新建

%SCALA_HOME%\bin

win10開發(fā)spark,spark,大數(shù)據(jù),分布式

查看是否安裝成功

scala -version

win10開發(fā)spark,spark,大數(shù)據(jù),分布式

三、Spark 安裝配置

解壓 spark-2.3.0-bin-hadoop2.7.tgz 文件夾至本地

win10開發(fā)spark,spark,大數(shù)據(jù),分布式

配置 spark 環(huán)境變量

此電腦(右擊)==>屬性==>高級(jí)系統(tǒng)設(shè)置==>環(huán)境變量==>系統(tǒng)變量==>Path==>新建

D:\Files\Spark\bin? (spark安裝路徑)

win10開發(fā)spark,spark,大數(shù)據(jù),分布式

配置 hadoop環(huán)境

解壓 hadoop-2.8.3.tar.gz 至本地
win10開發(fā)spark,spark,大數(shù)據(jù),分布式
配置 HADOOP_HOME&Path
HADOOP_HOME:D:\Files\Hadoop? ? ? ? ? ? ? ? ? ? ? ? ? ? (hadoop安裝路徑)
path:%HADOOP_HOME%\bin

win10開發(fā)spark,spark,大數(shù)據(jù),分布式

將對(duì)應(yīng)版本的 bin.zip 解壓后的 bin 目錄直接替換本地 hadoop 的 bin 目錄 即可

驗(yàn)證環(huán)境搭建是否成功

cmd 中輸入 spark-shell 回車
win10開發(fā)spark,spark,大數(shù)據(jù),分布式
win10 單機(jī)版 spark 環(huán)境搭建成功

四、使用 pyspark 則要求 python 環(huán)境(已有 python 環(huán)境則跳過)

Spark 對(duì) python 高版本支持不是很好,建議安裝 python 的版本 3.6

用Anaconda創(chuàng)建虛擬環(huán)境

用Anaconda的虛擬環(huán)境配置python環(huán)境(Anaconda安裝略)

創(chuàng)建名為 pyspark 虛擬環(huán)境,python版本為3.6.3

conda create -name pyspark python=3.6.3

查看虛擬環(huán)境

conda -v

激活虛擬環(huán)境

conda activate?pyspark

打開pycharm應(yīng)用環(huán)境

win10開發(fā)spark,spark,大數(shù)據(jù),分布式文章來源地址http://www.zghlxwxcb.cn/news/detail-766300.html

五、pycharm 配置 pyspark 環(huán)境

安裝依賴模塊

pip install pyspark==2.3.0

PyCharm 測(cè)試是否配置成功

from pyspark import Spark
Contextsc = SparkContext("local", "test")
t1 = sc.parallelize([1,2,3])
t2 =t1.collect()
print(t1)
print(t2)

六、Jupter notebook 配置 pyspark 環(huán)境

安裝 jupyter notebook: pip install jupyter
啟動(dòng) jupyter notebook
win10開發(fā)spark,spark,大數(shù)據(jù),分布式

到了這里,關(guān)于Win10 環(huán)境下 spark 本地環(huán)境的搭建的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • ??禉C(jī)器人工業(yè)相機(jī) Win10+Qt+Cmake 開發(fā)環(huán)境搭建

    ??禉C(jī)器人工業(yè)相機(jī) Win10+Qt+Cmake 開發(fā)環(huán)境搭建

    參考這個(gè)鏈接安裝好MVS客戶端 Qt新建一個(gè)c++項(xiàng)目 cmakeList中添加??禉C(jī)器人的庫,如下: main.cpp中添加以下代碼 運(yùn)行程序,出現(xiàn)以下內(nèi)容則說明安裝庫成功

    2024年02月11日
    瀏覽(18)
  • Qt開發(fā)筆記(Qt5.9.9下載安裝環(huán)境搭建win10)

    Qt開發(fā)筆記(Qt5.9.9下載安裝環(huán)境搭建win10)

    #1 Qt下載網(wǎng)站(國內(nèi)、國外鏡像) #2 Qt5.9.9安裝選項(xiàng) #3 配置系統(tǒng)環(huán)境變量 #4 創(chuàng)建測(cè)試項(xiàng)目 #1 Qt下載網(wǎng)站(國內(nèi)、國外鏡像) 官方下載地址(慢):http://download.qt.io/ 國內(nèi)鏡像網(wǎng)站 這里給大家推薦幾個(gè)國內(nèi)著名的 Qt 鏡像網(wǎng)站,主要是各個(gè)高校的: 中國科學(xué)技術(shù)大學(xué):http://mi

    2024年02月15日
    瀏覽(28)
  • 11.TMS320C5509V+Win10+CCS8開發(fā)環(huán)境搭建

    11.TMS320C5509V+Win10+CCS8開發(fā)環(huán)境搭建

    眾所周知,相較于TMS320F28335,TMS320C5509V屬于較老的平臺(tái),在新版本的CCS版本上支持一直是一個(gè)問題。 最基本的問題便是,無法新建基礎(chǔ)工程。各開發(fā)版廠商提供的例程無法在CCS8上使用,只支持CCS3.3環(huán)境,但是由于目前Win7、Win10等系統(tǒng)均不再支持CCS3.3,所以只能折騰虛擬機(jī)來

    2024年02月07日
    瀏覽(25)
  • Qt6.5.1+WebRTC學(xué)習(xí)筆記(十)開發(fā)環(huán)境搭建(win10+vs2022)

    Qt6.5.1+WebRTC學(xué)習(xí)筆記(十)開發(fā)環(huán)境搭建(win10+vs2022)

    1.操作系統(tǒng)win10 64位 2.合理的上網(wǎng)方式,需要正常訪問google,最好有40G以上流量 3.安裝VS2022,筆者使用的是社區(qū)版,并選中C++相關(guān),筆者設(shè)置如下 ? ? ? ?注意,win10的sdk需要是10.0.22621.0,其他版本可能導(dǎo)致編譯不通過,而且這個(gè)版本會(huì)根據(jù)webrtc源碼的更新而發(fā)生變化 ?4.安裝

    2024年02月08日
    瀏覽(28)
  • win10 vs2022 搭建 cocos2d-x 3.17 開發(fā)環(huán)境

    win10 vs2022 搭建 cocos2d-x 3.17 開發(fā)環(huán)境

    https://cocos2d-x.org/download/ 也可以在 github 下載 https://github.com/cocos2d/cocos2d-x/tags https://docs.cocos2d-x.org/cocos2d-x/v3/zh/ https://docs.cocos2d-x.org/api-ref/cplusplus/v3x/index.html 需要 python2 , 安裝后可以用 python2 的絕對(duì)路徑運(yùn)行 cocos 的 setup.py 如何沒有把 python2 加入到環(huán)境變量, 可以修改引擎路徑下

    2024年02月08日
    瀏覽(26)
  • 在win10電腦上搭建python環(huán)境下的本地AI繪畫工具Stable Diffusion(我的電腦AI作品欣賞)

    在win10電腦上搭建python環(huán)境下的本地AI繪畫工具Stable Diffusion(我的電腦AI作品欣賞)

    ?寧靜的午后 孿生姐妹 ? 美女 街景 ??印象大師 ?

    2024年02月15日
    瀏覽(28)
  • GCC - 基于win10平臺(tái)搭建Cmake + MinGW + gcc-arm-none 開源開發(fā)環(huán)境

    GCC - 基于win10平臺(tái)搭建Cmake + MinGW + gcc-arm-none 開源開發(fā)環(huán)境

    基于GUN開源工具鏈,搭建Windows平臺(tái)下 ARM 編譯運(yùn)行環(huán)境! ????? 文中涉及的開發(fā)工具包已打包上傳 ,可點(diǎn)擊此處下載。 1、 建議直接下載安裝git (內(nèi)部集成有該工具),也可點(diǎn)擊此處單獨(dú)下載Git Bash工具; 2、如無法直接調(diào)用,添加對(duì)應(yīng)環(huán)境變量; 32位下載地址:??MinG

    2024年02月10日
    瀏覽(32)
  • win10本地搭建SFTP

    win10本地搭建SFTP

    步驟如下: 1.安裝OpenSSH服務(wù)端 開始-設(shè)置-應(yīng)用-可選功能-添加功能-OpenSSH服務(wù)端 因?yàn)槲冶镜匾呀?jīng)安裝過了,所以就不在安裝了。 2. 啟動(dòng)服務(wù) 鼠標(biāo)右鍵計(jì)算機(jī)管理服務(wù)和應(yīng)用程序服務(wù) 啟動(dòng)如圖兩個(gè)服務(wù)。 3. 測(cè)試 用xftp/xshell連接 基本信息配置如下(sftp默認(rèn)端口為:22): 補(bǔ)充

    2024年02月04日
    瀏覽(20)
  • Golang環(huán)境搭建(Win10)

    Golang環(huán)境搭建(Win10)

    Go(又稱 Golang)是 Google 的 Robert Griesemer,Rob Pike 及 Ken Thompson 開發(fā)的一種靜態(tài)強(qiáng)類型、編譯型語言。Go 語言語法與 C 相近,但功能上有:內(nèi)存安全,GC(垃圾回收),結(jié)構(gòu)形態(tài)及 CSP-style 并發(fā)計(jì)算。 話不多抄,讓我們開始按步驟一步步進(jìn)行即可完成開發(fā)環(huán)境的搭建工作;本文

    2024年02月12日
    瀏覽(30)
  • win10環(huán)境下搭建QT+opencv

    源碼編譯安裝 免編譯/cmake安裝 vs2022環(huán)境安裝 modules/core/CMakeFiles/opencv_core.dir/vs_version.rc.obj] Error 1 然后繼續(xù)執(zhí)行 ? mingw32-make -j 8 進(jìn)行編譯。

    2024年02月07日
    瀏覽(20)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包