国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog

這篇具有很好參考價(jià)值的文章主要介紹了【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問。

本文屬于【Azure 架構(gòu)師學(xué)習(xí)筆記】系列。
本文屬于【Azure Databricks】系列。
接上文 【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (5) - Unity Catalog 簡(jiǎn)介

UC的關(guān)鍵特性

之所以DataBricks要用UC, 很大程度是對(duì)安全的管控。從上文可以了解到它的四大特性:

  1. 數(shù)據(jù)訪問控制: 誰可以訪問什么數(shù)據(jù)
  2. 數(shù)據(jù)訪問審計(jì): 收集訪問數(shù)據(jù)的行為
  3. 數(shù)據(jù)血緣: 收集上游來源和下游消費(fèi)者
  4. 數(shù)據(jù)發(fā)現(xiàn): 可用于查詢和發(fā)現(xiàn)已授權(quán)的資產(chǎn)

UC開啟前后的變化

這是一個(gè)很重要的圖,如果不是從0開始使用UC 而是遷移,那么很有必要了解前后發(fā)生了什么事。

從下圖可以看出,UC 把User/Group management, Metastore, Access controls 從過去單個(gè)workspace中提取出來集中管理。workspace只負(fù)責(zé)計(jì)算資源的管理。

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

這種變化會(huì)使得原有在單個(gè)workspace上的配置遷移到UC 內(nèi)部,這個(gè)過程會(huì)出現(xiàn)很多問題和改動(dòng), 所以要有心理準(zhǔn)備在遷移過程中會(huì)花費(fèi)不少時(shí)間。

接下來我們先搭建環(huán)境,以便后續(xù)重現(xiàn)很多問題。

創(chuàng)建UC

首先假設(shè)你已經(jīng)有了一個(gè)ADB, 并具有了Admin的權(quán)限。然后進(jìn)去ADB的workspace,從右上角如下圖所示的“Manage Account”進(jìn)去配置界面。
【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs
然后從下圖所示點(diǎn)擊“data”進(jìn)入常見Metastore界面。

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs
點(diǎn)擊“Create metastore”

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

配置必填信息,對(duì)于非必填的選項(xiàng)(在稍微舊一點(diǎn)的版本中這四個(gè)都是必填項(xiàng))我們可以看看它的說明,對(duì)于實(shí)際項(xiàng)目而言,我們最好建立一個(gè)單獨(dú)的Storage Account(ADLS Gen2 類型)來存儲(chǔ)。

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs
接下來快速演示一下,創(chuàng)建一個(gè)ADLS Gen 2 ,過程略。然后創(chuàng)建一個(gè)container, 我這里叫uccontainer, 并在其內(nèi)部創(chuàng)建一個(gè)目錄名為:folder
【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs
然后從endpoint處找到“Data Lake Storage”的endpoint值, 這個(gè)值以"Container名字@endpoint名字/目錄名"的格式填入,如我這里:
uccontainer@georgesa202311.dfs.core.windows.net/folder 為錄入值。

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

接下來看access connector,如果上面指定了ADLS , 那么這個(gè)值就要同時(shí)提供。

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs
從portal上搜索并點(diǎn)擊進(jìn)去創(chuàng)建。
【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs
可以簡(jiǎn)單默認(rèn)創(chuàng)建。

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

獲取下圖中的值。填入上面metastore的創(chuàng)建界面中。
【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

在點(diǎn)擊創(chuàng)建時(shí),可能會(huì)出現(xiàn)以下報(bào)錯(cuò),這是因?yàn)橐肓祟~外的Storage Account后需要賦權(quán):
【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

授權(quán)ADLS Gen2

在所用的ADLS 上點(diǎn)擊IAM, 選擇“storage blob data contributor”:

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

授權(quán)給Accessconnector:
【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs
授權(quán)成功:

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

除了RBAC 外,還要授權(quán)ACL:

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

這里把Access Connector授予Read, Write 和Execute權(quán)限:
【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs
除了Access Permissions之外,還要配置Default permissions,這是針對(duì)后續(xù)新增加的子目錄,如果沒有這個(gè)配置,權(quán)限僅針對(duì)當(dāng)前配置有效。
【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs
配置完畢之后,再次點(diǎn)擊創(chuàng)建,可以看到創(chuàng)建metastore成功:

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

啟用metastore

按下圖步驟啟用metastore
【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs
啟用成功。

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

點(diǎn)擊【open】即可開始使用UC。
【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

從下面圖中可以看到前一章提到的一些關(guān)于UC 的內(nèi)容。
【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

也可以在此處進(jìn)行控制訪問。
【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs
【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog,Azure 架構(gòu)師學(xué)習(xí)筆記,Databrics,azure,Databrikcs

小結(jié)

到此為止,我們有了一個(gè)初步的環(huán)境,接下來將繼續(xù)深入研究UC。文章來源地址http://www.zghlxwxcb.cn/news/detail-794726.html

到了這里,關(guān)于【Azure 架構(gòu)師學(xué)習(xí)筆記】- Azure Databricks (6) - 配置Unity Catalog的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • [Azure] databricks通過服務(wù)主體(service principals)和azure key vaults訪問Blob storage

    [Azure] databricks通過服務(wù)主體(service principals)和azure key vaults訪問Blob storage

    Service Principal? 是Azure Active Directory中的一個(gè)應(yīng)用程序,它被授權(quán)訪問Azure中的資源。此訪問受到分配給服務(wù)主體的角色的限制,從而使您能夠控制哪些資源可以訪問以及在哪個(gè)級(jí)別上訪問,使用專用應(yīng)用程序服務(wù)主體service principals進(jìn)行本地開發(fā),可以在應(yīng)用開發(fā)期間遵循最低

    2024年04月23日
    瀏覽(23)
  • azure databricks因?yàn)閚otebook 日志打多或者打印圖片太多,往下拉卡死怎么處理

    azure databricks因?yàn)閚otebook 日志打多或者打印圖片太多,往下拉卡死怎么處理

    1、同事碰到個(gè)問題,databricks 頁面卡死不動(dòng)了 2、我。。。。。。。。測(cè)試了下搞不定,找azure的工程師,特此筆記如下圖 !

    2024年02月11日
    瀏覽(19)
  • 【Unity學(xué)習(xí)筆記】b站Unity架構(gòu)課Unity3D 商業(yè)化的網(wǎng)絡(luò)游戲架構(gòu)(高級(jí)/主程級(jí)別)

    【Unity學(xué)習(xí)筆記】b站Unity架構(gòu)課Unity3D 商業(yè)化的網(wǎng)絡(luò)游戲架構(gòu)(高級(jí)/主程級(jí)別)

    自己跟著學(xué)完了,寫了不少代碼,會(huì)放在CSDN代碼庫,因?yàn)槔蠋煵]有提供源碼,錄屏也不是完全連續(xù),所以難免 有代碼缺少、無法運(yùn)行 的情況,但是確實(shí)學(xué)到了不少真本事,主要是了解老師的架構(gòu)思想。 b站課程地址 課程我自己是跟著學(xué)完了的,本文是個(gè)人筆記記錄和好課

    2024年02月02日
    瀏覽(90)
  • Azure 機(jī)器學(xué)習(xí) - 使用自動(dòng)化機(jī)器學(xué)習(xí)訓(xùn)練計(jì)算機(jī)視覺模型的數(shù)據(jù)架構(gòu)

    Azure 機(jī)器學(xué)習(xí) - 使用自動(dòng)化機(jī)器學(xué)習(xí)訓(xùn)練計(jì)算機(jī)視覺模型的數(shù)據(jù)架構(gòu)

    了解如何設(shè)置Azure Machine Learning JSONL 文件格式,以便在訓(xùn)練和推理期間在計(jì)算機(jī)視覺任務(wù)的自動(dòng)化 ML 實(shí)驗(yàn)中使用數(shù)據(jù)。 關(guān)注TechLead,分享AI全維度知識(shí)。作者擁有10+年互聯(lián)網(wǎng)服務(wù)架構(gòu)、AI產(chǎn)品研發(fā)經(jīng)驗(yàn)、團(tuán)隊(duì)管理經(jīng)驗(yàn),同濟(jì)本復(fù)旦碩,復(fù)旦機(jī)器人智能實(shí)驗(yàn)室成員,阿里云認(rèn)證的

    2024年02月05日
    瀏覽(25)
  • 火山引擎DataLeap的Catalog系統(tǒng)搜索實(shí)踐 (二):整體架構(gòu)

    火山引擎DataLeap的Catalog系統(tǒng)搜索實(shí)踐 (二):整體架構(gòu)

    整體架構(gòu) ? 火山引擎DataLeap的Catalog搜索系統(tǒng)使用了開源的搜索引擎Elasticsearch進(jìn)行基礎(chǔ)的文檔檢索(Recall階段),因此各種資產(chǎn)元數(shù)據(jù)會(huì)被存放到Elasticsearch中。整個(gè)系統(tǒng)包括4個(gè)主要的數(shù)據(jù)流程: 實(shí)時(shí)導(dǎo)入 。資產(chǎn)元數(shù)據(jù)變更時(shí)相應(yīng)的平臺(tái)發(fā)出實(shí)時(shí)變更消息,Data Catalog系統(tǒng)會(huì)消

    2024年02月09日
    瀏覽(18)
  • Unity | HDRP高清渲染管線學(xué)習(xí)筆記:HDRP配置文件(HDRP Asset)

    Unity | HDRP高清渲染管線學(xué)習(xí)筆記:HDRP配置文件(HDRP Asset)

    目錄 一、Frame Settings(幀設(shè)置) 二、Volume 三、HDRP配置文件、幀設(shè)置和Volume之間的關(guān)系 四、HDRP配置文件 1.Rendering (1)Color Buffer Format(顏色緩存格式) (2)Lit Shader Mode(Lit著色器模式) (3)Motion Vectors(運(yùn)動(dòng)矢量) 2.Post-processing Quality Settings(后處理質(zhì)量設(shè)置) 五、針對(duì)

    2024年02月16日
    瀏覽(29)
  • Azure - 機(jī)器學(xué)習(xí):創(chuàng)建機(jī)器學(xué)習(xí)所需資源,配置工作區(qū)

    Azure - 機(jī)器學(xué)習(xí):創(chuàng)建機(jī)器學(xué)習(xí)所需資源,配置工作區(qū)

    本文中你可以創(chuàng)建使用 Azure 機(jī)器學(xué)習(xí)所需的資源,包含工作區(qū)和計(jì)算實(shí)例。 關(guān)注TechLead,分享AI全維度知識(shí)。作者擁有10+年互聯(lián)網(wǎng)服務(wù)架構(gòu)、AI產(chǎn)品研發(fā)經(jīng)驗(yàn)、團(tuán)隊(duì)管理經(jīng)驗(yàn),同濟(jì)本復(fù)旦碩,復(fù)旦機(jī)器人智能實(shí)驗(yàn)室成員,阿里云認(rèn)證的資深架構(gòu)師,項(xiàng)目管理專業(yè)人士,上億營(yíng)

    2024年02月08日
    瀏覽(23)
  • doris配置hive的catalog

    創(chuàng)建hive的catalog

    2024年02月13日
    瀏覽(13)
  • ZA303學(xué)習(xí)筆記七管理應(yīng)用程序(Azure AD Connect/使用SSO)

    ZA303學(xué)習(xí)筆記七管理應(yīng)用程序(Azure AD Connect/使用SSO)

    官方文檔 https://docs.microsoft.com/zh-cn/azure/active-directory/hybrid/ Azure Active Directory (Azure AD)是一個(gè)綜合性的標(biāo)識(shí)即服務(wù)(IDaas)解決方案,由數(shù)百萬組織用來跨標(biāo)識(shí)、訪問管理和安全的各個(gè)方面。Azure AD擁有超過10億用戶身份,并可幫助用戶登錄和安全訪問兩者:(Azure AD Connect是本地安

    2024年02月07日
    瀏覽(32)
  • 使用 Databricks+Mlflow 進(jìn)行機(jī)器學(xué)習(xí)模型的訓(xùn)練和部署

    使用 Databricks+Mlflow 進(jìn)行機(jī)器學(xué)習(xí)模型的訓(xùn)練和部署

    機(jī)器學(xué)習(xí)工作流中存在諸多痛點(diǎn): 首先,很難對(duì)機(jī)器學(xué)習(xí)的實(shí)驗(yàn)進(jìn)行追蹤。機(jī)器學(xué)習(xí)算法中有大量可配置參數(shù),在做機(jī)器學(xué)習(xí)實(shí)驗(yàn)時(shí),很難追蹤到哪些參數(shù)、哪個(gè)版本的代碼以及哪個(gè)版本的數(shù)據(jù)會(huì)產(chǎn)生特定的結(jié)果。 其次,機(jī)器學(xué)習(xí)實(shí)驗(yàn)的結(jié)果難以復(fù)現(xiàn)。沒有標(biāo)準(zhǔn)的方式來打

    2024年02月02日
    瀏覽(22)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包