一、前言
最近參與了亞馬遜云科技【云上探索實驗】活動,通過Amazon SageMaker基于Stable Diffusion模型,非常簡單快速搭建的第一個AIGC,一開始以為非常復雜,不懂動手操作,但實際上操作非常簡單,沒有想象中的恐怖,整體體驗非常愉快,我先對Amazon SageMaker簡單介紹,然后對基于Stable Diffusion模型,搭建AIGC應用簡單總結下。
二、Amazon SageMaker簡單介紹
Amazon SageMaker 是 Amazon Web Services(AWS)的一款全面的機器學習(ML)平臺,旨在讓數(shù)據(jù)科學家,開發(fā)人員和企業(yè)更輕松地構建、訓練和部署機器學習模型。Amazon SageMaker 提供了一整套工具和框架,包括數(shù)據(jù)標注、模型訓練、模型部署、自動化建模等功能,同時還支持多種常見數(shù)據(jù)科學框架,例如 TensorFlow、PyTorch 和 Apache MXNet。Amazon SageMaker 建立在 Amazon 二十年來開發(fā)現(xiàn)實世界機器學習應用程序的經(jīng)驗之上,這些應用程序包括產(chǎn)品推薦、個性化、智能購物、機器人技術和語音輔助設備。
官網(wǎng)地址地址
三、基于Stable Diffusion模型,搭建AIGC應用簡單
1、我們需要先檢查限額
我們會使用ml.g4dn.xlarge,首先需要確保 ml.g4dn.xlarge有額度,點擊這里:請點擊檢查限額?,搜索框中輸入ml.g4dn.xlarge for endpoint usage 若您的限額如圖所示,在ml.g4dn.xlarge for endpoint usage行第二列若為0,請繼續(xù)以下步驟
選中其中的ml.g4dn.xlarge for endpoint usage,然后點擊右上角橙色按鈕“請求增加配額”一步一步的往下走。
2、我們需要創(chuàng)建Amazon SageMaker Notebook實例
1)、登錄控制臺
2)、在查找服務處搜索SageMaker,然后配置筆記本實例。
3)、配置一個IAM角色
3、我們需要在AWS Cloud9 創(chuàng)建前后端 Web 應用
1)、創(chuàng)建環(huán)境
這里我們需要進行創(chuàng)建AWS Cloud9和安裝boto3這些環(huán)境等,具體操作可以看這里
2)、運行app.py和preview前端頁面
3)、簡單測試prompt
輸入:a siamese cat wearing glasses, ?working hard at the computer
4、總結
基于Stable Diffusion模型,搭建AIGC應用操作非常簡單,就算我們不是很懂,也能操作成功,功能也非常強大,體驗非常舒服,真心建議大家去使用。
四、Stable Diffusion 模型介紹和核心競爭力
1、模型結構圖
2、模型原理
3、模型訓練
訓練目標:一步步對隨機的高斯噪聲降噪(denoise)
優(yōu)勢:Latent diffusion 之所以是 “l(fā)atent”,是因為模型是在低維的潛空間(latent space)上進行擴散過程,而不是在實際的像素空間,從而降低了內(nèi)存消耗和計算復雜度(比如輸入shape是(3,512,512),下采樣因子是8,潛空間中變成了(3,64,64),節(jié)省了8×8=64倍的內(nèi)存)。訓練完之后的模型就能把一張圖表示成一個低維的潛特征。
4、模型推理
如圖(假設batch size是1),用戶輸入的 prompt 被 CLIP Text encoder 編碼為 77×768 的潛特征,隨機噪聲被表示成 64×64 的潛特征;然后 U-Net 以 prompt 的特征為條件,逐步迭代計算。U-Net 輸出的噪聲殘差,會通過調(diào)度算法(scheduler algorithm),根據(jù)先前的噪聲表示和預測的噪聲殘差,計算最終去噪的圖像潛表示。Stable Diffusion 建議的調(diào)度算法有三種:
- PNDM scheduler(Pseudo Numerical Methods for Diffusion Models on Manifolds,默認)
- DDIM scheduler
- K-LMS scheduler
得到圖像潛表示后,就可以送到 VAE 的 decoder 解碼成圖像了。
5、Stable Diffusion 算法模型的核心競爭力
- Stable Diffsuion能壓縮率更高,清晰度超越JPEG等算法。
- 與純粹基于transformer的方法相比,本文方法更適合高維數(shù)據(jù);還可以高效地應用于百萬像素圖像的高分辨率合成。
- 顯著降低計算成本,在多個任務(無條件圖像合成、inpainting、超分辨率)和數(shù)據(jù)集上實現(xiàn)了具有競爭力的性能。與基于像素的擴散方法相比,顯著降低了推理成本。
- 與之前的工作(同時學習編碼器/解碼器架構和score-based的先驗)相比,方法不需要對重構和生成能力進行精確的權衡。這確保了僅需非常少的潛空間正則化下,即可有較合理的重建效果。
- 對于超分辨率、圖像修復和語義合成等條件密集輸入型的任務,模型能以卷積的方式應用,并輸出高達1024分辨率的圖像。
- 基于交叉注意力的通用條件機制,實現(xiàn)了多模態(tài)訓練。用它來訓練類條件模型、文本到圖像模型和布局到圖像模型。
- Stable Diffsuion制作圖片速度非???。
總之只需訓練一次通用的自動編碼階段,就可以用于多次DM訓練或探索可能完全不同的任務。
五、Amazon SageMaker產(chǎn)品強大的功能特性
1、模型訓練功能
Amazon SageMaker 提供了完整的模型訓練流程,支持多種常見的深度學習和機器學習算法,包括線性回歸、邏輯回歸、k-means聚類、隨機森林等。用戶可以在 SageMaker 中選擇合適的算法,并通過簡單易用的界面或 API 進行模型訓練。此外,用戶可以使用預訓練模型或自己的模型文件進行訓練。
當然,我們還可有使用亞馬遜訓練模特 SageMaker,下圖說明了 Amazon 如何訓練和部署模型 SageMaker:。
2、模型部署功能
Amazon SageMaker 提供了多種模型部署選項,包括實時端點、批量推理和容器化部署等。用戶可以根據(jù)自己的需求選擇合適的部署方式,并通過簡單易用的界面或 API 進行部署。此外,用戶還可以根據(jù)自己的需求進行部署優(yōu)化,例如通過使用 GPU 實例加速推理速度,下圖就是工作原理。
?我們可以在點擊這里部署用于推理的模型具體深入了解。
3、數(shù)據(jù)標注功能
Amazon SageMaker 提供了一整套數(shù)據(jù)標注工具,包括文本分類、圖像分類、目標檢測等。用戶可以選擇合適的數(shù)據(jù)標注任務,并通過簡單易用的界面或 API 進行標注。此外,用戶還可以使用 Amazon Mechanical Turk 等服務來獲取更多的標注數(shù)據(jù)。
4、自動化建模功能
Amazon SageMaker 提供了自動化建模功能,可以根據(jù)用戶提供的數(shù)據(jù)自動生成模型。用戶只需要上傳數(shù)據(jù)集,SageMaker 就會自動生成最佳的模型架構和參數(shù),并進行訓練和優(yōu)化。此功能可以大大簡化模型構建的過程,提高模型的精度和效率。
5、建模能力、速度與易用性
Amazon SageMaker 提供了一整套優(yōu)秀的建模能力,可以幫助用戶快速構建高質(zhì)量的模型。同時,SageMaker 的訓練速度也非???,可以大大縮短模型訓練的時間。此外,SageMaker 的易用性也非常好,用戶可以通過簡單易用的界面或 API 進行操作,無需專業(yè)知識。
6、框架支持能力功能
Amazon SageMaker 支持多種常見的數(shù)據(jù)科學框架,包括 TensorFlow、PyTorch 和 Apache MXNet 等。用戶可以選擇合適的框架進行模型訓練和部署,并享受到 SageMaker 提供的各種優(yōu)秀功能。
7、其它特性
除了以上所述的功能特性,Amazon SageMaker 還提供了多種其他有用的功能,例如模型調(diào)優(yōu)、模型監(jiān)控、模型解釋等。這些功能可以幫助用戶更好地理解和管理自己的機器學習模型。
六、Amazon SageMaker技術原理
1、機器學習原理性能
Amazon SageMaker 基于 TensorFlow、PyTorch、MXNet 等常見的機器學習框架,使用高效的分布式計算、自動化調(diào)參、自動化特征工程等技術,提高了機器學習模型的訓練速度和效率。同時,SageMaker 還提供了多種優(yōu)秀的算法庫,可以幫助用戶更好地構建和優(yōu)化自己的機器學習模型。
1)、監(jiān)督學習
Amazon SageMaker 提供了多種內(nèi)置的通用算法,可用于分類或回歸問題。
- AutoGluon-表格
- CatBoost
- 因子分解機算法
- K 最近鄰 (k-NN) 算法
- LightGBM
- 線性學習器算法
- TabTransformer
- XGBoost 算法
- Object2Vec 算法
- DeepAR 預測算法
2)、無監(jiān)督學習
Amazon SageMaker 提供了多種內(nèi)置算法,可用于各種無監(jiān)督學習任務,例如聚類、降維、模式識別和異常檢測。
- 主成分分析 (PCA) 算法
- K-Means 算法
- IP 見解
- 隨機森林砍伐 (RCF) 算法
3 )、文本分析
SageMaker 提供專為分析自然語言處理、文檔分類或摘要、主題建?;蚍诸愐约罢Z言轉(zhuǎn)錄或翻譯中使用的文本文檔而量身定制的算法。
- BlazingText 算法
- 序列到序列算法
- 潛在狄利克雷分配 (LDA) 算法
- 神經(jīng)主題模型 (NTM) 算法
- 文本分類- TensorFlow
4)、圖像處理
SageMaker 還提供用于圖像分類、物體檢測和計算機視覺的圖像處理算法。
- 圖像分類-MXNet
- 圖像分類- TensorFlow
- 語義分割算法
- 物體檢測-MXNet
- 物體檢測- TensorFlow
2、主要功能算法總結
Amazon SageMaker 提供了多種常見的機器學習和深度學習算法,包括線性回歸、邏輯回歸、k-means聚類、隨機森林等。同時,SageMaker 還支持自定義算法,用戶可以根據(jù)自己的需求進行擴展和優(yōu)化。
七、Amazon SageMaker產(chǎn)品適用場景和體驗
1、適用場景
Amazon SageMaker 適用于各種類型和規(guī)模的機器學習項目,包括計算機視覺、自然語言處理、推薦系統(tǒng)等。它可以幫助用戶更輕松地構建、訓練和部署機器學習模型,提高模型的精度和效率。
2、體驗優(yōu)勢
1)、接入便捷
Amazon SageMaker 可以與其他 AWS 服務無縫集成,例如 Amazon S3、Amazon Redshift、AWS Lambda 等。這使得用戶可以輕松地將自己的數(shù)據(jù)和應用程序與 SageMaker 集成,無需擔心數(shù)據(jù)遷移和管理問題,點擊這里入門。
2)、功能豐富
Amazon SageMaker 提供了一整套機器學習工具和框架,包括模型訓練、模型部署、數(shù)據(jù)標注、自動化建模等功能。用戶可以根據(jù)自己的需求選擇合適的功能,并通過簡單易用的界面或 API 進行操作。
3)、幫助文檔豐富
Amazon SageMaker 提供了詳盡的幫助文檔和示例,可以幫助用戶更好地理解和使用 SageMaker。此外,AWS 還提供了豐富的支持服務,用戶可以隨時聯(lián)系 AWS 支持團隊獲取幫助。
常見問題都能得到解決
3、客戶業(yè)務案例
Amazon SageMaker 已經(jīng)被廣泛應用于各種機器學習項目中,例如:
垃圾郵件過濾:使用 SageMaker 訓練模型來識別垃圾郵件,提高郵件過濾的效率和準確率。
圖像分類:使用 SageMaker 訓練模型來識別不同類別的圖像,例如車輛、人物、動物等。
語音識別:使用 SageMaker 訓練模型來識別語音,例如語音搜索、語音識別等。
推薦系統(tǒng):使用 SageMaker 訓練模型來預測用戶的購買行為,提高推薦系統(tǒng)的準確率和效率。
部分客戶如下圖
八、Amazon SageMaker產(chǎn)品總結
1、技術總結
Amazon SageMaker 基于 TensorFlow、PyTorch、MXNet 等常見的機器學習框架,使用高效的分布式計算、自動化調(diào)參、自動化特征工程等技術,提高了機器學習模型的訓練速度和效率。同時,SageMaker 還提供了多種優(yōu)秀的算法庫和工具,可以幫助用戶更好地構建和優(yōu)化自己的機器學習模型。
2、性能總結
Amazon SageMaker 提供了高效的數(shù)據(jù)標注、模型訓練和模型部署功能,可以幫助用戶更輕松地構建、訓練和部署機器學習模型。同時,SageMaker 還提供了多種優(yōu)秀的算法庫和工具,可以提高模型的精度和效率。
3、核心競爭力總結
Amazon SageMaker 提供了一整套優(yōu)秀的機器學習工具和框架,包括模型訓練、模型部署、數(shù)據(jù)標注、自動化建模等功能。用戶可以根據(jù)自己的需求選擇合適的功能,并通過簡單易用的界面或 API 進行操作。此外,SageMaker 還提供了高效的分布式計算、自動化調(diào)參、自動化特征工程等技術,可以大大提高機器學習模型的訓練速度和效率。
4、是否滿足大眾需求總結
Amazon SageMaker 已經(jīng)被廣泛應用于各種機器學習項目中,并得到了廣泛的認可和好評。它提供了一整套優(yōu)秀的機器學習工具和框架,可以幫助用戶更輕松地構建、訓練和部署機器學習模型,提高模型的精度和效率。
九、溫馨提示
目前云上探索實驗室正在進行中,歡迎大家參與。文章來源:http://www.zghlxwxcb.cn/news/detail-407768.html
活動介紹與活動鏈接,https://dev.amazoncloud.cn/experience?trk=cndc-detail&sc_medium=corecontent&sc_campaign=product&sc_channel=csdn
活動定位:通過云上探索實驗室,開發(fā)者可以學習實踐云上技術,同時將自己的技術心得分享給其他開發(fā)者小伙伴。一同創(chuàng)造分享,互助啟發(fā),玩轉(zhuǎn)云上技術。云上探索實驗室不僅是體驗的空間,更是分享的平臺”文章來源地址http://www.zghlxwxcb.cn/news/detail-407768.html
到了這里,關于Amazon SageMaker簡直就是機器學習平臺的天花板的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關文章,希望大家以后多多支持TOY模板網(wǎng)!