国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

  1. Toy模板網(wǎng)首頁
  2. >Toy博客

“零”代碼改動，靜態(tài)編譯讓太乙Stable Diffusion推理速度翻倍

2年前作者：OneFlow深度學(xué)習(xí)框架分類：Toy博客閱讀(19)違法舉報

這篇具有很好參考價值的文章主要介紹了“零”代碼改動，靜態(tài)編譯讓太乙Stable Diffusion推理速度翻倍。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方，請大家不吝賜教，您也可以點擊"舉報違法"按鈕提交疑問。

“零”代碼改動，靜態(tài)編譯讓太乙Stable Diffusion推理速度翻倍

作者｜梁德澎
?

AI 作圖領(lǐng)域的工具一直不盡人意，直到去年 8 月 Stable Diffusion 開源，成為AI 圖像生成領(lǐng)域無可爭辯的劃時代模型。

為了提升其推理效率，OneFlow 首度將 Stable Diffusion 模型加速至“一秒出圖”時代，極大提升了文生圖的速度，在AIGC領(lǐng)域引發(fā)巨大反響，并得到了 Stability.ai 官方的支持。至今，OneFlow 還在不斷刷新 SOTA 紀錄。

不過，由于目前大部分團隊主要是基于翻譯 API + 英文 Stable Diffusion 模型進行開發(fā)，所以在使用中文獨特的敘事和表達時，英文版模型就很難給出正確匹配的圖片內(nèi)容，這對部分國內(nèi)用戶來說不太方便。


為了解決這一問題，國內(nèi)的IDEA 研究院認知計算與自然語言研究中心（IDEA CCNL）也開源了第一個中文版本的“太乙 Stable Diffusion”，基于0.2億篩選過的中文圖文對訓(xùn)練。上個月，太乙 Stable Diffusion 在 HuggingFace 上有近 15 萬下載量，是下載量最大的中文 Stable Diffusion。

近期，OneFlow 團隊為太乙 Stable Diffusion 適配了 OneFlow 后端，大大提升了推理性能，也可以做到一秒出圖。不少開發(fā)者好奇OneFlow使用了哪些優(yōu)化“秘笈”，后文將進行簡要解讀。

歡迎Star、運行 OneFlow 版太乙 Stable Diffusion：
?

https://github.com/Oneflow-Inc/diffusers/wiki/How-to-Run-OneFlow-Stable-Diffusion#without-docker

1對比 PyTorch，OneFlow 將“太乙 Stable Diffusion”推理速度提升1倍以上 ?

下面的圖表分別展示了在 A100 (PCIe 40GB / SXM 80GB)，V100 ( SXM2 32GB )， RTX 2080，RTX 3080 Ti，RTX 3090， 和 T4 不同類型的 GPU 硬件上分別使用 PyTorch, 和 On文章來源地址http://www.zghlxwxcb.cn/news/detail-485383.html

到了這里，關(guān)于“零”代碼改動，靜態(tài)編譯讓太乙Stable Diffusion推理速度翻倍的文章就介紹完了。如果您還想了解更多內(nèi)容，請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！

本文來自互聯(lián)網(wǎng)用戶投稿，該文觀點僅代表作者本人，不代表本站立場。本站僅提供信息存儲空間服務(wù)，不擁有所有權(quán)，不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載，請注明出處： 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實不符，請點擊違法舉報進行投訴反饋，一經(jīng)查實，立即刪除！

領(lǐng)支付寶紅包贊助服務(wù)器費用

相關(guān)文章

  • AI繪圖實戰(zhàn)（七）：室內(nèi)設(shè)計線稿渲染、景觀設(shè)計手繪稿改動、建筑照片轉(zhuǎn)線稿｜Stable Diffusion成為設(shè)計師生產(chǎn)力工具

    AI繪圖實戰(zhàn)（七）：室內(nèi)設(shè)計線稿渲染、景觀設(shè)計手繪稿改動、建筑照片轉(zhuǎn)線稿｜Stable Diffusion成為設(shè)計師生產(chǎn)力工具

    S：AI能取代設(shè)計師么？ I ：至少在設(shè)計行業(yè)，目前AI扮演的主要角色還是超級工具，要頂替？除非甲方對設(shè)計效果無所畏懼~~ 預(yù)先學(xué)習(xí) ： 安裝及其問題解決參考：《Windows安裝Stable Diffusion WebUI及問題解決記錄》； 運行使用時問題《Windows使用Stable Diffusion時遇到的各種問題整理

    2024年02月06日
    瀏覽(23)
  • OpenVINO異步Stable Diffusion推理優(yōu)化方案

    OpenVINO異步Stable Diffusion推理優(yōu)化方案

    2022年， Stable Diffusion模型橫空出世，其成為AI行業(yè)從傳統(tǒng)深度學(xué)習(xí)時代走向AIGC時代的標(biāo)志性模型之一 ，并為工業(yè)界，投資界，學(xué)術(shù)界以及競賽界都注入了新的AI想象空間， 讓AI再次性感 。 Stable Diffusion是計算機視覺領(lǐng)域的一個生成式大模型，能夠進行文生圖（txt2img）和圖生圖

    2024年02月05日
    瀏覽(16)
  • 【Stable Diffusion/NovelAI Diffusion的AMD GPU加速推理探索】

    【Stable Diffusion/NovelAI Diffusion的AMD GPU加速推理探索】

    測試機子配置： 1：AMD RX6600(顯存8g)+i5 12600KF 16g內(nèi)存 (臺式機) 2：RTX 3070 laptop(顯存8g)+i7 10870H 32g內(nèi)存 (HP暗夜精靈筆記本) 兩臺電腦平均性能差不多，當(dāng)然N卡肯定更好一點 這邊我們還是MS大發(fā)好，用MS的DirectML推理框架推理，雖然據(jù)小道消息反饋DML推理效率遠不如Cuda，但是要知道

    2024年02月01日
    瀏覽(21)
  • 在英特爾 CPU 上加速 Stable Diffusion 推理

    在英特爾 CPU 上加速 Stable Diffusion 推理

    前一段時間，我們向大家介紹了最新一代的 英特爾至強 CPU (代號 Sapphire Rapids)，包括其用于加速深度學(xué)習(xí)的新硬件特性，以及如何使用它們來加速自然語言 transformer 模型的 分布式微調(diào) 和 推理。 英特爾至強處理器: https://www.intel.com/content/www/us/en/products/details/processors/xeon/scal

    2024年02月09日
    瀏覽(27)

  • 基于onnx模型和onnx runtime推理stable diffusion

    直接用diffusers的pipeline: 在pipeline_onnx_stable_diffusion的基礎(chǔ)上修改得到的直接調(diào)用onnx模型版本，可以用于其他推理引擎推理參考： pipe_onnx_simple.py onnx_utils_simple.py 生成1張512x512圖的shape信息

    2024年02月11日
    瀏覽(19)
  • 使用 PAI-Blade 優(yōu)化 Stable Diffusion 推理流程

    使用 PAI-Blade 優(yōu)化 Stable Diffusion 推理流程

    AIGC是人工智能計算領(lǐng)域里發(fā)展迅速的重要業(yè)務(wù)。Stable Diffusion 是其中最熱門的開源模型，受到廣泛關(guān)注。然而，隨著應(yīng)用場景不斷擴大，Stable Diffusion所面臨的推理時延和計算成本問題也越來越突出。 PAI-Blade 是 PAI 推出的通用推理優(yōu)化工具，可以通過模型系統(tǒng)聯(lián)合優(yōu)化，使模

    2024年02月09日
    瀏覽(14)
  • 使用 PAI-Blade 優(yōu)化 Stable Diffusion 推理流程(二)

    使用 PAI-Blade 優(yōu)化 Stable Diffusion 推理流程(二)

    上一篇中，我們使用了 PAI-Blade 優(yōu)化了 diffusers 中 Stable Diffusion 模型。本篇，我們繼續(xù)介紹使用 PAI-Blade 優(yōu)化 LoRA 和 Controlnet 的推理流程。相關(guān)優(yōu)化已經(jīng)同樣在? registry.cn-beijing.aliyuncs.com/blade_demo/blade_diffusion 鏡像中可以直接使用。同時，我們將介紹 Stable-Diffusion-webui 中集成 PA

    2024年02月09日
    瀏覽(14)
  • 【深度學(xué)習(xí)】SDXL tensorRT 推理，Stable Diffusion 轉(zhuǎn)onnx，轉(zhuǎn)TensorRT

    【深度學(xué)習(xí)】SDXL tensorRT 推理，Stable Diffusion 轉(zhuǎn)onnx，轉(zhuǎn)TensorRT

    juggernautXL_version6Rundiffusion.safetensors文件是pth pytroch文件，需要先轉(zhuǎn)為diffusers 的文件結(jié)構(gòu)。 FP16在后面不好操作，所以最好先是FP32: 有了diffusers 的文件結(jié)構(gòu)，就可以轉(zhuǎn)onnx文件。 項目：https://huggingface.co/docs/diffusers/optimization/onnx stabilityai/stable-diffusion-xl-1.0-tensorrt 項目：https://hug

    2024年01月19日
    瀏覽(16)
  • AIGC與AidLux互聯(lián)應(yīng)用——AidLux端AIGC測評（二）PC端&云端Stable Diffusion模型推理應(yīng)用(文生圖，圖生圖)

    AIGC與AidLux互聯(lián)應(yīng)用——AidLux端AIGC測評（二）PC端&云端Stable Diffusion模型推理應(yīng)用(文生圖，圖生圖)

    整體運行架構(gòu) Stable Diffusion模型搭建首先下載diffusers，然后安裝，命令如下： git clone https://github.com/huggingface/diffusers.git pip install diffusers cd diffusers pip install . ubuntu和win系統(tǒng)下都可以 文生圖，圖生圖代碼和訓(xùn)練好的模型見百度網(wǎng)盤（訓(xùn)練好的模型很大，十幾個g） 修改txt2jpg_in

    2024年02月09日
    瀏覽(30)

  • Stable Diffusion代碼簡介

    Stable Diffusion是一個開源的實時數(shù)據(jù)流處理引擎，用于處理流式數(shù)據(jù)。其web UI提供了一個可視化界面來展示數(shù)據(jù)流的處理過程。 以下是Stable Diffusion web UI的詳細代碼說明： 1. 界面設(shè)計 Stable Diffusion web UI使用React框架進行開發(fā)，主要組件包括Header、Sidebar、Content和Footer組件。其中

    2024年02月09日
    瀏覽(19)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包，優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包