秒級出圖的AI繪畫終于支持Automatic1111。
今天在AI繪畫的開源平臺Automatic1111上發(fā)布了Tensorrt項目，項目地址是
https://github.com/AUTOMATIC1111/stable-diffusion-webui-tensorrt
該項目是基于automatic1111的stable-diffusion-webui項目的子項目。
基本原理：
我們知道，automatic1111是基于pytorch框架設(shè)計的，每次執(zhí)行，都會從基礎(chǔ)模型進行推算直至最終出圖。
Tensorrt是nvidia推出的推理器，在基于pytorch框架的應(yīng)用上，它可以先用pytorch進行預(yù)處理生成ONNX預(yù)處理模型，這樣完成了大量重負荷的工作，然后通過Tensorrt推理器，對ONNX進行推理計算。因此可快速生成AI繪圖。甚至可以將圖片生成速度提高至0.1秒內(nèi)。
之前我也安裝過幾個基于Tensorrt的開源項目，但功能完整性上都不及automatic1111項目全面，這次automatic1111項目推出自己的tensorrt，算是補完了這塊拼圖。
當(dāng)然，要把Tensorrt用起來，也不是這么容易的：
1. 安裝：
? ?stable diffusion中要把Tensorrt用起來，除了我們知道的Nvidia顯卡驅(qū)動，CUDA Toolkit, CUDnn外，還要安裝TensorRT, 而且TensorRT需要手動安裝，Nvidia沒有提供一鍵安裝包。
2. 硬件支持：
? ? Tensorrt, 早期版本需要SM5.0以上顯卡，新版需要SM6.0以上顯卡，要跑流暢了，需要Turing架構(gòu)以上的含Tensor core的顯卡。
3. 使用：
? ? 在實際使用時，我們需要一次性將基礎(chǔ)模型（如果用到lora，需要一同加載）轉(zhuǎn)化為ONNX模型，然后在生成圖片時選擇ONNX模型，并選擇Tensorrt方式（不需要指定lora)
優(yōu)點：出圖快！非?？?！
缺點：ONNX模型生成需要點時間，每種Lora與基模的組合，需要單獨生成ONNX模型！文章來源：http://www.zghlxwxcb.cn/news/detail-484517.html
適合：應(yīng)用場景相對固定的創(chuàng)作者--可快速大批量產(chǎn)出同樣風(fēng)格的創(chuàng)意。文章來源地址http://www.zghlxwxcb.cn/news/detail-484517.html
到了這里，關(guān)于AI秒出圖！StableDiffusion Automatic1111正式支持Tensorrt的文章就介紹完了。如果您還想了解更多內(nèi)容，請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
