AIGC（人工智能生產(chǎn)內(nèi)容） 已經(jīng)成為與PGC（專業(yè)生產(chǎn)內(nèi)容）、UGC（用戶生產(chǎn)內(nèi)容）并駕齊驅(qū)的內(nèi)容生產(chǎn)方式。由于 AI 的特性，AIGC在創(chuàng)意、個(gè)性化、生產(chǎn)效率等方面具有獨(dú)特的優(yōu)勢(shì)，這些優(yōu)勢(shì)可以使得高質(zhì)量的內(nèi)容制作更簡單，但也會(huì)幫助惡意份子更高效地炮制違法違規(guī)內(nèi)容。數(shù)據(jù)萬象從 AIGC 的輸入、生產(chǎn)、存儲(chǔ)全方面介入，發(fā)布了《AIGC 存儲(chǔ)內(nèi)容安全解決方案》，幫助各開發(fā)者及時(shí)發(fā)現(xiàn)風(fēng)險(xiǎn)信息，降低業(yè)務(wù)安全風(fēng)險(xiǎn)。

2022年，ChatGPT的推出，使 AIGC 這個(gè)名詞進(jìn)入了大眾的視野。Stable Diffusion、MidJourney等可以生成圖片的 AIGC 直接引爆了 AI 作畫領(lǐng)域。Gartner 將生成性 AI 列為2022年五大影響力技術(shù)之一。AIGC 已經(jīng)已經(jīng)成為 AI 領(lǐng)域的新疆域，推動(dòng)著人工智能步入下一個(gè)新時(shí)代。

AIGC的風(fēng)潮直接吸引了大量的開發(fā)者蜂擁而入，渴望能占到這個(gè)風(fēng)口的紅利。但現(xiàn)實(shí)情況是，大量的 AIGC 在上線初期就面臨關(guān)停風(fēng)險(xiǎn)，核心原因就在于AIGC輸出的內(nèi)容具有不確定性，導(dǎo)致這些平臺(tái)因涉嫌傳播違規(guī)內(nèi)容而被勒令下架。所以，AIGC 的發(fā)展必須解決內(nèi)容上的安全與規(guī)范。

4月11日，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，這意味著國家已經(jīng)在密切關(guān)注 AIGC 的發(fā)展，在合法合規(guī)的前提下，支持 AIGC 的商用及健康發(fā)展。

在《意見稿》中，有13條規(guī)定是面向 AIGC 平臺(tái)的，因 AI 的特性，讓 AIGC 在處理安全風(fēng)險(xiǎn)方面有著更大的挑戰(zhàn)：

• 成倍增長的審核量：AIGC 正處業(yè)務(wù)增長爆發(fā)期，數(shù)據(jù)量將持續(xù)增高；AIGC 生成內(nèi)容速度較快，短時(shí)間即可生成大量內(nèi)容。

• 對(duì)審核的時(shí)效性要求極高：隨著 AIGC 應(yīng)用的場景越來越廣泛，在實(shí)時(shí)交流等交互性強(qiáng)的場景中要求毫秒級(jí)的審核響應(yīng)。

• 違規(guī)類型多種多樣：AIGC 根據(jù)人為的“指令”生成內(nèi)容，生成內(nèi)容由大模型隨機(jī)而成，產(chǎn)出類型不可預(yù)測(cè)。

• 內(nèi)容隱晦復(fù)雜：AIGC 可被人為訓(xùn)練引導(dǎo)，生成變體文本、隱晦違規(guī)含義的圖片，對(duì)審核的準(zhǔn)確識(shí)別要求極高。

基于以上挑戰(zhàn)，騰訊云數(shù)據(jù)萬象從 AIGC 的輸入、生產(chǎn)、存儲(chǔ)全方面介入，發(fā)布了《AIGC 存儲(chǔ)內(nèi)容安全解決方案》，幫助各開發(fā)者及時(shí)發(fā)現(xiàn)風(fēng)險(xiǎn)信息，降低業(yè)務(wù)安全風(fēng)險(xiǎn)。

內(nèi)容輸入審核

• 用戶通過 AIGC 應(yīng)用輸入原始的文本、圖片?prompt?；

• 平臺(tái)可將用戶的原始輸入信息通過萬象直接進(jìn)行審核；

• 根據(jù)審核結(jié)果：敏感信息直接攔截、正常信息進(jìn)入 AIGC 大模型。

內(nèi)容生產(chǎn)審核

• 正常的?prompt?進(jìn)入大模型，生成 AI 數(shù)據(jù)（文本、圖片、音視頻）；

• 生成的圖片、文本數(shù)據(jù)通過數(shù)據(jù)萬象進(jìn)行審核；

• 根據(jù)審核結(jié)果：敏感數(shù)據(jù)直接攔截，正常的文本內(nèi)容可直接通過應(yīng)用返回給用戶，正常圖片進(jìn)入對(duì)象存儲(chǔ) COS。

內(nèi)容存儲(chǔ)審核

• 生成音視頻數(shù)據(jù)先進(jìn)入對(duì)象存儲(chǔ) COS，再通過數(shù)據(jù)萬象進(jìn)行異步審核；

• 對(duì)于存儲(chǔ)在 COS 中經(jīng)過了審核后的圖片、音視頻數(shù)據(jù)，可在應(yīng)用層通過 COS 鏈接的形式返回給用戶進(jìn)行訪問查看。

與其他安全審核服務(wù)相比，數(shù)據(jù)萬象內(nèi)容審核具有天然的存審一體化的結(jié)合優(yōu)勢(shì)：

1. 與 COS 深度集成，支持一鍵掃描審核 COS 中的歷史數(shù)據(jù)；

2. 審核模塊與 COS 之間內(nèi)網(wǎng)獲取數(shù)據(jù)，免除因拉取數(shù)據(jù)而產(chǎn)生的外網(wǎng)流量費(fèi)用；

3. 高度便捷的操作，支持?jǐn)?shù)據(jù)上傳到 COS 后自動(dòng)執(zhí)行審核、自動(dòng)凍結(jié)違規(guī)數(shù)據(jù)；

同時(shí)數(shù)據(jù)萬象支持用戶自定義審核策略，可根據(jù)不同數(shù)據(jù)場景使用不同的策略：

1. 在用戶輸入的 prompt 提示詞場景：可適當(dāng)降低審核要求，讓用戶盡可能保持輸入體驗(yàn)，重點(diǎn)攔截高度敏感的內(nèi)容；

2. 在 AIGC 模型生成的內(nèi)容場景：嚴(yán)格把控提高審核要求，確保存儲(chǔ)、分發(fā)的內(nèi)容是合法合規(guī)的，除高度敏感的內(nèi)容外，擦邊、低俗等內(nèi)容也應(yīng)在管控?cái)r截范圍內(nèi)。

不管是對(duì)新涌入的新手開發(fā)者，還是打算涉獵 AIGC 的巨頭企業(yè)，AIGC都是一個(gè)風(fēng)險(xiǎn)與機(jī)遇并存的領(lǐng)域，所有新事物的發(fā)展都必須在合法合規(guī)的前提之下。保持自身業(yè)務(wù)的安全、健康，才是 AIGC 平臺(tái)可持續(xù)發(fā)展的關(guān)鍵因素。數(shù)據(jù)萬象在內(nèi)容安全領(lǐng)域持續(xù)深耕，希望可以為各大 AIGC 平臺(tái)提供最堅(jiān)實(shí)的安全保障。

點(diǎn)擊下方鏈接了解AIGC存儲(chǔ)更多信息

AIGC存儲(chǔ)內(nèi)容安全解決方案_AIGC內(nèi)容審核_AIGC內(nèi)容合規(guī)- 騰訊云?文章來源地址http://www.zghlxwxcb.cn/news/detail-483111.html

到了這里，關(guān)于數(shù)據(jù)萬象 | AIGC 存儲(chǔ)內(nèi)容安全解決方案的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！