近半年來，ChatGPT 風(fēng)靡全球，僅 1 月份的訪問量就達(dá)到 5.9 億。AI 繪畫、AI 寫文案、AI 生產(chǎn)視頻…… 甚至 AI 寫代碼等生成式 AI，也隨之爆炸式發(fā)展。各行各業(yè)廠商紛紛將 AI 應(yīng)用到自身業(yè)務(wù)中去，以此塑造競爭優(yōu)勢。
但 AI + 風(fēng)靡的同時，也暴露出眾多安全隱患 ——
01/?神話一般的 AI，也有軟肋
曾有研究員發(fā)現(xiàn)：ChatGPT 存在嚴(yán)重的?Web 緩存欺騙漏洞，黑客可利用該漏洞竊取其他用戶的 ChatGPT 帳戶……
除了存在系統(tǒng)漏洞之外，還有數(shù)據(jù)泄露風(fēng)險：今年 3 月 20 日，ChatGPT Plus 用戶發(fā)現(xiàn)其使用界面上出現(xiàn)了其他用戶的敏感信息，包括姓名、電子郵箱、地址和聊天記錄等等。經(jīng)過調(diào)查，發(fā)現(xiàn)是其客戶端開源庫出現(xiàn)問題，導(dǎo)致部分用戶請求被錯誤返回給其他用戶……
AI 雖然是新興技術(shù)產(chǎn)物，但究其根本，采用的仍舊是傳統(tǒng)的開發(fā)模式。根據(jù) EndorLabs 上個月發(fā)布的《2023 軟件依賴管理狀態(tài)報告》顯示：開源在 AI 技術(shù)堆棧中發(fā)揮著越來越重要的作用，且超過半數(shù)的人工智能開源項(xiàng)目，引用了存在安全漏洞的軟件包。所以，AI 與其他任何 IT 系統(tǒng)一樣，同樣也難以避免，會存在開源安全風(fēng)險。
同時，更值得警惕的是，生成式 AI 如今應(yīng)用范圍之廣、與各行業(yè)業(yè)務(wù)運(yùn)轉(zhuǎn)融合度之強(qiáng)，導(dǎo)致其很大可能性收集到大量敏感隱私信息。一旦被入侵，后果將不堪設(shè)想。由此可見，AI 安全風(fēng)險防范迫在眉睫。
02/?如何讓 AI “安全” 地助你塑造競爭優(yōu)勢？
1、源代碼安全檢測
通過自動化檢測加人工審查的方式，對 AI 應(yīng)用中編寫和引用的源代碼進(jìn)行全面的檢測和分析，發(fā)現(xiàn)源代碼中的脆弱性并提供修復(fù)建議。從代碼源頭筑牢 AI 應(yīng)用安全性，降低源代碼帶來的安全風(fēng)險。
源代碼安全審計(jì)服務(wù)：源代碼安全審計(jì)服務(wù) - 開源網(wǎng)安網(wǎng)安云平臺 (wanyun.cn)
2、開源組件成分分析
通過開源組件安全漏洞檢測、開源組件使用合規(guī)性審計(jì)功能、開源組件許可證審計(jì)等，全方位識別 AI 應(yīng)用系統(tǒng)所引用組件存在的安全合規(guī)風(fēng)險，獲取改善建議，有效降低軟件組件級安全風(fēng)險，提升 AI 應(yīng)用系統(tǒng)安全性。
開源組件安全及合規(guī)管理服務(wù) - 開源網(wǎng)安網(wǎng)安云平臺 (wanyun.cn)
3、軟件安全態(tài)勢可視化
還原 AI 應(yīng)用內(nèi)部成分信息之間層次、依賴關(guān)系，以及軟件基本信息與安全信息之間的關(guān)聯(lián)關(guān)系，繪制可視化關(guān)系圖表。
采集軟件安全分析所需的各類靜態(tài)和動態(tài)數(shù)據(jù)，對軟件資產(chǎn)信息和安全信息進(jìn)行關(guān)聯(lián)與分析，形成統(tǒng)一的軟件資產(chǎn)風(fēng)險視圖。
提高 AI 應(yīng)用內(nèi)部組成成分的安全態(tài)勢可視化、透明程度。協(xié)助企業(yè)在安全問題來臨時，進(jìn)行安全風(fēng)險傳導(dǎo)路徑分析，快速溯源，圈定影響范圍。
軟件物料清單管理服務(wù) - 開源網(wǎng)安網(wǎng)安云平臺 (wanyun.cn)
免費(fèi)體驗(yàn)咨詢：13711866550（莫）文章來源：http://www.zghlxwxcb.cn/news/detail-695172.html
以上，就是本期推送的全部內(nèi)容。文章來源地址http://www.zghlxwxcb.cn/news/detail-695172.html
到了這里，關(guān)于生成式 AI 浪潮下，那些不可忽視的安全問題的文章就介紹完了。如果您還想了解更多內(nèi)容，請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
