近兩周，AI頻頻占據(jù)頭條。

“用三秒完成我一天的活?！盋hatGPT為中國(guó)眾多的小型、產(chǎn)業(yè)鏈分布綿長(zhǎng)的跨境電商企業(yè)降低了獲得定制化方案的成本。許多商家相信，ChatGPT還能處理大量的財(cái)務(wù)報(bào)表和數(shù)據(jù)分析模型，這也廣大跨境電商不需要再花錢(qián)聘請(qǐng)外部開(kāi)發(fā)機(jī)構(gòu)，建個(gè)小程序、做個(gè)客服機(jī)器人等小型需求可以通過(guò)GPT-4的全場(chǎng)景應(yīng)用來(lái)實(shí)現(xiàn)，跨境賣(mài)家有望通過(guò)ChatGPT降低人力和資本成本。

先是ChatGPT升級(jí)到GPT-4，功能變得更強(qiáng)大；隨后微軟在office中引入最新的GPT-4，給辦公帶來(lái)新變化；緊接著百度發(fā)布文心一言，引發(fā)廣泛熱議；就在前天，著名的AI繪畫(huà)工具M(jìn)idjourney也更新了最新版本，逼真形象的生成效果讓人驚呼“可怕”。

據(jù)媒體報(bào)道，很多AI藝術(shù)生成圖像無(wú)法正確渲染手部，例如，可能會(huì)出現(xiàn)7-10個(gè)手指的情況，而Midjourney v5能夠很好地生成逼真的人手。國(guó)外有網(wǎng)友直接用Midjourney V5畫(huà)出了The Matrix的電影質(zhì)感，讓人懷疑是電影里的截圖；國(guó)內(nèi)有網(wǎng)友試玩，直接畫(huà)出了一對(duì)中國(guó)情侶，視覺(jué)碾壓人類(lèi)畫(huà)師。

AI應(yīng)用已經(jīng)來(lái)到我們身邊，與此同時(shí)，新風(fēng)險(xiǎn)也在悄然降臨。

ChatGPT們帶來(lái)的新風(fēng)險(xiǎn)

科技是發(fā)展的利器，也可能成為風(fēng)險(xiǎn)的源頭。隨著AI應(yīng)用的門(mén)檻降低，被不法者利用后，ChatGPT、Midjourney帶來(lái)的風(fēng)險(xiǎn)才剛剛開(kāi)始。

合成假文章。在美國(guó)紐約從事銷(xiāo)售工作的布雷特·?？死绽肅hatGPT，在數(shù)小時(shí)內(nèi)寫(xiě)出了一本30頁(yè)帶插圖的兒童電子書(shū)《聰明的小松鼠：儲(chǔ)蓄和投資的故事》，這本書(shū)于1月通過(guò)亞馬遜自營(yíng)網(wǎng)站發(fā)售，目前已幫他賺了上百美元。今年2月份，知名科幻雜志《 Clarkesworld Magazine》宣布，由于近期收到大量由ChatGPT生成的科投稿，決定暫時(shí)關(guān)閉投稿渠道。《 Clarkesworld Magazine》雜志編輯 Neil Clarke 表示，近期收到了大量由 ChatGPT生成的科幻故事投稿，“2022年10月有25篇，到了今年1月達(dá)到100篇，2月份竟然收到500篇”。ChatGPT正威脅“真正的”作家的營(yíng)生，隨之而來(lái)的抄襲、大量低質(zhì)內(nèi)容泛濫等問(wèn)題引起關(guān)注。

合成假視頻。2020年9月，女演員艾瑪·沃特森Emma Watson的30秒換臉視頻在色情網(wǎng)站上播放超過(guò)2300萬(wàn)次。不法分子將AI換臉技術(shù)用于色情傳播，女明星是“重災(zāi)區(qū)”。通過(guò)深度偽造技術(shù)，還可以實(shí)現(xiàn)視頻/圖像內(nèi)容中人臉的替換，甚至能夠通過(guò)算法來(lái)操縱替換人臉的面部表情。

生成假新聞。2月17日，網(wǎng)絡(luò)瘋傳一條關(guān)于杭州市政府3月1號(hào)取消限行的“新聞”。真相是：杭州某小區(qū)業(yè)主群討論ChatGPT，一位業(yè)主開(kāi)玩笑說(shuō)嘗試用它寫(xiě)篇杭州取消限行的新聞稿，隨后在群里直播了使用ChatGPT的寫(xiě)作過(guò)程，還把文章發(fā)在群里。有些業(yè)主不明就里，截圖轉(zhuǎn)發(fā)，導(dǎo)致失實(shí)信息被廣泛傳播。

制造假資料。由于ChatGPT能夠產(chǎn)出高質(zhì)量的人類(lèi)口語(yǔ)文本，其可被用來(lái)進(jìn)行網(wǎng)絡(luò)欺騙，比如通過(guò)寫(xiě)出看上去合法的電子郵件內(nèi)容來(lái)實(shí)施財(cái)產(chǎn)詐騙，通過(guò)制造假的政策文件、政府公文來(lái)進(jìn)行信息欺詐。其核心是按照使用者要求自動(dòng)模仿有固定模式的文本內(nèi)容。例如，利用AI生成虛假的照片、虛假證件、虛假公司網(wǎng)站、虛假流水賬單、虛假招商文件等。

生成假文案。某個(gè)博主在寫(xiě)道，用ChatGPT寫(xiě)XXX（某社交媒體）文案，又快又好。以前我寫(xiě)一篇筆記，構(gòu)思，打草稿，排版至少需1個(gè)小時(shí)。在ChatGPT的幫助下，20分鐘就能創(chuàng)作一篇有質(zhì)量的文章，效率提升了3倍。在社交平臺(tái)的席卷下，人人皆可創(chuàng)作，內(nèi)容的龐雜與劣質(zhì)、傳播的失真與不確定性，都一再被詬病，AI的高效率會(huì)讓信息池更加雜亂。

“一本正經(jīng)地胡說(shuō)八道”。今年1月，一位中國(guó)網(wǎng)友因?yàn)閷?dǎo)師要與他討論ChatGPT的話題，于是讓ChatGPT寫(xiě)幾篇論文看看。結(jié)果，ChatGPT“編造了三篇論文，標(biāo)題作者概要啥都有，看上去跟真的似的”。最后，ChatGPT承認(rèn)了這幾篇論文都是假的。今年2月，另一名網(wǎng)友想通過(guò)ChatGPT查詢文獻(xiàn)資料，也遭遇假論文。他發(fā)微博表示：“我想要查的研究方向都有文獻(xiàn)證據(jù)，提到具體文獻(xiàn)給我編提供不了DOI但有作者和期刊頁(yè)碼信息，一查好家伙全是假的?！庇芯W(wǎng)友讓ChatGPT背一下大家熟知的《觀滄?！愤@首詩(shī)，誰(shuí)知道它并沒(méi)有回答曹操的那首著名的詩(shī)，而是自己即興創(chuàng)作了一首。也有人讓ChatGPT做一道小學(xué)數(shù)學(xué)題，它卻寫(xiě)出了一長(zhǎng)串極其復(fù)雜的計(jì)算過(guò)程，而最后給出的卻是錯(cuò)誤答案。

ChatGPT不僅存在事實(shí)性錯(cuò)誤、知識(shí)盲區(qū)和常識(shí)偏差等諸多問(wèn)題，還有面臨訓(xùn)練數(shù)據(jù)來(lái)源合規(guī)性、數(shù)據(jù)使用的偏見(jiàn)性、版權(quán)盜用等人工智能通用風(fēng)險(xiǎn)。

AI帶來(lái)三方面?zhèn)惱盹L(fēng)險(xiǎn)

“智人借助GPT升級(jí)為半智神，有沒(méi)有GPT加持，以后就是兩個(gè)物種了”，技術(shù)創(chuàng)業(yè)者大川如實(shí)說(shuō)。善用人工智能工具的技術(shù)人員，生產(chǎn)效率和速度將大幅提高，而無(wú)法使用工具的技術(shù)人員效率相比較更低，由此加劇馬太效應(yīng)，讓強(qiáng)者愈強(qiáng)、弱者愈弱。

所以，AI應(yīng)用是一把“雙刃劍”，對(duì)現(xiàn)有社會(huì)結(jié)構(gòu)及價(jià)值觀念的沖擊亦愈發(fā)明顯，對(duì)人類(lèi)社會(huì)的尊嚴(yán)、公平、正義等價(jià)值觀帶來(lái)新的挑戰(zhàn)。

一是帶來(lái)人工智能新的偏見(jiàn)與歧視。AI是由研發(fā)人員價(jià)值觀念支配下設(shè)計(jì)開(kāi)發(fā)出來(lái)的，容易受研發(fā)者秉持的價(jià)值觀念影響。由于年齡、所在地區(qū)、從事行業(yè)、教育水平等的差異，人們接觸人工智能的機(jī)會(huì)并不均等。馬太效應(yīng)的推動(dòng)下，會(huì)優(yōu)先提升獲得人工智能加持人群的生產(chǎn)能力和收益，反之亦然，影響社會(huì)發(fā)展的公平性。

二是濫用人工智能帶來(lái)的道德風(fēng)險(xiǎn)。用AI制作假新聞、假消息、假賬號(hào)、假聲音、假圖片所帶來(lái)的社會(huì)問(wèn)題越來(lái)越多。這一切都是人工智能濫用帶來(lái)的風(fēng)險(xiǎn)。

三是人工智能帶來(lái)新的法律糾紛。類(lèi)似ChatGPT是在大量不同的數(shù)據(jù)集上訓(xùn)練出來(lái)的大型語(yǔ)言模型，使用受版權(quán)保護(hù)的材料來(lái)訓(xùn)練人工智能模型，可能導(dǎo)致該模型在向用戶提供回復(fù)時(shí)過(guò)度借鑒他人的作品，從而引起著作權(quán)糾紛。此外，使用者在輸入請(qǐng)求時(shí)，輸入與已識(shí)別或者可識(shí)別的自然人有關(guān)的各種信息，容易造成商業(yè)秘密泄露，違背保密義務(wù)。

國(guó)際上對(duì)于AI的規(guī)范

技術(shù)界越來(lái)越關(guān)注AI帶來(lái)公平問(wèn)題。全球AI頂級(jí)峰會(huì)IJCAI、NeurIPS、AAAI上出現(xiàn)了越來(lái)越多的AI倫理論文，話題范圍涉及AI可解釋性、安全人工智能、隱私與數(shù)據(jù)收集、公平與偏見(jiàn)等。而在近20年以來(lái)各個(gè)大型AI會(huì)議上提及倫理關(guān)鍵字的論文標(biāo)題的數(shù)量都在逐年增加。

牛津大學(xué)學(xué)者Luciano Floridi和Josh Cowls在2019年哈佛數(shù)據(jù)科學(xué)評(píng)論雜志上發(fā)表的文章中提出了如今被學(xué)術(shù)界廣為認(rèn)可的AI倫理五原則：行善、不傷害、自治、正義以及算法可解釋性。其中，前四項(xiàng)由傳統(tǒng)的生物倫理原則沿用而來(lái)，最后一項(xiàng)則是針對(duì)人工智能算法而提出的新原則。

2019年4月，歐盟委員會(huì)發(fā)布了正式版的AI道德準(zhǔn)則《可信賴(lài)人工智能的倫理準(zhǔn)則》，提出了實(shí)現(xiàn)可信賴(lài)人工智能全生命周期的框架。該準(zhǔn)則提出，可信賴(lài)人工智能需滿足3個(gè)基本條件：

合法的，即系統(tǒng)應(yīng)該遵守所有適用的法律法規(guī)。合倫理的，即系統(tǒng)應(yīng)該與倫理準(zhǔn)則和價(jià)值觀相一致。穩(wěn)健的，不管從技術(shù)還是社會(huì)的角度來(lái)看，人工智能系統(tǒng)都可能會(huì)造成傷害。

對(duì)于人工智能從業(yè)者，該準(zhǔn)則包含四項(xiàng)道德原則：

尊重人的自主性：人類(lèi)與人工智能系統(tǒng)之間的功能分配應(yīng)遵循以人為本的設(shè)計(jì)原則，并為人類(lèi)選擇留下有意義的機(jī)會(huì)。

預(yù)防傷害：人工智能系統(tǒng)及其運(yùn)行的環(huán)境必須安全可靠，確保不會(huì)被惡意使用。弱勢(shì)群體應(yīng)得到更多關(guān)注。還必須特別注意人工智能系統(tǒng)可能由于權(quán)利或信息不對(duì)稱(chēng)而導(dǎo)致或加劇不利影響的情況。

公平性：人工智能系統(tǒng)的開(kāi)發(fā)、部署和使用必須是公平的，公平體現(xiàn)既有實(shí)質(zhì)性的也有程序性的。

可解釋性：可解釋性對(duì)于建立和維護(hù)用戶對(duì)AI 系統(tǒng)的信任至關(guān)重要，流程需要透明、人工智能系統(tǒng)的能力和目的需要公開(kāi)溝通、并且決策（在可能的范圍內(nèi)）可以向直接和間接受影響的人解釋。有時(shí)候，解釋為什么一個(gè)模型產(chǎn)生了一個(gè)特定的輸出或決策并不總是可能的。這些情況被稱(chēng)為“黑盒”算法，在這些情況下，需要其他可解釋性措施，例如，系統(tǒng)功能的可追溯性、可審計(jì)性和透明通信等。

中國(guó)AI倫理立法穩(wěn)步推進(jìn)

2017年7月，我國(guó)發(fā)布了《新一代人工智能發(fā)展規(guī)劃》。規(guī)劃提到，不僅要重視人工智能的社會(huì)倫理影響，而且要制定倫理框架和倫理規(guī)范，以確保AI安全、可靠、可控發(fā)展。

2018年1月，在國(guó)家人工智能標(biāo)準(zhǔn)化總體組的成立大會(huì)上發(fā)布了《人工智能標(biāo)準(zhǔn)化白皮書(shū)2018》。白皮書(shū)論述了人工智能的安全、倫理和隱私問(wèn)題，認(rèn)為人工智能技術(shù)需遵循的倫理要求設(shè)定要依托于社會(huì)和公眾對(duì)人工智能倫理的深入思考和廣泛共識(shí)上，并遵循一些共識(shí)原則。

2019年2月，科技部在北京召開(kāi)新一代人工智能發(fā)展規(guī)劃暨重大科技項(xiàng)目啟動(dòng)會(huì)，成立了新一代人工智能治理專(zhuān)業(yè)委員會(huì)。

2021年9月，國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布《新一代人工智能倫理規(guī)范》，提出了增進(jìn)人類(lèi)福祉、促進(jìn)公平公正、保護(hù)隱私安全、確?？煽乜尚拧?qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)等6項(xiàng)基本倫理要求。同時(shí)提出人工智能管理、研發(fā)、供應(yīng)、使用等特定活動(dòng)的18項(xiàng)具體倫理要求。

一是增進(jìn)人類(lèi)福祉。堅(jiān)持以人為本，遵循人類(lèi)共同價(jià)值觀，尊重人權(quán)和人類(lèi)根本利益訴求，遵守國(guó)家或地區(qū)倫理道德。堅(jiān)持公共利益優(yōu)先，促進(jìn)人機(jī)和諧友好，改善民生，增強(qiáng)獲得感幸福感，推動(dòng)經(jīng)濟(jì)、社會(huì)及生態(tài)可持續(xù)發(fā)展，共建人類(lèi)命運(yùn)共同體。

二是促進(jìn)公平公正。堅(jiān)持普惠性和包容性，切實(shí)保護(hù)各相關(guān)主體合法權(quán)益，推動(dòng)全社會(huì)公平共享人工智能帶來(lái)的益處，促進(jìn)社會(huì)公平正義和機(jī)會(huì)均等。在提供人工智能產(chǎn)品和服務(wù)時(shí)，應(yīng)充分尊重和幫助弱勢(shì)群體、特殊群體，并根據(jù)需要提供相應(yīng)替代方案。

三是保護(hù)隱私安全。充分尊重個(gè)人信息知情、同意等權(quán)利，依照合法、正當(dāng)、必要和誠(chéng)信原則處理個(gè)人信息，保障個(gè)人隱私與數(shù)據(jù)安全，不得損害個(gè)人合法數(shù)據(jù)權(quán)益，不得以竊取、篡改、泄露等方式非法收集利用個(gè)人信息，不得侵害個(gè)人隱私權(quán)。

四是確保可控可信。保障人類(lèi)擁有充分自主決策權(quán)，有權(quán)選擇是否接受人工智能提供的服務(wù)，有權(quán)隨時(shí)退出與人工智能的交互，有權(quán)隨時(shí)中止人工智能系統(tǒng)的運(yùn)行，確保人工智能始終處于人類(lèi)控制之下。

五是強(qiáng)化責(zé)任擔(dān)當(dāng)。堅(jiān)持人類(lèi)是最終責(zé)任主體，明確利益相關(guān)者的責(zé)任，全面增強(qiáng)責(zé)任意識(shí)，在人工智能全生命周期各環(huán)節(jié)自省自律，建立人工智能問(wèn)責(zé)機(jī)制，不回避責(zé)任審查，不逃避應(yīng)負(fù)責(zé)任。

六是提升倫理素養(yǎng)。積極學(xué)習(xí)和普及人工智能倫理知識(shí)，客觀認(rèn)識(shí)倫理問(wèn)題，不低估不夸大倫理風(fēng)險(xiǎn)。主動(dòng)開(kāi)展或參與人工智能倫理問(wèn)題討論，深入推動(dòng)人工智能倫理治理實(shí)踐，提升應(yīng)對(duì)能力。

技術(shù)與倫理如何相輔相成

一項(xiàng)新技術(shù)從研發(fā)到進(jìn)入市場(chǎng)，再到融入社會(huì)生產(chǎn)、生活，產(chǎn)生風(fēng)險(xiǎn)是難以避免的，不能因?yàn)轱L(fēng)險(xiǎn)而放棄新技術(shù)的研發(fā)和應(yīng)用。理想目標(biāo)應(yīng)是把風(fēng)險(xiǎn)最小化，把技術(shù)獲利最大化。這就要求法律和政策做到規(guī)制與保障并重。要通過(guò)法律與政策手段解決人工智能引發(fā)的風(fēng)險(xiǎn)，實(shí)現(xiàn)有序發(fā)展；同時(shí)，要確保AI創(chuàng)新發(fā)展，更好賦能經(jīng)濟(jì)社會(huì)。不過(guò)，規(guī)制與保障之間可能存在價(jià)值沖突，規(guī)制不當(dāng)可能扼殺人工智能的創(chuàng)新發(fā)展，必須審慎地處理好二者之間的關(guān)系。

歐盟在規(guī)范AI倫理問(wèn)題上下手早，但其過(guò)度監(jiān)管也給相關(guān)市場(chǎng)的發(fā)展帶來(lái)了限制，造成歐盟在數(shù)字產(chǎn)業(yè)的發(fā)展上全面落后于全球。在全球技術(shù)主權(quán)激烈競(jìng)爭(zhēng)的背景下，立法與監(jiān)管政策需要保持謹(jǐn)慎思考，在治理與發(fā)展之間做好平衡，在方便企業(yè)滿足AI倫理風(fēng)險(xiǎn)的同時(shí)，為企業(yè)、行業(yè)以及相關(guān)產(chǎn)業(yè)提供充分的發(fā)展空間。

為了降低AI倫理執(zhí)法的難度，一些國(guó)家針對(duì)特定部門(mén)和高風(fēng)險(xiǎn)應(yīng)用場(chǎng)景單獨(dú)立法。如許多國(guó)家把人工智能系統(tǒng)在醫(yī)療領(lǐng)域中應(yīng)用列為需要關(guān)注的場(chǎng)景，在這些領(lǐng)域中，算法產(chǎn)生的結(jié)果將直接關(guān)乎人類(lèi)的生命福祉。按照針對(duì)不同風(fēng)險(xiǎn)等級(jí)制定不同嚴(yán)苛程度的管理思路，可以通過(guò)分場(chǎng)景監(jiān)管，做到有收有放，進(jìn)而實(shí)現(xiàn)治理與發(fā)展的平衡。

在規(guī)范手段上，應(yīng)根據(jù)AI應(yīng)用產(chǎn)生風(fēng)險(xiǎn)的原因，有針對(duì)性地采用不同規(guī)范手段。對(duì)濫用人工智能技術(shù)引發(fā)的風(fēng)險(xiǎn)，則要依靠硬性約束。硬性約束規(guī)定明確，可操作性強(qiáng)，能夠?yàn)槿藗內(nèi)绾涡袨樘峁┚唧w指引，并且有強(qiáng)制力保障。在規(guī)范方式上，強(qiáng)化政府與企業(yè)治理協(xié)同，相輔相成，相互保障。

補(bǔ)充學(xué)習(xí)：

(254條消息) 知其黑守其白，安全情報(bào)之路——「業(yè)務(wù)安全大講堂第二季·第3期」-CSDN直播https://live.csdn.net/room/dingxiangtech/l1n3ymds文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-422620.html

到了這里，關(guān)于ChatGPT為我們帶來(lái)了什么？的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！