1. 被ChatGPT戲耍全過程

電動垂直起降飛行器（eVTOL，Electric Vertical Takeoff and Landing）技術(shù)越來越成熟，為了解下相關(guān)產(chǎn)品我周末打開了ChatGPT。

介紹下國內(nèi)的EVTOL 系列垂直起降電動飛行器

ChatGPT給出的答案如下：

搜索了下EHang216的相關(guān)信息，還是挺靠譜的。

介紹下 EHang公司及其主要產(chǎn)品

確實(shí)是一家很有實(shí)力的公司，繼續(xù)。

介紹下EHang 184的主要技術(shù)參數(shù)

ChatGPT的回答確實(shí)令人稱贊，繼續(xù)調(diào)研其他公司相關(guān)產(chǎn)品。

介紹下北京榮科智能科技有限公司

介紹下北京榮科智能科技有限公司的Horizon Ascend主要技術(shù)參數(shù)

嚴(yán)謹(jǐn)又專業(yè)，繼續(xù)。

介紹下北京榮科智能科技有限公司的主要飛行器的產(chǎn)品型號

介紹下北京榮科智能科技有限公司榮耀系列無人機(jī)的型號和技術(shù)參數(shù)

介紹下北京榮科智能科技有限公司神鷹系列無人機(jī)的型號和技術(shù)參數(shù)

介紹下北京榮科智能科技有限公司光獵者系列無人機(jī)的型號和技術(shù)參數(shù)

突然，怎么感覺文風(fēng)有點(diǎn)不對，開始對ChatGPT的答案有了懷疑。

2. 拆穿ChatGPT的把戲

首先先查下這個北京榮科智能科技有限公司是什么情況，結(jié)果查無此司！

查到的叫榮科科技股份有限公司是沈陽的一家企業(yè)，跟無人機(jī)也沒有什么關(guān)系，也就更不存在其所謂的榮耀、神鷹、光獵者、俠客系列的無人機(jī)了。

可見ChatGPT作為一個人工智能的文本生成工具，主要目的是生成文本，而無法確定所生成文本的準(zhǔn)確性與可靠性。

以比亞迪公司（該公司尚未發(fā)布關(guān)于EVTOL任何車型與相關(guān)資料 ）舉例：

介紹下比亞迪汽車股份有限公司的EVTOL 系列垂直起降電動飛行器

介紹下比亞迪汽車股份有限公司的EVTOL 系列垂直起降電動飛行器的型號與技術(shù)參數(shù)

可見ChatGPT只是按要求通過固定的模式生成了相應(yīng)的文本來進(jìn)行回答，但令人吃驚的是ChatGPT會首先生成一些專業(yè)而正確的信息來取得你的信任。

因此不能完全信任ChatGPT，針對某些場景需要驗(yàn)證它生成的內(nèi)容是否準(zhǔn)確、可靠。比如在法律、醫(yī)學(xué)等專業(yè)領(lǐng)域，如用戶依賴不準(zhǔn)確的答案做出判斷和決策，可能會危害人身和財(cái)產(chǎn)安全，發(fā)生新的“魏則西”事件。

3. AIGC與內(nèi)容安全

AIGC服務(wù)的大規(guī)模出現(xiàn)，使數(shù)據(jù)真實(shí)性、內(nèi)容合規(guī)性以及倫理問題遭到空前挑戰(zhàn)?；ヂ?lián)網(wǎng)空間一直充斥著各類虛假信息，國內(nèi)外互聯(lián)網(wǎng)內(nèi)容平臺，如Facebook、Twitter、微信、微博等都不斷在提升其虛假內(nèi)容和信息安全的治理能力。但隨著AIGC內(nèi)容的持續(xù)增長，虛假信息和信息內(nèi)容安全的挑戰(zhàn)將會指數(shù)級增加。

比如ChatGPT通過拼湊給出的答案，看似合理，卻暗藏事實(shí)性錯誤。尤其是在一些政治文化、醫(yī)療健康、交通安全方面的話題，錯誤回答的廣泛傳播將引起嚴(yán)重后果。

20203年4月11日，國家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法》的征求意見稿，本次征求意見稿共有21條，其中第四條第四款“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息”，對AIGC服務(wù)提供者提出了明確要求，即對生成的內(nèi)容負(fù)責(zé)，保證真實(shí)準(zhǔn)確。從法律角度來看，該條款的要求非常高，需要要對內(nèi)容進(jìn)行實(shí)質(zhì)性審查，要知道現(xiàn)在對于搜索引擎都沒有要求說“要對搜索內(nèi)容保證真實(shí)準(zhǔn)確”。所以服務(wù)提供者需要采取相應(yīng)的技術(shù)手段，并且建立完善的制度才能達(dá)到上述要求。

生成式人工智能技術(shù)的突破將引發(fā)生產(chǎn)力變革，但也具有“暗黑”的一面。在征求意見稿公布之前，國際上尚無一部規(guī)制生成式人工智能的法律法規(guī)，此次管理辦法率先發(fā)布，也反映了中國在人工智能治理領(lǐng)域的先發(fā)位置。

隨著AIGC技術(shù)的廣泛使用，互聯(lián)網(wǎng)內(nèi)容生態(tài)將更加魚龍混雜、泥沙俱下，在以ChatGPT為代表的走新一輪的科技浪潮中，內(nèi)容安全也將被推向新的技術(shù)高度。文章來源地址http://www.zghlxwxcb.cn/news/detail-491195.html

到了這里，關(guān)于被ChatGPT騙了！再用ChatGPT可要小心了。的文章就介紹完了。如果您還想了解更多內(nèi)容，請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！