去年底，OpenAI 推出的 ChatGPT ，帶來了生成式人工智能涌現(xiàn)的熱潮。它不僅能夠協(xié)助完成撰寫郵件、視頻腳本、文案、翻譯、代碼等任務(wù)，還能通過學(xué)習(xí)和理解人類的語言來進(jìn)行對(duì)話，并根據(jù)聊天的上下文進(jìn)行互動(dòng)。
但隨之而來的爭議也讓人們開始懷疑 AI 生成文本的存在是否會(huì)出現(xiàn)一些倫理問題。
據(jù)了解，美國已有很多大學(xué)生在用 ChatGPT寫作業(yè)。
為了區(qū)分人工智能和人類書寫的文本，OpenAI 不久之后推出了一款可以識(shí)別 AI 書寫的文本的工具 —— AI classifier。
這一技術(shù)主要可以識(shí)別同樣是 OpenAI 開發(fā)的 ChatGPT、GPT-3 等模型生成的內(nèi)容。
它和 ChatGPT 類似，都是一種語言模型，根據(jù)來自網(wǎng)絡(luò)的公開文本示例進(jìn)行訓(xùn)練。它不僅可以預(yù)測來自 ChatGPT 的文本，也包括來自其他文本生成 AI 模型的內(nèi)容。
最初，該工具被譽(yù)為識(shí)別由人工智能生成的文本的潛在解決方案。
然而，由于準(zhǔn)確率低，OpenAI已悄然關(guān)閉了這款人工智能檢測工具。
盡管 OpenAI 并未專門發(fā)布博文來宣布這項(xiàng)服務(wù)的關(guān)閉，但他們?cè)谠械牟┪闹羞M(jìn)行了更新，正式宣布了這一調(diào)整。
根據(jù) OpenAI 透露，該工具存在嚴(yán)重的準(zhǔn)確性問題，無法可靠地識(shí)別文本的出處。據(jù)報(bào)告顯示，識(shí)別 AI 生成內(nèi)容的準(zhǔn)確率僅為 26%，并且有 9% 的人類撰寫文本被錯(cuò)誤地標(biāo)記為 AI 生成的。
因此，該公司將該工具稱為“不完全可靠”的檢測工具。
OpenAI表示，它將繼續(xù)努力，探索更有效的技術(shù)來驗(yàn)證文本的來源。
矛與盾的較量還在繼續(xù)，我們值得期待。
官網(wǎng)博文地址：文章來源：http://www.zghlxwxcb.cn/news/detail-628311.html
https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text文章來源地址http://www.zghlxwxcb.cn/news/detail-628311.html
到了這里，關(guān)于ChatGPT下架官方檢測工具，承認(rèn)無法鑒別AI內(nèi)容的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
