国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

擁抱還是革命,ChatGPT時(shí)代 AI專家給出15條科研生存之道

這篇具有很好參考價(jià)值的文章主要介紹了擁抱還是革命,ChatGPT時(shí)代 AI專家給出15條科研生存之道。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問。

來源:專知? ?微信號(hào):Quan_Zhuanzhi

擁抱還是革命,ChatGPT時(shí)代 AI專家給出15條科研生存之道

你是學(xué)術(shù)機(jī)構(gòu)的人工智能研究員嗎?你是否擔(dān)心自己無法應(yīng)對(duì)當(dāng)前人工智能的發(fā)展步伐?您是否覺得您沒有(或非常有限)訪問人工智能研究突破所需的計(jì)算和人力資源?你并不孤單; 我們有同樣的感覺。越來越多的人工智能學(xué)者不再能找到資源在全球范圍內(nèi)保持競爭力。這是一個(gè)最近出現(xiàn)的現(xiàn)象,但正在加速發(fā)展,私營公司將大量計(jì)算資源投資于前沿AI研究。在這里,我們將討論學(xué)術(shù)科研工作者如何在保持競爭力。我們還簡要討論了大學(xué)和私營部門如果愿意,可以做些什么來改善這種狀況。這不是一個(gè)詳盡的策略列表,你可能不同意所有的策略,但它有助于開始討論。這些策略包括:

    • 放棄?

    • 嘗試擴(kuò)展

    • 縮小規(guī)模

    • 重用與重制?

    • 分析而非綜合

    • 強(qiáng)化學(xué)習(xí)

    • 小模型 無計(jì)算

    • 在專業(yè)應(yīng)用領(lǐng)域或領(lǐng)域開展工作?

    • ?解決目前很少關(guān)心的問題?

    • ?嘗試那些“不應(yīng)該”有效的事情?

    • 做一些“看起來不好”的事情

    • ?創(chuàng)業(yè);剝離出去!

    • ?合作或跳槽!?

    • 大型行業(yè)參與者如何提供幫助??

    • 大學(xué)如何提供幫助

https://www.zhuanzhi.ai/paper/f5b56758eda2c2fd84f5b70a9c567822

作為一個(gè)在大學(xué)里做人工智能研究的人,你與企業(yè)人工智能研究機(jī)構(gòu)(如DeepMind、Open AI、谷歌Brain和Meta AI)發(fā)展了一種復(fù)雜的關(guān)系。每當(dāng)你看到這樣一篇論文,它訓(xùn)練某種巨大的神經(jīng)網(wǎng)絡(luò)模型來做一些你甚至不確定神經(jīng)網(wǎng)絡(luò)能做的事情,毫無疑問地推動(dòng)最先進(jìn)的技術(shù),并重新配置你的想法,你會(huì)產(chǎn)生矛盾的情緒。一方面:非常令人印象深刻。很高興你推動(dòng)了人工智能的發(fā)展。另一方面:我們?cè)趺纯赡芨?作為一名人工智能學(xué)者,領(lǐng)導(dǎo)一個(gè)有幾個(gè)博士生和(如果你足夠幸運(yùn))一些博士后的實(shí)驗(yàn)室,也許在你的實(shí)驗(yàn)室中只有幾十個(gè)GPU,這種研究是根本不可能做的。

要明確的是,情況并非一直如此。就在十年前,如果你擁有一臺(tái)性能不錯(cuò)的臺(tái)式電腦和互聯(lián)網(wǎng)連接,你就擁有了與頂尖研究者競爭所需的一切。那時(shí)的突破性論文通常是由一兩個(gè)人在他們的普通工作站上完成所有實(shí)驗(yàn)。對(duì)于那些在過去十年內(nèi)進(jìn)入研究領(lǐng)域的人來說,特別值得指出這一點(diǎn),因?yàn)閷?duì)他們來說,巨大的計(jì)算資源需求是理所當(dāng)然的。

如果從深度學(xué)習(xí)中學(xué)到了一件事,那就是規(guī)?;怯行У?/strong>。從ImageNet[15]比賽及其各種冠軍,到ChatGPT、Gato[13],以及最近的GPT-4[1],我們看到更多的數(shù)據(jù)和計(jì)算能帶來數(shù)量上和很多時(shí)候甚至質(zhì)量上更好的結(jié)果。(當(dāng)你閱讀這篇文章時(shí),這個(gè)非常近期的AI里程碑列表可能已經(jīng)過時(shí)了。)當(dāng)然,學(xué)習(xí)算法和網(wǎng)絡(luò)架構(gòu)也有所改進(jìn),但這些改進(jìn)只在大規(guī)模實(shí)驗(yàn)的背景下才真正有用。(Sutton談到了“苦澀的藥丸”,指的是在更多計(jì)算資源可用時(shí),擴(kuò)展性好的簡單方法總是能夠獲勝[18]。)如今,學(xué)術(shù)研究人員無法實(shí)現(xiàn)這種規(guī)模。據(jù)我們了解,普通研究者可用的計(jì)算量與保持競爭力所需的計(jì)算量之間的差距每年都在增加。這在很大程度上解釋了為什么許多學(xué)術(shù)界的AI研究者對(duì)這些公司懷有怨恨之情。與同行之間的健康競爭是一回事,但與那些資源豐富到輕易做到你永遠(yuǎn)無法完成的事情的人競爭則是另一回事,無論你的想法有多好。當(dāng)你在一個(gè)研究課題上工作了一段時(shí)間,而DeepMind或OpenAI決定研究同樣的事物時(shí),你可能會(huì)有與小鎮(zhèn)雜貨店主人在沃爾瑪在隔壁開設(shè)商店時(shí)的感受一樣。這是令人悲哀的,因?yàn)槲覀兿M嘈叛芯渴且粋€(gè)開放且富有合作精神的事業(yè),每個(gè)人都能得到他們的貢獻(xiàn)得到認(rèn)可,不是嗎?

那么,如果你只是一位教授,擁有有限的團(tuán)隊(duì)規(guī)模和有限的計(jì)算資源,面對(duì)資金充足的研究公司的猛攻,你如何保持相關(guān)性?這是一個(gè)困擾我們和許多同事多年的問題。最近的事件,如GPT-4等模型驚人地強(qiáng)大,同時(shí)驚人地封閉源代碼且缺乏公開細(xì)節(jié),使得這個(gè)問題變得更加緊迫。我們從不同級(jí)別的多位研究者那里聽說,無論是親自還是通過社交媒體,他們都擔(dān)心在資源匱乏和大型科技公司的不公平競爭下進(jìn)行有意義的研究。首先讓我們明確一點(diǎn):我們兩個(gè)都很安全。我們擁有終身教授職位,我們?cè)趯W(xué)術(shù)界的成長相當(dāng)迅速,部分原因是因?yàn)槲覀兿到y(tǒng)地在視頻游戲領(lǐng)域推動(dòng)AI的發(fā)展。盡管我們顯然關(guān)心繼續(xù)開展相關(guān)的AI研究,但我們主要是為了更年輕的同事們寫這篇文章,他們可能想知道選擇哪條職業(yè)道路。是進(jìn)入學(xué)術(shù)界值得嘗試,還是加入大型科技公司,或者創(chuàng)立一家初創(chuàng)企業(yè)?從事AI職業(yè)是個(gè)好主意,還是當(dāng)一名水管工更好?你應(yīng)該成為機(jī)器中的一個(gè)齒輪,還是一個(gè)叛逆者?(當(dāng)你一無所失時(shí),通常更容易成為叛逆者,這要么是在職業(yè)生涯初期,要么是獲得終身職位時(shí)。)盡管一個(gè)人可以非常熟練,但這場保持競爭力的輝煌戰(zhàn)斗是否已經(jīng)輸?shù)袅??我們是不是就要在這里順從我們的規(guī)律?這篇論文部分是作為認(rèn)真的建議,部分是作為情感上的鼓勵(lì),但最重要的是與大家展開討論,在戰(zhàn)斗徹底失敗之前改善我們作為學(xué)者的地位。我們并不希望阻止AI技術(shù)的發(fā)展(即使我們能);相反,我們希望討論那些能使盡可能多的人參與這一旅程的策略。

如果你是一名人工智能學(xué)者,對(duì)你的選擇感到絕望,下面是一些想法的列表。這些選項(xiàng)沒有特定的順序。我們?cè)谶@里也沒有提出任何特別的建議。然而,在文件的最后,我們討論了大型科技公司和大學(xué)可以做些什么來改善這種情況。在那里,我們提出了一些具體的建議。

2. 放棄吧!

放棄總是一個(gè)選擇。不是放棄做研究,而是放棄做真正具有影響力和突破性的事情。在中等級(jí)別的期刊和會(huì)議上發(fā)表論文,仍然有很多技術(shù)細(xì)節(jié)和次次問題可以探討。注意:(1)這種方法最適合已經(jīng)有穩(wěn)定職位的人,而且你并不太關(guān)心晉升;(2)當(dāng)你決定從事研究生涯時(shí),這并不是你真正想要做的事情,對(duì)吧?因?yàn)檫@種激烈的競爭而強(qiáng)迫自己調(diào)整研究議程,類似于調(diào)整研究以適應(yīng)歐洲委員會(huì)或美國國家科學(xué)基金會(huì)等資助機(jī)構(gòu)的某些任意優(yōu)先事項(xiàng)。至少爭取后者可能為你的實(shí)驗(yàn)室提供一些資金,反過來,可以幫助你與一些有才華的AI研究者和博士生合作。值得注意的是,我們兩人都認(rèn)為自己非常幸運(yùn),因?yàn)槲覀冊(cè)?jīng)協(xié)調(diào)或參與了一些小型和大型研究項(xiàng)目,這些項(xiàng)目讓我們能夠支持我們的研究議程,并幫助我們(部分地)確保我們的職位。

3 嘗試擴(kuò)展?

與壓倒性的競爭對(duì)抗是一種令人欽佩的情懷。如果擴(kuò)展有效,讓我們?cè)诖髮W(xué)實(shí)驗(yàn)室里實(shí)現(xiàn)它!讓我們?nèi)ヌ魬?zhàn)風(fēng)車(GPU風(fēng)扇)!最明顯的問題是獲取CPU和GPU的途徑。假設(shè)你從某個(gè)地方獲得了5萬美元的云計(jì)算資金,并開始運(yùn)行你的大型實(shí)驗(yàn)。但與訓(xùn)練類似GPT-3的項(xiàng)目所需的費(fèi)用相比,這是非常少的。最近一個(gè)能在Minecraft中制作鉆石稿的OpenAI代理需要在720個(gè)V100 GPU上訓(xùn)練9天[2];這相當(dāng)于花費(fèi)幾十萬美元進(jìn)行一次實(shí)驗(yàn)。即使是享有聲譽(yù)的ERC(歐盟)或NSF(美國)資助也無法支持如此高的投資水平。然而,花費(fèi)5萬美元在云計(jì)算上可以讓你獲得比一堆游戲PC更多的計(jì)算能力,所以你可以稍微擴(kuò)展一下。至少對(duì)于那個(gè)實(shí)驗(yàn)來說。但正如我們所知,大多數(shù)實(shí)驗(yàn)在第一次嘗試時(shí)是行不通的。對(duì)于我們看到的每一個(gè)大型實(shí)驗(yàn),我們需要花費(fèi)數(shù)月甚至數(shù)年的時(shí)間進(jìn)行原型設(shè)計(jì)、概念驗(yàn)證、調(diào)試、參數(shù)調(diào)優(yōu)和失敗的嘗試。你需要不斷地獲得這種計(jì)算能力。不太明顯的問題是,你需要一個(gè)合適的團(tuán)隊(duì)來構(gòu)建可擴(kuò)展的實(shí)驗(yàn)軟件,這與學(xué)術(shù)工作結(jié)構(gòu)并不容易兼容。計(jì)算機(jī)科學(xué)領(lǐng)域的典型學(xué)術(shù)研究實(shí)驗(yàn)室的大多數(shù)成員都是需要在幾年內(nèi)完成學(xué)業(yè)的博士生,他們需要進(jìn)行獨(dú)立的項(xiàng)目工作,發(fā)表多篇第一作者論文,以便在畢業(yè)后找到工作。一個(gè)大型AI項(xiàng)目通常意味著團(tuán)隊(duì)的大部分成員需要在同一個(gè)項(xiàng)目上工作很多個(gè)月或者幾年,而只有其中一個(gè)人可以成為論文的第一作者。團(tuán)隊(duì)可能還包括一些執(zhí)行“平凡”的軟件工程任務(wù)的人員,這些任務(wù)對(duì)項(xiàng)目的成功至關(guān)重要,但它們本身并不被視為AI研究。成功的大型項(xiàng)目所需的結(jié)構(gòu)與學(xué)術(shù)界的結(jié)構(gòu)根本不兼容。

4 縮小規(guī)模?

一種繞過問題的熱門方法是關(guān)注簡單而具有代表性的(玩具)問題,這些問題將在理論上證明一種新方法的優(yōu)勢,或展示一種新方法的相對(duì)優(yōu)勢。比如,一篇關(guān)于行為變換器的最近論文[17]展示了該方法在一個(gè)只需要簡單的多層感知器來解決的玩具導(dǎo)航任務(wù)上的優(yōu)勢。后來在[11]中采用了類似的方法。然而,這兩項(xiàng)研究可能具有影響力,因?yàn)樗鼈冊(cè)谛枰笮湍P秃痛罅坑?jì)算訓(xùn)練的流行游戲和機(jī)器人基準(zhǔn)問題上展示了算法的能力。在[10]中,我們?cè)俅斡^察到了相同的模式:在一個(gè)玩具(賭博)環(huán)境中提出了一個(gè)案例,但影響力,可以說,來自于該算法在更復(fù)雜但計(jì)算密集型問題中所展示的相對(duì)優(yōu)勢。這種方法的一個(gè)缺點(diǎn)是,人們會(huì)被高分辨率的漂亮顏色所吸引,把一輛真正的汽車在道路上導(dǎo)航比一輛玩具汽車更認(rèn)真對(duì)待,盡管挑戰(zhàn)可能是相同的。因此,你會(huì)得到較少的媒體曝光。此外,還有一些領(lǐng)域,如語言,很難進(jìn)一步縮小規(guī)模。

5 重用與重制?

過去十年中,AI之所以能夠如此迅速地發(fā)展,核心原因之一就是研究人員將他們的代碼和模型共享給科學(xué)界。在過去,模型共享和代碼可訪問性既不是AI研究人員的常規(guī)做法,也不是他們的優(yōu)先事項(xiàng)。能夠訪問預(yù)先訓(xùn)練好的大型模型,如ImageNet [15]、ViT [4]或GPT的變體[?],可以幫助你節(jié)省時(shí)間和精力,因?yàn)槟憧梢圆捎盟鼈兊拇蟛糠謨?nèi)容,并對(duì)自己的特定問題進(jìn)行微調(diào)。可以說,一個(gè)人需要假設(shè)這些大型模型的表示足夠通用,以便在有限的訓(xùn)練中為下游任務(wù)提供良好的性能。不幸的是,對(duì)大型模型進(jìn)行微調(diào)和事后分析通常還不足以提供良好的性能。

6 分析而非綜合

另一種方法是分析公開可用的預(yù)訓(xùn)練模型。雖然這可能不會(huì)直接為新功能做出貢獻(xiàn),但仍然可以取得科學(xué)進(jìn)展。目前的狀況是,我們擁有公開可用的優(yōu)秀文本和圖像生成模型,但我們對(duì)它們的理解并不充分。實(shí)際上,我們幾乎沒有完全理解它們。讓我們面對(duì)現(xiàn)實(shí):對(duì)于任何人來說,變換器都不是直觀的東西,而這些模型所接受的培訓(xùn)數(shù)據(jù)的規(guī)模本身幾乎是無法理解的。有很多工作要做,例如以創(chuàng)造性的方式探測它們,并開發(fā)可視化和概念設(shè)備來幫助我們理解它們。人們可以用不同的心態(tài)進(jìn)行分析。嘗試尋找和描述已經(jīng)學(xué)到的特定電路和機(jī)制是有用的,可以幫助我們(好吧,其他有資源的人)在未來創(chuàng)造更好的模型。但是人們也可以扮演不斷尋找破解方法的糾纏不休的角色!這是有價(jià)值的,不管那些試圖從大型模型中獲利的人怎么說。?

7 強(qiáng)化學(xué)習(xí)!無數(shù)據(jù)!?

人們可能會(huì)降低對(duì)數(shù)據(jù)的要求,而是通過(在線)強(qiáng)化學(xué)習(xí)(RL)的視角來處理AI問題。遵循RL路徑可能允許您繞過與數(shù)據(jù)可用性、分析、存儲(chǔ)和處理相關(guān)的所有問題;然而,它并不一定減少所需的計(jì)算工作量。事實(shí)上,即使是最有效的RL方法也被認(rèn)為在計(jì)算方面非常繁重,因?yàn)樘剿鬟^程本身就很昂貴。此外,塑造獎(jiǎng)勵(lì)函數(shù)通常涉及黑魔法(非正式)或?qū)嵱弥腔郏ǜ剑┑男问健R簿褪钦f,研究人員通常需要不斷地用不同類型的獎(jiǎng)勵(lì)(以及其他超參數(shù))運(yùn)行漫長的實(shí)驗(yàn)才能取得突破性的結(jié)果。因此,最終還是要降低問題的復(fù)雜性。關(guān)鍵是,如果您想擺脫大數(shù)據(jù)集,除非您在簡單(玩具)問題或?qū)iT領(lǐng)域工作,否則您可能仍然面臨大型計(jì)算;下一節(jié)將專門討論后一種策略。

8 小模型!無計(jì)算!?

另一種有效策略是在模型規(guī)模上進(jìn)行妥協(xié)以節(jié)省計(jì)算。在許多情況下,您可能希望或需要一個(gè)較小的模型。想象一下,能夠解決問題或完成任務(wù)的最小模型。這對(duì)現(xiàn)實(shí)世界的應(yīng)用尤為重要。例如游戲、物聯(lián)網(wǎng)和自動(dòng)駕駛汽車等領(lǐng)域,可以讓AI部署在終端用戶旁邊以及用戶生成的數(shù)據(jù)旁邊,即在網(wǎng)絡(luò)的邊緣。這通常被稱為邊緣AI[8],當(dāng)內(nèi)存要求較低且推理迅速發(fā)生時(shí),AI應(yīng)用可以在物理世界的設(shè)備上運(yùn)行。神經(jīng)進(jìn)化和神經(jīng)結(jié)構(gòu)搜索[8]以及知識(shí)蒸餾[5, 9]方法只是邊緣AI可用方法的一部分。注意,除了從較小的模型中學(xué)到更多信息外,還可以嘗試從更少的數(shù)據(jù)中學(xué)到更多信息[6]。遵循這條研究路徑可能會(huì)在我們理解模型內(nèi)部運(yùn)作方面帶來重大突破。研究小型AI模型使得分析變得更容易,提高了模型所做的事情的可解釋性。在設(shè)備上部署模型有助于解決隱私問題。重要的是,它支持綠色AI研究倡議[16],提倡包容性AI,考慮(并試圖最小化)其環(huán)境足跡。顯然,小型模型能做的事情是有限的,但我們認(rèn)為這個(gè)研究方向的重要性將在未來幾年急劇增長。

9 在專業(yè)應(yīng)用領(lǐng)域或領(lǐng)域開展工作?

選擇一個(gè)小眾但已經(jīng)建立的研究領(lǐng)域是一種相當(dāng)有效的策略,這個(gè)領(lǐng)域可能超出了行業(yè)的直接興趣范圍,嘗試在該領(lǐng)域內(nèi)創(chuàng)新。通常,將您的想法帶到一個(gè)全新的領(lǐng)域并進(jìn)行測試是一種成功的策略,但較少情況下,這些成果會(huì)對(duì)該領(lǐng)域之外產(chǎn)生很大的影響。有很多例子表明,小眾領(lǐng)域最終由于少數(shù)專注的研究人員的推動(dòng)而變得占主導(dǎo)地位。我們目前主要采取這種策略,將游戲領(lǐng)域的AI作為我們的主要科學(xué)社區(qū),因?yàn)楹苌儆写蠊緯?huì)認(rèn)真投入到現(xiàn)代游戲AI。想想早期00年代,視頻游戲領(lǐng)域如何滲透并主導(dǎo)了機(jī)器人和計(jì)算機(jī)視覺研究社區(qū)(例如當(dāng)時(shí)的IJCAI和AAAI會(huì)議系列)。想想神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)方法在支持向量機(jī)和回歸模型投資社區(qū)的主導(dǎo)地位(例如十年前的NeurIPS會(huì)議)。還可以思考強(qiáng)化學(xué)習(xí)和深度學(xué)習(xí)如何改變了多智能體學(xué)習(xí)和認(rèn)知/情感建模的核心原則,例如在AAMAS,ACII和IVA會(huì)議代表的社區(qū)中。這種策略的一個(gè)核心缺點(diǎn)是在AI領(lǐng)域最具影響力的大型場合(如NeurIPS,AAAI,ICML和IJCAI)很難讓您的論文被接受。您的論文及其結(jié)果可能最終無法引起廣泛關(guān)注。然而,創(chuàng)建您自己的社區(qū)并擁有自己的出版會(huì)議是非??赡艿?。

10 解決目前很少關(guān)心的問題?

專注于一個(gè)已經(jīng)確立的細(xì)分市場或應(yīng)用領(lǐng)域是相對(duì)安全的策略,而尋找一個(gè)尚不存在的細(xì)分市場或應(yīng)用則有一定的風(fēng)險(xiǎn)?;旧?,關(guān)注幾乎沒有人看到其重要性的問題,或者沒有人認(rèn)為有前景的方法。一個(gè)方法是尋找人們尚未認(rèn)真將人工智能應(yīng)用于其中的領(lǐng)域。一個(gè)好主意是研究一個(gè)既不及時(shí)也不“性感”的領(lǐng)域。這里的賭注是,這個(gè)特定的應(yīng)用領(lǐng)域?qū)⒃谖磥碜兊弥匾?,無論是因?yàn)樗旧淼膬r(jià)值,還是因?yàn)樗蛊渌麞|西變得可能。我們兩個(gè)人都走了這條路。15年前,游戲的程序化內(nèi)容生成是一個(gè)非常小眾的話題,我們都幫助將其引入研究界[20, 23];最近,它不僅對(duì)游戲行業(yè)變得更加重要,還作為一種幫助泛化(深度)強(qiáng)化學(xué)習(xí)的途徑變得更加重要[14, 19]。強(qiáng)化學(xué)習(xí)研究是一個(gè)擁有每年成千上萬論文發(fā)表的核心人工智能領(lǐng)域,這使得這個(gè)曾經(jīng)相對(duì)鮮為人知的話題變得更加重要。這種高風(fēng)險(xiǎn)高回報(bào)的心態(tài)可能導(dǎo)致一條孤獨(dú)的道路,但從長遠(yuǎn)來看,它可能會(huì)帶來豐厚的回報(bào)。因此,看看周圍,和不是人工智能研究員的人交談。你看到哪些問題領(lǐng)域很少應(yīng)用人工智能,而人工智能研究員似乎并不了解或關(guān)心?未來可能會(huì)有人關(guān)心這些領(lǐng)域嗎?如果是這樣,你可能需要在其中一個(gè)領(lǐng)域深入挖掘。

11 嘗試那些“不應(yīng)該”有效的事情?

小型學(xué)術(shù)團(tuán)隊(duì)的另一個(gè)相對(duì)優(yōu)勢是能夠嘗試那些“不應(yīng)該有效”的事物,這意味著它們不受理論或?qū)嶒?yàn)證據(jù)支持。大型工業(yè)研究實(shí)驗(yàn)室的動(dòng)態(tài)通常是研究人員有動(dòng)力嘗試那些可能有效的事物;否則,錢就會(huì)損失。在學(xué)術(shù)界,失敗可能與成功一樣有啟發(fā)性和價(jià)值,而且整體風(fēng)險(xiǎn)較低。許多AI領(lǐng)域的重要發(fā)明和觀念來自于嘗試“錯(cuò)誤”的事物。特別是,深度學(xué)習(xí)的所有內(nèi)容都源于研究人員固執(zhí)地研究神經(jīng)網(wǎng)絡(luò),盡管有很好的理論原因表明它們不應(yīng)該有效。

12. 做一些“看起來不好”的事情

一家公司越大、越重要,就越容易受到道德和觀念的約束。任何公司最終都要對(duì)其股東負(fù)責(zé),如果股東認(rèn)為公司遭受“聲譽(yù)損害”,他們可以很容易地解雇首席執(zhí)行官。因此,大公司會(huì)盡量避免做任何看起來很糟糕的事情。為了解決這個(gè)問題,大公司有時(shí)會(huì)資助初創(chuàng)公司做更多可能出錯(cuò)的實(shí)驗(yàn)性工作(想想微軟和OpenAI)。但即使是這樣的戲劇也有局限性,因?yàn)樵愀獾墓P(guān)可能會(huì)像舊金山灣的潮水一樣涌回來。作為一個(gè)沒有職位或已經(jīng)有一個(gè)安全職位的個(gè)人研究員,你不會(huì)有任何損失。你可以做你想做的瘋狂的事情。你只受法律和你自己人格的約束。我們絕不認(rèn)為你應(yīng)該做不道德的研究。無論如何,試著做正確的事情。但是,你認(rèn)為令人反感的東西,可能與美國沿海地區(qū)一群受教育程度過高、以自由派為主的白人工程師所認(rèn)為的令人反感的東西截然不同。富??萍脊镜墓P(guān)部門、倫理委員會(huì)和董事會(huì)信奉一套非常特殊的價(jià)值觀。但是世界很大,充滿了不同的人,不同的文化。所以有一個(gè)很大的機(jī)會(huì)去做這些科技公司即使可以做也不會(huì)做的研究。作為一個(gè)利用這種機(jī)會(huì)的項(xiàng)目的例子,我們中的一個(gè)人參與了一個(gè)項(xiàng)目,通過創(chuàng)建一個(gè)自動(dòng)補(bǔ)全系統(tǒng)來批判性地檢查當(dāng)前寫作支持系統(tǒng)中“中性英語”的正統(tǒng)性,該語言模型假設(shè)你以查克·廷格(Chuck Tingle)的語氣寫作,查克·廷格是荒謬的科幻政治諷刺小說《同性戀情色》(gay erotica[7])的著名作者。我們的猜測是,這個(gè)項(xiàng)目不會(huì)被Amazon或谷歌批準(zhǔn)出版。另一個(gè)例子就是這篇論文。同樣,你可能會(huì)發(fā)現(xiàn),你偏離了大型科技公司關(guān)于裸體、性、粗魯、宗教、資本主義、共產(chǎn)主義、法律和秩序、正義、平等、福利、代表、歷史、生殖、暴力或其他話題的文化共識(shí)。由于所有AI研究都發(fā)生在文化和政治背景中,并受到其影響,因此請(qǐng)將偏離常規(guī)視為一次機(jī)會(huì)。如果你不能做他們不能做的研究,那就做他們不愿做的研究。

13 創(chuàng)業(yè);剝離出去!?

現(xiàn)在應(yīng)該很明顯,學(xué)術(shù)界在某種程度上,矛盾地限制了學(xué)術(shù)人工智能研究。即使有人設(shè)法獲得大規(guī)模的數(shù)百萬項(xiàng)目,這也僅涵蓋了現(xiàn)代AI研究所需的人力和計(jì)算資源的一部分。AI科學(xué)家之間的一個(gè)流行選擇是將他們的想法從大學(xué)實(shí)驗(yàn)室剝離出去,創(chuàng)立一家公司,逐步將AI研究轉(zhuǎn)化為一系列商業(yè)標(biāo)準(zhǔn)的服務(wù)或產(chǎn)品。兩位作者都通過共同創(chuàng)立modl.ai [12] 參與了這個(gè)過程,并從中學(xué)到了很多。成為應(yīng)用AI領(lǐng)域的一員有很多好處。原則上,您可以獲得實(shí)際應(yīng)用中豐富的數(shù)據(jù),而這些數(shù)據(jù)您以前無法獲得。此外,您的AI算法在具有挑戰(zhàn)性的商業(yè)標(biāo)準(zhǔn)應(yīng)用中得到測試,并且必須在實(shí)際環(huán)境中運(yùn)行。最后,您通常會(huì)獲得更多的計(jì)算能力,并且如果初創(chuàng)公司擴(kuò)大規(guī)模,您將獲得不斷增長的人力資源。然而,這個(gè)過程遠(yuǎn)非理想,因?yàn)橛袔讉€(gè)限制因素需要考慮。首先,并非所有研究想法都直接適用于創(chuàng)業(yè)商業(yè)模式。您最好的研究想法可能在理解世界方面非常出色,或者至少能在高度知名的場合發(fā)表,但這并不意味著可以輕易地將其制成產(chǎn)品。其次,如今實(shí)驗(yàn)室中取得的許多杰出成果可能需要經(jīng)歷漫長的跑道,直到它們變成某種商業(yè)案例。大多數(shù)初創(chuàng)公司進(jìn)行開發(fā)而不是研究,因?yàn)榕艿垒^短,你需要在兩年左右的下一輪融資之前擁有一個(gè)功能正常的產(chǎn)品,最好還有一些市場吸引力。第三,即使您獲得了一些投資,這并不意味著您擁有無限的計(jì)算預(yù)算。種子基金通常在數(shù)百萬美元的范圍內(nèi),這并不能讓您具備進(jìn)行OpenAI級(jí)別實(shí)驗(yàn)的能力,尤其是您需要支付員工真實(shí)的工資(而非博士生津貼)。第四,并非每個(gè)AI學(xué)者都喜歡這種冒險(xiǎn)。歸根結(jié)底,大多數(shù)學(xué)者在選擇學(xué)術(shù)職業(yè)道路時(shí),早就對(duì)他們的優(yōu)先事項(xiàng)達(dá)成了共識(shí)。

14 合作或跳槽!?

如果上述所有選項(xiàng)都不適合您,而您仍然想通過大規(guī)模方法進(jìn)行創(chuàng)新,這些方法需要大量數(shù)據(jù)進(jìn)行訓(xùn)練,那么您可以始終與擁有計(jì)算和數(shù)據(jù)的人合作。有幾種方法可以繼續(xù)采用這種方法。位于領(lǐng)先AI公司附近的大學(xué)具有相對(duì)優(yōu)勢,因?yàn)楸镜厣缃痪W(wǎng)絡(luò)和面對(duì)面會(huì)議使得合作更容易。遠(yuǎn)程大學(xué)的研究人員仍然可以通過研究訪問、實(shí)習(xí)和實(shí)習(xí)作為聯(lián)合研究項(xiàng)目的一部分建立合作關(guān)系。更激進(jìn)地說,一些成熟的AI教授決定將他們的部分(如果不是全部)研究時(shí)間投入到工業(yè)合作伙伴那里,甚至將整個(gè)實(shí)驗(yàn)室搬到那里。這種合作伙伴關(guān)系、實(shí)習(xí)或?qū)嶒?yàn)室轉(zhuǎn)移的結(jié)果可能是驚人的 [21,22]。乍一看,這對(duì)AI學(xué)者來說似乎是最好的前進(jìn)方式,然而,1) 產(chǎn)生的知識(shí)產(chǎn)權(quán)并不總是可以發(fā)表,2) 并非所有人都能或愿意在AI產(chǎn)業(yè)實(shí)驗(yàn)室工作。有人甚至認(rèn)為,創(chuàng)新應(yīng)該由公共機(jī)構(gòu)在產(chǎn)業(yè)的支持下推動(dòng),而不是反過來。因此,大學(xué)有責(zé)任保留(部分或全部)其培養(yǎng)的才華橫溢的AI研究人員(學(xué)者和學(xué)生)以及他們產(chǎn)生的知識(shí)產(chǎn)權(quán)。否則,AI教育和研究最終將在大學(xué)環(huán)境中變得多余。接下來,讓我們更仔細(xì)地看一下這種關(guān)系,并概述工業(yè)公司和大學(xué)之間可能互相幫助的方式。

15 大型行業(yè)參與者如何提供幫助??

目前尚不清楚擁有充足資金的AI實(shí)驗(yàn)室的大公司是否真的想幫助緩解這種情況。個(gè)別研究人員和管理者可能關(guān)心學(xué)術(shù)AI研究的低迷,但公司關(guān)心的是底線和股東價(jià)值,擁有競爭力的學(xué)術(shù)研究社區(qū)可能或可能不符合他們的最佳利益。然而,在很大程度上,大型私營部門行為體確實(shí)關(guān)心這個(gè)問題,他們可以做很多事情。從最基本的層面上說,開放源代碼的模型,包括權(quán)重和訓(xùn)練腳本,會(huì)有很大幫助。這允許學(xué)術(shù)AI研究人員研究經(jīng)過訓(xùn)練的模型,對(duì)其進(jìn)行微調(diào),并圍繞它們構(gòu)建系統(tǒng)。這仍然讓學(xué)術(shù)研究人員在訓(xùn)練新模型方面處于劣勢,但這是一個(gè)開始。值得贊揚(yáng)的是,一些大型工業(yè)研究組織定期公開發(fā)布他們最有能力的模型。其他組織沒有這樣做,他們因?yàn)椴贿@樣做而受到譴責(zé)是理所當(dāng)然的。改善這種情況的下一步是與學(xué)術(shù)界合作。如前所述(請(qǐng)參閱第14節(jié)),一些大型機(jī)構(gòu)經(jīng)常這樣做,主要是通過接受現(xiàn)任博士生作為實(shí)習(xí)生,允許他們進(jìn)行大規(guī)模工作。有些公司提供給某些學(xué)術(shù)研究者聯(lián)合任職,還有一些甚至偶爾提供研究資助。所有這些都很好,但還可以做更多。特別是,學(xué)者們可以通過提出他們將共同完成的工作來發(fā)起合作。更進(jìn)一步地說,那些真正想要幫助彌補(bǔ)學(xué)術(shù)界和產(chǎn)業(yè)界鴻溝的私營公司可以選擇公開合作:公布他們的計(jì)劃,提交代碼、模型和開發(fā)更新到公共存儲(chǔ)庫,允許學(xué)者自由貢獻(xiàn)。這不是大多數(shù)公司的工作方式,通常他們有很好的保密理由。另一方面,讓學(xué)者免費(fèi)為你的代碼和培訓(xùn)做貢獻(xiàn),可能會(huì)有很大的收獲。

16 大學(xué)如何提供幫助?

盡管產(chǎn)業(yè)界可能愿意提供幫助,但主要的倡議應(yīng)該來自那些希望推動(dòng)創(chuàng)新的大學(xué)。值得注意的是,更廣泛的AI領(lǐng)域中一些最具影響力的論文涉及到大學(xué)部門。這些論文是由與公司合作或參與公司工作的研究人員共同撰寫的。成功的例子已經(jīng)有了[21, 22, 3],但大學(xué)需要做更多的工作來促成這樣的合作。事實(shí)上,學(xué)術(shù)機(jī)構(gòu)有很多方法可以啟動(dòng)和促進(jìn)與產(chǎn)業(yè)界的合作。大學(xué)還可以幫助教職員工應(yīng)對(duì)發(fā)生變化的競爭格局,鼓勵(lì)和允許他們更具冒險(xiǎn)精神。學(xué)術(shù)研究人員在AI領(lǐng)域的比較優(yōu)勢在于進(jìn)行更多高風(fēng)險(xiǎn)的探索,因此大學(xué)的激勵(lì)結(jié)構(gòu)必須發(fā)生改變以適應(yīng)這一點(diǎn)。例如,期望在頂級(jí)會(huì)議(如NeurIPS和AAAI)上持續(xù)發(fā)表論文是不合理的;大型、資金充足的產(chǎn)業(yè)研究實(shí)驗(yàn)室在撰寫這類論文方面具有很大優(yōu)勢。同樣,資助結(jié)構(gòu)獎(jiǎng)勵(lì)在熱門話題上進(jìn)行安全和漸進(jìn)式的研究;這似乎是評(píng)估資助申請(qǐng)的方式固有的特征,無論資助機(jī)構(gòu)如何使用“顛覆性”等詞匯,這一現(xiàn)象都不太可能改變。最傳統(tǒng)(封閉式)資助機(jī)制所偏愛的研究類型,主要是學(xué)術(shù)研究人員無法與產(chǎn)業(yè)界競爭的研究類型。因此,大學(xué)應(yīng)該避免將資助作為聘用和晉升的條件。如果大學(xué)認(rèn)真對(duì)待激勵(lì)教師發(fā)揮競爭優(yōu)勢,他們應(yīng)該獎(jiǎng)勵(lì)嘗試和失敗,并推動(dòng)高風(fēng)險(xiǎn)高收益的資助方案和研究計(jì)劃。這樣一來,資助機(jī)構(gòu)很可能會(huì)順應(yīng)潮流,在基礎(chǔ)研究和藍(lán)天研究上投入更多資金。

17 結(jié)語

我們寫這封信有幾個(gè)目的。

首先,與其他人工智能研究人員分享我們的關(guān)注,希望作為一個(gè)社區(qū)找到一個(gè)共同的事業(yè)(和集體補(bǔ)救?)其次,根據(jù)我們自己的經(jīng)驗(yàn)以及我們?cè)趨⑴c或組織的學(xué)術(shù)和工業(yè)AI場所進(jìn)行的討論提供一套指導(dǎo)方針。第三,促進(jìn)公開對(duì)話,征求意見,為我們所有人制定可能更有效的戰(zhàn)略。可以說,我們最后討論的策略列表遠(yuǎn)遠(yuǎn)沒有包含所有可能的可能性;然而,我們相信,它們是對(duì)話的種子,在我們看來,這是非常及時(shí)的

擁抱還是革命,ChatGPT時(shí)代 AI專家給出15條科研生存之道文章來源地址http://www.zghlxwxcb.cn/news/detail-421025.html

到了這里,關(guān)于擁抱還是革命,ChatGPT時(shí)代 AI專家給出15條科研生存之道的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • AI時(shí)代的數(shù)據(jù)革命,分布式融合存儲(chǔ)為何堪當(dāng)大任?

    AI時(shí)代的數(shù)據(jù)革命,分布式融合存儲(chǔ)為何堪當(dāng)大任?

    有人說,以ChatGPT為代表的人工智能應(yīng)用的興起標(biāo)志著AI時(shí)代奇點(diǎn)來臨。 誠然如斯。這一波AIGC浪潮來襲,讓人們真正意識(shí)到AI給生產(chǎn)力帶來的巨大飛躍。從今年起,AI大模型成為行業(yè)用戶重點(diǎn)關(guān)注的對(duì)象,甚至金融、媒體、廣告營銷等用戶紛紛試水AI大模型。 但OpenAI ChatGPT的成

    2024年02月06日
    瀏覽(21)
  • 【人工智能革命】:AIGC時(shí)代的到來 | 探索AI生成內(nèi)容的未來

    【人工智能革命】:AIGC時(shí)代的到來 | 探索AI生成內(nèi)容的未來

    ?? 嶼小夏 : 個(gè)人主頁 ??個(gè)人專欄 : IT雜談 ?? 莫道桑榆晚,為霞尚滿天! 人工智能(AI)的發(fā)展歷程是一個(gè)充滿突破和持續(xù)進(jìn)步的旅程。隨著時(shí)間的推移,AI 已經(jīng)從簡單的自動(dòng)化任務(wù)處理演變到現(xiàn)在的高級(jí)認(rèn)知和決策能力。特別是在 AIGC(AI 生成內(nèi)容)領(lǐng)域,大型 AI 模型

    2024年02月04日
    瀏覽(32)
  • 21世紀(jì)的產(chǎn)業(yè)革命,AI時(shí)代中的企業(yè)何去何從?

    2023年最熱門的話題莫過于大模型。ChatGPT發(fā)布短短2個(gè)月用戶數(shù)就突破1億。為實(shí)現(xiàn)這個(gè)用戶量,電話用了75年,手機(jī)用了16年,互聯(lián)網(wǎng)站用了7年,推特用了5年。 當(dāng)前全球人工智能目前已經(jīng)進(jìn)入到產(chǎn)業(yè)爆發(fā)期,企業(yè)也紛紛入局。 比如說電商公司的直播板塊,傳統(tǒng)直播的直播團(tuán)隊(duì)成

    2024年02月10日
    瀏覽(21)
  • 擁抱AI-ChatGPT:人類新紀(jì)元

    擁抱AI-ChatGPT:人類新紀(jì)元

    最近大模型通用智能應(yīng)用持續(xù)發(fā)酵,各大科技公司都陸續(xù)推出了基于通用大模型的智能應(yīng)用產(chǎn)品,典型的如OpenAI的ChatGPT、微軟的BingChat、百度的文心一言、360的智腦、阿里的通義千問等。當(dāng)然最火的要屬于ChatGPT了,從去年年底推出到現(xiàn)在已經(jīng)有很多人體驗(yàn)了,并驚嘆于如今的

    2024年02月08日
    瀏覽(21)
  • AI是時(shí)代必需還是販賣焦慮

    AI是時(shí)代必需還是販賣焦慮

    1956年,美國漢諾斯小鎮(zhèn)的達(dá)特矛斯學(xué)院,約翰·麥卡錫、馬文·閔斯基、克勞德·香農(nóng)等學(xué)者聚在一起,共同討論著機(jī)器模擬智能的一系列問題。他們討論了很久,始終沒有達(dá)成共識(shí),卻為討論內(nèi)容起了一個(gè)名字:人工智能。自此,人工智能(AI,Artificial Intelligence)開始出現(xiàn)

    2024年02月03日
    瀏覽(19)
  • 共探AI大模型時(shí)代下的挑戰(zhàn)與機(jī)遇,華為云HCDE與大模型專家面對(duì)面

    摘要: 近日,華為開發(fā)者大會(huì)2023(cloud)“開發(fā)者生態(tài)創(chuàng)新發(fā)展圓桌會(huì)議”在東莞華為溪流背坡村成功舉辦。 2023年7月8日,華為開發(fā)者大會(huì)2023(cloud)“開發(fā)者生態(tài)創(chuàng)新發(fā)展圓桌會(huì)議”在東莞華為溪流背坡村成功舉辦。以大模型為代表的的新一輪人工智能技術(shù)浪潮洶涌而來

    2024年02月13日
    瀏覽(26)
  • AI4S 與 AIGC 時(shí)代,云上 Notebook 將如何革新教學(xué)與科研體系

    AI4S 與 AIGC 時(shí)代,云上 Notebook 將如何革新教學(xué)與科研體系

    隨著以 ChatGPT 為代表的 AIGC(AI-Generated Content)技術(shù)的極速普及、以及 AI4S(AI for Science)從愿景走向流行,不同領(lǐng)域、不同背景的人們以一種前所未有的方式連接在了一起,共同經(jīng)歷著知識(shí)結(jié)構(gòu)、技術(shù)體系、產(chǎn)業(yè)格局等方方面面的大重構(gòu)。很多人開始問我們發(fā)起 NBHub 的初衷和

    2024年02月16日
    瀏覽(25)
  • 2023年人工智能GPT-4時(shí)代,最新13個(gè)ChatGPT商業(yè)市場AIGC應(yīng)用正在掀起革命性變革!

    2023年人工智能GPT-4時(shí)代,最新13個(gè)ChatGPT商業(yè)市場AIGC應(yīng)用正在掀起革命性變革!

    ChatGPT是未來商務(wù)世界的顛覆者,它的多模態(tài)自然語言模型及相關(guān)技術(shù)將會(huì)徹底改變傳統(tǒng)商業(yè)模式。不同于其他數(shù)字化產(chǎn)品,ChatGPT使用最先進(jìn)的自然語言處理和深度學(xué)習(xí)技術(shù),能夠自動(dòng)識(shí)別并解決大量客戶問題。而更為重要的是,ChatGPT商業(yè)應(yīng)用可以為企業(yè)節(jié)省成本,提高效率

    2024年02月11日
    瀏覽(94)
  • ChatGPT 吹響了第四次產(chǎn)業(yè)革命(AI 革命)的號(hào)角

    目錄 未來 AI 大模型的發(fā)展趨勢 通用多模態(tài)大模型 語言文字是多模態(tài)大模型的核心

    2024年02月09日
    瀏覽(20)
  • UI自動(dòng)化測試革命:擁抱Maestro框架的未來之旅

    UI自動(dòng)化測試是一種軟件測試方法,旨在驗(yàn)證應(yīng)用程序的用戶界面是否按照預(yù)期進(jìn)行操作和交互。它通過模擬用戶在應(yīng)用程序界面上的行為,如點(diǎn)擊按鈕、輸入文本、選擇選項(xiàng)等,來測試應(yīng)用程序的功能和用戶體驗(yàn)。 對(duì)于常規(guī)的測試手段,也不過如此,在產(chǎn)品開發(fā)周期中,測

    2024年01月16日
    瀏覽(17)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包