導(dǎo)讀
為了發(fā)揮清華大學(xué)多學(xué)科優(yōu)勢,搭建跨學(xué)科交叉融合平臺,創(chuàng)新跨學(xué)科交叉培養(yǎng)模式,培養(yǎng)具有大數(shù)據(jù)思維和應(yīng)用創(chuàng)新的“π”型人才,由清華大學(xué)研究生院、清華大學(xué)大數(shù)據(jù)研究中心及相關(guān)院系共同設(shè)計組織的“清華大學(xué)大數(shù)據(jù)能力提升項目”開始實施并深受校內(nèi)師生的認(rèn)可。項目通過整合建設(shè)課程模塊,形成了大數(shù)據(jù)思維與技能、跨界學(xué)習(xí)、實操應(yīng)用相結(jié)合的大數(shù)據(jù)課程體系和線上線下混合式教學(xué)模式,顯著提升了學(xué)生大數(shù)據(jù)分析能力和創(chuàng)新應(yīng)用能力。
兩年前,我成為了清華大學(xué)車輛學(xué)院的一名碩士生,隨著對專業(yè)認(rèn)識的不斷深入,我發(fā)現(xiàn)車輛領(lǐng)域的前沿研究逐漸走向了智能化,以自動駕駛為代表的前沿技術(shù)將徹底重塑未來生活。置身于智能化的浪潮之中,我意識到必須順應(yīng)時代潮流,“大數(shù)據(jù)能力提升項目”的培養(yǎng)方案使我眼前一亮,于是在入學(xué)之初便完成了報名,開始了我的“大數(shù)據(jù)成長之旅”。
?
圖1生活照
一、勤思好學(xué),夯實學(xué)科基礎(chǔ)
為筑牢大數(shù)據(jù)與人工智能學(xué)科基礎(chǔ),我選擇了4門課程:深度學(xué)習(xí)(A-)、統(tǒng)計學(xué)習(xí)理論與應(yīng)用(A)、大數(shù)據(jù)分析(A)以及大數(shù)據(jù)實踐課(A-)。在碩士期間,包括這4門課程在內(nèi)的所有課程均獲A-及以上成績,GPA達(dá)到4.0滿績,GPA排名院系第一。大數(shù)據(jù)項目的課程使我系統(tǒng)性地掌握了大數(shù)據(jù)與人工智能的學(xué)科知識,為后續(xù)的研究打下了堅實基礎(chǔ)。
基于深度學(xué)習(xí)、統(tǒng)計學(xué)習(xí)課程學(xué)習(xí)到的知識,我們在大數(shù)據(jù)分析、大數(shù)據(jù)實踐課程中分別參加了兩項競賽——天池-淘寶穿衣搭配挑戰(zhàn)賽、中國高校計算機大賽-微信大數(shù)據(jù)挑戰(zhàn)賽。在淘寶穿衣搭配挑戰(zhàn)賽中,最終排名21/3408;在微信大數(shù)據(jù)挑戰(zhàn)賽中,獲得了全國三等獎。也正是大數(shù)據(jù)項目中扎實的實踐和理論學(xué)習(xí),讓我順利在商湯科技、曠視科技、阿里巴巴進(jìn)行了三段實習(xí),給了我繼續(xù)深耕數(shù)據(jù)科學(xué)和AI領(lǐng)域的底氣。
二、不負(fù)韶華,學(xué)科交叉創(chuàng)新
大數(shù)據(jù)項目也讓激發(fā)了我的研究思路。以自動駕駛為代表的工業(yè)決控任務(wù)急需智能化改進(jìn),強化學(xué)習(xí)正是智能決控方法的代表,然而強化學(xué)習(xí)輸出的控制動作通常具有波動性,不能真正滿足現(xiàn)實世界中高精度決控任務(wù)的需求。為解決這一問題,我開始了以強化學(xué)習(xí)動作平滑性為主題的研究,希望為強化學(xué)習(xí)在工業(yè)場景的真正落地添磚加瓦。
對于強化學(xué)習(xí)的動作震蕩問題,我曾在深度學(xué)習(xí)的課間休息時間請教過龍明盛老師,而后基于深度學(xué)習(xí)課程中系統(tǒng)性講授過的神經(jīng)網(wǎng)絡(luò)設(shè)計思路,我設(shè)計了具有Lipschitz連續(xù)性的Actor網(wǎng)絡(luò)——LipsNet,使強化學(xué)習(xí)的動作震蕩問題得到了很好的改善。在這項工作中,我們與滴滴出行進(jìn)行了深度合作,研究問題真正來源于實際、應(yīng)用于實際。在自動駕駛軌跡跟蹤任務(wù)中,LipsNet相比MLP的動作震蕩率降低了90.2%,極大增強了強化學(xué)習(xí)決控的動作穩(wěn)定性;在MuJoCo等控制任務(wù)中也有顯著改善。且LipsNet可以適用于任何Actor-Critic構(gòu)架的強化學(xué)習(xí)算法,具有極強的適用性。
這篇文章最終發(fā)表在了2023年的ICML會議(CCF-A)中。這次會議在風(fēng)景優(yōu)美的夏威夷舉辦,在參會過程中,我被大數(shù)據(jù)和AI領(lǐng)域的快速發(fā)展深深震撼到了,更加堅定了投身大數(shù)據(jù)與AI領(lǐng)域的決心。值得一提的是,在夏威夷竟然遇到了當(dāng)年深度學(xué)習(xí)課程的助教學(xué)長,我在與學(xué)長和全球各地學(xué)者的交流中,增長了友誼和見識,仿佛感覺我與大數(shù)據(jù)領(lǐng)域的紐帶更深了。
圖2在ICML會議中講解海報
在會議結(jié)束后,我參加了車輛學(xué)院的博士生論壇,在“智能出行與智慧交通”分論壇中用英文匯報了論文成果,以碩士生的身份獲得了分論壇的唯一一名口頭報告一等獎。隨后,我們還持續(xù)創(chuàng)新,將LipsNet應(yīng)用在了掃地機器人等真實工業(yè)任務(wù)場景中,并產(chǎn)出一篇EI期刊論文,實現(xiàn)了用大數(shù)據(jù)和AI技術(shù)對工業(yè)對象賦能。
圖3博士生論壇口頭報告
三、勇攀高峰,挑戰(zhàn)科學(xué)極限
在上述成果發(fā)表之后,導(dǎo)師與我進(jìn)行了長談,告訴我發(fā)表論文不是最終目的,并鼓勵我在數(shù)據(jù)科學(xué)和AI領(lǐng)域做更加深刻、更有意義的研究,在芯片禁運的大背景下,要服務(wù)于國家戰(zhàn)略、研究突破性技術(shù)方案。隨后,在導(dǎo)師的支持下,我邁向了數(shù)據(jù)科學(xué)更加縱深和基礎(chǔ)的領(lǐng)域,開始研究如何用量子計算加速神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,希望以QPU(量子計算機)的高速計算能力破“GPU禁運之局”。
我們選擇了最有可能在近些年商業(yè)化和規(guī)模化的量子計算機——伊辛機(Isingmachine),而當(dāng)時鮮有在伊辛機上訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法,我們在研發(fā)過程中遇到了不小的困難。在科研過程中,我時常翻出深度學(xué)習(xí)課程的PPT查閱,反復(fù)細(xì)致地理解神經(jīng)網(wǎng)絡(luò)的傳播結(jié)構(gòu),并嘗試找到合適的訓(xùn)練方案??梢哉f,在大數(shù)據(jù)項目中學(xué)到的知識,對我每一個階段的研究都產(chǎn)生了極其重大的助力。
經(jīng)過不懈努力,我們發(fā)明了一種在伊辛機上訓(xùn)練前饋神經(jīng)網(wǎng)絡(luò)的算法——Isinglearningalgorithm,在簡化版MNIST數(shù)據(jù)集中,僅需0.7秒便可完成訓(xùn)練,并且測試集準(zhǔn)確率可以達(dá)到98.3%。而后,在導(dǎo)師的支持下,我們同時申請了中美兩國專利。僅僅在論文上傳arXiv的兩周后,便有來自硅谷的伊辛機創(chuàng)業(yè)公司主動聯(lián)系到我們,表達(dá)了對論文的強烈認(rèn)可,以及對尋求合作的希望;此外,我們還與玻色量子等科技創(chuàng)業(yè)公司建立了深度合作。雖然目前的訓(xùn)練算法十分初級,但我認(rèn)為它具有足夠大的發(fā)展空間和前景,或許可成為繼GPU之后的下一代訓(xùn)練范式。
最后,作為大數(shù)據(jù)項目的一名學(xué)生,我非常感謝有機會參與其中。作為一名碩士生,兩年多短暫的科研時光轉(zhuǎn)瞬即逝,我與各位博士學(xué)長相比成果并不多,但是大數(shù)據(jù)項目讓我有足夠的信息面對未來的科研之路,從大數(shù)據(jù)項目汲取的知識貫徹了我學(xué)習(xí)和研究的始終,可以說帶領(lǐng)我走過了無數(shù)個人生的十字路口,真正使我受益一生!
編輯:于騰凱
校對:王欣文章來源:http://www.zghlxwxcb.cn/news/detail-834224.html
文章來源地址http://www.zghlxwxcb.cn/news/detail-834224.html
到了這里,關(guān)于宋緒杰:我的大數(shù)據(jù)成長之旅 | 提升之路系列(三)的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!