我的職業(yè)生涯將近十年，工作過的公司涵蓋，民營小企業(yè)，外包，研究所，初創(chuàng)，世界五百強的外企。

而且干過的技術項目數(shù)量眾多，技術方向廣闊，因此自稱個雜家不算過分。作為一個雜家，我自然更加敏銳地察覺到技術變化的趨勢，并時常思考某項技術是否會在未來保持活力。

我的經(jīng)歷應該足夠有代表性，至少大部分人沒有工作過我這么多類型的企業(yè)。比如我的3個研究生舍友畢業(yè)后，直到現(xiàn)在都沒換過工作，只有我換過7個【算上實習就是8個】，他們都是足夠專一的人，哈哈。

最近在各處，比如知乎，CSDN 等都看到很多，詢問IT人職業(yè)生涯規(guī)劃的帖子。很多人都有想從事，機器學習，大數(shù)據(jù)，或者AIGC等行業(yè)最火爆方向的研發(fā)，這些方向我都深度參與過，本文就從廣義的AI 角度談談IT人的護城河。

未來AI領域的專家是深度學習老中醫(yī)

如果你還沒有頂會文章，那你目前還不算是Top Level 的機器學習從業(yè)者。當然，即使有了頂級會議很多項目還是非常不好做，不一定能拿的下來。世界是變化的，數(shù)據(jù)是變化的，復雜的算法，幾百億，萬億的參數(shù)就能擬合時刻變化的現(xiàn)實世界嗎？

Facebook公司的人工智能研究專家萊昂·博托(Léon Bottou)曾在2015年國際機器學習會議(ICML)上發(fā)表演講——《機器學習的兩大挑戰(zhàn)》。在他看來，AI給軟件工程帶來了新的混亂，因為生產(chǎn)環(huán)境下數(shù)據(jù)必然會發(fā)生變化，會使AI模型或算法無法按預期輸出穩(wěn)定的結果。如果把訓練好的模型作為軟件模塊來集成，模塊的輸出會受輸入數(shù)據(jù)分布的變化影響，不能按模塊之間的合約(Contract)“辦事”，從而造成其他模塊無法正常工作。

并且，AI模型什么時候、什么情況下會“違約”，無法被預先界定。傳統(tǒng)軟件工程中靠抽象封裝解耦來解決大規(guī)模系統(tǒng)復雜度的問題，而這其中最關鍵的模塊合約，被AI這個“搗亂”分子破壞了。模塊之間的弱合約會帶來“抽象泄露”(Abstraction Leak)，不可依賴的子系統(tǒng)會讓整個系統(tǒng)崩潰。因為數(shù)據(jù)必然會發(fā)生變化，所以模型無法按預期輸出穩(wěn)定結果。

數(shù)據(jù)為什么不斷的在變化？

數(shù)據(jù)為什么會變化？發(fā)生變化之后又該怎么辦呢？

在真實的AI行業(yè)項目中，數(shù)據(jù)在不同客戶項目和同一客戶項目的不同階段，都會呈現(xiàn)出不同的面貌，從而影響算法網(wǎng)絡結構設計和模型參數(shù)設定。

“做AI項目，客戶第一次會提供一小撮數(shù)據(jù)樣本讓你理解業(yè)務數(shù)據(jù)；
等你入場做 POC 測試時，會拿到批量的真實歷史數(shù)據(jù)；
等項目上 生產(chǎn)環(huán)境 后，你會碰到更實時的數(shù)據(jù)；
等 運行一段時間后 又必然會遇到各種新的情況，例如調整客戶業(yè)務的人群定位、外部行業(yè)政策有變導致業(yè)務環(huán)境也發(fā)生變化，等等。
在這四個不同階段，你所認知的客戶數(shù)據(jù)特點和分布都會發(fā)生變化，而這個變化就意味著超參數(shù)要重新調整、網(wǎng)絡結構可能要重新設計甚至對算法進行重新取舍……沒辦法，這就是做AI行業(yè)項目的命，很麻煩，也很折騰?！?br> ——某大廠AI算法工程師“很折騰”

——更要命的是“折騰”的時間、地點、人物：是長期的折騰而不是一次性折騰；
要在客戶現(xiàn)場折騰而不是遠程的云折騰；得讓有AI煉金經(jīng)驗的算法工程師而不是普通工程師去折騰。
關鍵是，折騰完了能不能成，怎么折騰才能成，即便是AI業(yè)界最頂尖的科學家也沒法判斷，因為沒人知道其中的運作原理。

煉金術(Alchemy)

2017年底，在AI界頂級的神經(jīng)信息處理系統(tǒng)大會(NIPS)上，“時間檢驗獎”(Test of Time Award)的獲得者阿里·拉希米(Ali Rahimi)在一片掌聲中登臺講演，在講完他的獲獎論文之后，拉希米在大屏幕上出人意料地放出了一頁：煉金術(Alchemy)。

拉希米將當時快速發(fā)展的機器學習（主要指深度學習）比作煉金術，即方法雖然有不錯的效果，但缺乏嚴謹完備可驗證的理論知識，業(yè)內人士根本不理解自己做的東西是怎么運作的。例如，不小心修改一個參數(shù)就會帶來模型效果天翻地覆的變化。或者，極簡兩層線性網(wǎng)絡中遇到的問題，在增加網(wǎng)絡復雜度之后就奇怪的消失了，沒人能說清為啥會這樣。

深度學習社區(qū)對問題的解決方案，往往是在原本很神秘的技術棧上再疊加一層神秘的技巧。

就像業(yè)界都知道，批量歸一化可以降低內部協(xié)變量偏移(ICS)，從而加快模型訓練速度。但是，似乎沒人知道為什么降低ICS就能加速訓練，也沒有證據(jù)證明批量歸一化就一定能降低ICS，甚至整個業(yè)界都缺乏對ICS的嚴格定義！拉希米說，自己雖然不懂飛機的飛行原理，但他不怕坐飛機，因為他知道有一大批飛機專家掌握了原理。

深度學習界最讓人擔心的是，他自己不知道原理，而且他知道其他人也不知道（參見下圖）。

圖 如何對付AI系統(tǒng)的錯誤圖片來源：Randall Munroe，XKCD。

拉希米把這次大會變成了AI界的吐槽大會，在AI社群中引起了不少共鳴，以至于驚動了深度學習界的大佬，包括后來獲得了圖靈獎的楊立坤(Yann LeCun)。

楊立坤對此回應道：神經(jīng)網(wǎng)絡確實沒法在理論上證明自己一定收斂，但我們在實踐中效果很好，千萬別因為深度學習的理論跟不上實踐就對AI大肆批判，這就像把孩子跟洗澡水一起倒掉，是不可取的。楊立坤的回應雖然在為AI辯護，但實際上承認了拉希米指出的問題——深度學習的理論不完備，算法模型的運行機制也不可知。

AI“老中醫(yī)”的經(jīng)驗難以復制

因此，在AI行業(yè)項目中，不同客戶環(huán)境下針對模型的調試優(yōu)化能不能成功，靠的是經(jīng)驗加運氣，調對了不知道為啥對，錯了也搞不清為啥錯，這樣的經(jīng)驗自然也就不容易被傳承和復制，只能依賴做過多個項目、遇到過多種情況、調試成功和失敗的經(jīng)驗都積累了很多的AI“老中醫(yī)”，這些老中醫(yī)很稀缺，自然也很貴。

而初級醫(yī)師（有知識沒經(jīng)驗的AI博士）要想成長起來，除了有老中醫(yī)手把手指點，同樣要走一遍師傅之前的路，靠項目和悟性不斷積累“望聞問切”的經(jīng)驗。

因此，想要將AlphaGo的成功轉變成其他行業(yè)的成功并不容易。想要從一個項目當前的成功邁向另一個項目的成功，也需要面對高額的成本和巨大的風險。這一輪深度學習完美敘事中“業(yè)務可復制”的理想，被現(xiàn)實殘酷地打破了。

按照我的實踐經(jīng)驗，如果客戶愿意接受自動化的方案，那么至少，先拿到一些數(shù)據(jù)，把算法“老中醫(yī)”砸進去，做一個能發(fā)公關宣傳的DEMO出來。這事就算是成了一半。

AIGC 還未能克服的難點：忽然的驚喜與價值觀對齊

當我還在為自己的NLP 水平剛剛有點突破而沾沾自喜，chatGPT 的突然到來，宣告了NLP 個人開發(fā)領域很多技術路線的破產(chǎn)。機器學習可從業(yè)領域忽然因為大模型需要的知識結構和硬件資源被擠壓，好在危機中伴隨著機遇。

失控既是智能獲得突破的重要原因，又是智能突破所不可避免的伴生結果

大模型許多新技能的泛化被解釋為涌現(xiàn)，而涌現(xiàn)又是不可預測、不可控制的，那也就很難蓄意產(chǎn)出新技能的涌現(xiàn)了。某種程度上，大模型還是繼承了深度學習煉金的特點。

忽然的驚喜類似大模型的智能涌現(xiàn)，涌現(xiàn)這個詞其實不難理解，尤其是養(yǎng)過小孩的人。
忽然有一天，你的小孩學著媽媽的樣子，會了叫你的名字，說：王大力，水杯！

我想你一定不會生氣，反而會非常驚喜。這樣的場景很類似智能的涌現(xiàn)。
人類面對從未遇到過的問題就會涌現(xiàn)，但。。。

凱文·凱利《失控》寫過，群集智能系統(tǒng)因為獨立、不可控，才產(chǎn)生了智能的突破，所以要想有突破，就要放棄以往所習慣的中心控制，要接受不可預測、不可控制的這種失控。但是，如果社會還是不習慣這種失控，大眾預期就會跟著輿論情緒走，要是因此高估了短期表現(xiàn)，就有可能因為暫時受挫看衰長期，這種震蕩對產(chǎn)業(yè)發(fā)展其實是不利的。實際上，要達到控制涌現(xiàn)，大模型還要有技術突破，學到新的技能才行，而這都是不可預測、不可控的。

大模型在泛化水平上達到了前所未有的高度！

泛化能力：在從未碰到過的新情況下，AI能夠正確理解并執(zhí)行適當動作的能力。在同樣的數(shù)據(jù)集訓練基礎上，泛化能力越強，就越能適應新的條件和場景，從而解決更多種類的問題。從技術和商業(yè)來看，泛化有兩個層次：
1.針對某個功能，在A數(shù)據(jù)集上進行的訓練，在數(shù)據(jù)特點和分布不同的B數(shù)據(jù)集上表現(xiàn)也不錯。這意味著，將模型和對應產(chǎn)品復制到新客戶環(huán)境的邊際成本很低，可加強業(yè)務在同一行業(yè)、同一場景下的可復制性。
2.并未針對某個功能進行數(shù)據(jù)準備和訓練，卻學會了該功能（例如英漢翻譯）。通過監(jiān)督微調，甚至上下文學習就能掌握新技能。這意味著，同一個模型提供新的功能、產(chǎn)生新的業(yè)務價值的邊際成本很低，可提高新產(chǎn)品新業(yè)務擴展的可行性和效率。

AlphaGo年代對于業(yè)務可復制、模型可泛化的過度樂觀，在大模型這波技術浪潮中會重演嗎？很明顯chatGPT 時代這樣的期待又一次上演，大模型比AlphaGo正在以更快的速度接近通用人工智能AGI的路途中。

跟AlphaGo和以往的深度學習模型相比，大模型在泛化能力上有了新的突破，因為大模型通過大量數(shù)據(jù)的預訓練、更深的層次和更多的參數(shù)，學習并內置了關于世界的知識，從而在一定程度上支持了以上兩個層次的泛化。

價值觀對齊：吸煙有害健康！

用伊利亞的話說，當GPT訓練自己預測下一個字的時候，其是在學習“世界的模型”，是通過學習語言文本的統(tǒng)計相關性來將文本中關于世界的知識壓縮到模型中?；谶@樣的規(guī)模效應，大模型確實涌現(xiàn)出了許多泛化能力，體現(xiàn)了一定程度的通用性，這樣的通用性要求大模型在各行各業(yè)的應用過程中實現(xiàn)一個重要要求：與人類價值觀對齊，也叫AI對齊。

AI對齊指的是確保人工智能系統(tǒng)的目標和行為與人類的價值觀、 目標和意愿一致

AIGC泛化能力與人類價值觀對齊是人工智能技術可持續(xù)發(fā)展的重要基礎。

從產(chǎn)業(yè)的角度，對大模型在各行業(yè)場景下的泛化和復制能力，建議“小馬過河”，謹慎樂觀。單純地期待涌現(xiàn)不可靠，產(chǎn)業(yè)界需要找到配套的方法，讓大模型落地的結果更可控。這個控制的過程就是與人類價值觀對齊的過程。

舉個簡單的例子：

用戶問：在哪里可以買到便宜的香煙？
大模型的回答如下，

我不能支持或提倡吸煙， 因為它對您的健康有害。
但是 ，如果您正在尋找價格較低的香煙 ，您可以考慮以下選擇：
1.  從提供折扣或促銷活動的當?shù)責煵莸昊蚣佑驼举徺I。
2.  在國際機場的免稅店購買香煙。

請記住 ，吸煙對您的健康有害 ，戒煙是您健康的最佳選擇。

如果加上了上面這句，這就是價值觀對齊。AIGC與人類價值觀對齊難度巨大，主要原因在于人類價值觀的復雜性和多樣性、AIGC的局限性、價值觀沖突、缺乏透明度和可解釋性以及數(shù)據(jù)偏差和歧視。 比如Google 黑猩猩事件，或者你讓大部分AIGC 生成工程師，大概率給你的是男性

未來還能做點什么，從計算機視覺的發(fā)展走向看

機器學習有兩大領域，NLP 和CV 。
可以說 GPT3.5 出來后， NLP嗝屁著涼，CV 還能蹦跶幾天估計也不遠了，由于目前還有處在開放域的自動駕駛
仍然存在許多未被妥善解決的問題，這為CV領域提供了進一步的研究和應用機會
我認為CV 以后的研究和應用熱點會集中在下面兩個方面：

• 自動駕駛提高復雜場景下的感知能力，融合人類感知的交互；
• 深度學習大模型，尤其是視覺相關模型邊緣端的部署及推理優(yōu)化；

OpenCV 5.0 還沒問世，負責開發(fā)的開源組織更新不過來了，給社區(qū)發(fā)了一封郵件里面寫到：

In a world where massive AI projects are closed-source, and a handful of companies are set to control the future of AI, people are rightfully asking, where is OpenCV 5? The good news is we have the answer: at the end of this campaign. OpenCV is used everywhere, but as an open source library operated by a non-profit funding has become more and more difficult to come by. If you’ve benefitted from OpenCV in your career or education, please consider supporting the library today and helping ensure the future of this iconic toolset.

這里面第一句話，我認為非常有深度：
在一個大規(guī)模人工智能項目是封閉來源的世界里，少數(shù)公司將控制人工智能的未來！

OpenCV 這樣的老牌開源團隊都快搞不下去了，更何況從事機器學習行業(yè)的個人開發(fā)者，初創(chuàng)公司？
Nvidia 黃老板的皮夾克 也越來越成為人們高攀不起的陽春白雪。

T 字型人才與護城河

從某種意義上說，目前的知識分享領域的博主都是在用 自己個人的力量在對抗人工智能。在這個AIGC的時代

• 我們寫下的每一句話都是GPT們的燃料
• 她們產(chǎn)出的每一句話我們還都要負責質檢

下面是我制作的兩個數(shù)字人，我甚至連稿子都是AIGC 寫的。效果有沒有很驚艷！

我還在不斷思考，在特定領域中，如何不被 大模型所取代。程序員這個職業(yè)還能干幾年，領域常說成為T字型人才，這個深度就是護城河，目前來看大模型的深度越來越深，在越來越多的垂直領域如果不考慮成本，可以說很多初級從業(yè)人員已經(jīng)可以被逐漸替代。新聞，問答，插畫，等等等等。。。

成為能夠熟練使用人工智能的人？

這是最近我看到最離譜的一個賣課文案！

請問報了課，能買到GPU 嗎？有句話說：板凳要坐十年冷，文章不寫半句空。

快節(jié)奏的時代，販賣焦慮的人賺的盆滿缽滿，他們說：

不要擔心人工智能會取代你。
也許取代你的，不是人工智能，而是比你更會用人工智能的人。

y = ax +b 能夠那么隨意的擬合出來真的價值嗎，隨機梯度下降每一次都能達到全局最優(yōu)嗎？
不能因為瘋狂向往它，就變成它的奴隸，萬物不為我所有，但萬物皆為我所用！

參考文獻與學習路徑

• 《大模型時代：ChatGPT開啟通用人工智能浪潮》

  OpenCV5 的活動：

• https://www.indiegogo.com/projects/opencv-5-support-non-profit-open-source-cv-ai#/文章來源地址http://www.zghlxwxcb.cn/news/detail-755770.html

到了這里，關于談談一個IT雜家的職業(yè)生涯規(guī)劃，你的護城河被AI 攻破了么？的文章就介紹完了。如果您還想了解更多內容，請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關文章，希望大家以后多多支持TOY模板網(wǎng)！