在“使用大型語言模型(LLMs)的生成性AI”中,您將學習生成性AI的基本工作原理,以及如何在實際應用中部署它。
通過參加這門課程,您將學會:
- 深入了解生成性AI,描述基于LLM的典型生成性AI生命周期中的關鍵步驟,從數(shù)據(jù)收集和模型選擇,到性能評估和部署
- 詳細描述為LLMs提供動力的變換器架構,它們是如何被訓練的,以及微調如何使LLMs能夠適應各種特定的用例
- 使用經(jīng)驗性的縮放法則來優(yōu)化模型的目標函數(shù),跨數(shù)據(jù)集大小、計算預算和推斷要求
- 應用最先進的訓練、調整、推斷、工具和部署方法,以在項目的特定約束條件下最大化模型的性能
- 在聽取行業(yè)研究人員和從業(yè)者的故事后,討論生成性AI為企業(yè)帶來的挑戰(zhàn)和機會
對于那些對LLMs的工作原理有良好基礎理解的開發(fā)者,以及了解訓練和部署它們背后的最佳實踐的人,他們將能夠為公司做出明智的決策,并更快地構建工作原型。這門課程將幫助學習者建立關于如何最好地利用這一令人興奮的新技術的實用直覺。
這是一門中級課程,所以您應該有一些Python編碼的經(jīng)驗,以便從中獲得最大的收益。您還應該熟悉機器學習的基礎知識,如有監(jiān)督和無監(jiān)督學習、損失函數(shù)、以及將數(shù)據(jù)分為訓練、驗證和測試集。如果您已經(jīng)參加了DeepLearning.AI的機器學習專項課程或深度學習專項課程,那么您將準備好參加這門課程,并深入探討生成性AI的基礎知識。
我們將討論大型語言模型、它們的使用案例、模型如何工作、提示工程、如何生成創(chuàng)意文本輸出,并為生成性AI項目概述一個項目生命周期。
考慮到您對這門課程的興趣,可以肯定地說,您已經(jīng)有機會嘗試一個生成性AI工具或希望這樣做。無論是聊天機器人、
從文本生成圖像,
還是使用插件幫助您開發(fā)代碼,
您在這些工具中看到的都是一臺能夠創(chuàng)建模仿或接近人類能力的內容的機器。
生成性AI是傳統(tǒng)機器學習的一個子集。支撐生成性AI的機器學習模型通過在由人類最初生成的大量內容數(shù)據(jù)集中找到統(tǒng)計模式來學習這些能力。大型語言模型經(jīng)過數(shù)周和數(shù)月的時間,在數(shù)萬億的詞上進行了訓練,并使用了大量的計算能力。我們稱之為基礎模型的這些模型,擁有數(shù)十億的參數(shù),展現(xiàn)出超越語言本身的突現(xiàn)性質,研究人員正在解鎖它們分解復雜任務、推理和解決問題的能力。
這里是一系列基礎模型的集合,有時被稱為基礎模型,以及它們在參數(shù)方面的相對大小。稍后您將更詳細地了解這些參數(shù),但現(xiàn)在,請將它們視為模型的記憶。模型的參數(shù)越多,記憶就越多,事實證明,它可以執(zhí)行的任務也越復雜。在整個課程中,我們將用這些紫色的圓圈代表LLM,在實驗室中,您將使用一個特定的開源模型,flan-T5,來執(zhí)行語言任務。通過直接使用這些模型或應用微調技術將它們適應您的特定用例,您可以迅速構建定制解決方案,而無需從頭開始訓練新模型。
現(xiàn)在,雖然為多種模式創(chuàng)建了生成性AI模型,包括圖像、視頻、音頻和語音,但在這門課程中,您將重點關注大型語言模型及其在自然語言生成中的用途。您將了解它們是如何構建和訓練的,如何通過文本與它們互動,這些文本被稱為提示。以及如何為您的用例和數(shù)據(jù)微調模型,以及如何與應用程序一起部署它們來解決您的商業(yè)和社會任務。
與語言模型互動的方式與其他機器學習和編程范式大不相同。在那些情況下,您使用正式化的語法編寫計算機代碼與庫和API互動。相反,大型語言模型能夠接受自然語言或人類編寫的指令,并像人類一樣執(zhí)行任務。您傳遞給LLM的文本被稱為提示??捎糜谔崾镜目臻g或記憶稱為上下文窗口,這通常足夠容納幾千個詞,但因模型而異。
在這個例子中,您要求模型確定Ganymede在太陽系中的位置。提示傳遞給模型,模型然后預測下一個詞,因為您的提示包含了一個問題,這個模型生成了一個答案。模型的輸出稱為完成,使用模型生成文本的行為稱為推斷。完成包括原始提示中包含的文本,后跟生成的文本。您可以看到這個模型很好地回答了您的問題。它正確地識別出Ganymede是木星的一顆衛(wèi)星,并為您的問題生成了一個合理的答案,說明這顆衛(wèi)星位于木星的軌道內。文章來源:http://www.zghlxwxcb.cn/news/detail-658912.html
在整個課程中,您將看到許多這種風格的提示和完成的示例。文章來源地址http://www.zghlxwxcb.cn/news/detail-658912.html
參考
- https://www.coursera.org/programs/hsbc-finance-people-and-personal-development-dnger/learn/generative-ai-with-llms
- https://www.coursera.org/learn/generative-ai-with-llms/lecture/IrsEw/generative-ai-llms
到了這里,關于生成式AI和大語言模型 Generative AI & LLMs的文章就介紹完了。如果您還想了解更多內容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關文章,希望大家以后多多支持TOY模板網(wǎng)!