??每周跟蹤AI熱點(diǎn)新聞動(dòng)向和震撼發(fā)展 想要探索生成式人工智能的前沿進(jìn)展嗎?訂閱我們的簡(jiǎn)報(bào),深入解析最新的技術(shù)突破、實(shí)際應(yīng)用案例和未來的趨勢(shì)。與全球數(shù)同行一同,從行業(yè)內(nèi)部的深度分析和實(shí)用指南中受益。不要錯(cuò)過這個(gè)機(jī)會(huì),成為AI領(lǐng)域的領(lǐng)跑者。點(diǎn)擊訂閱,與未來同行! 訂閱:https://rengongzhineng.io/
微軟最近推出了名為Phi-3的開放式AI模型家族,這是一系列最具性價(jià)比的小型語言模型(SLM)。Phi-3模型在各種語言、推理、編碼和數(shù)學(xué)基準(zhǔn)測(cè)試中的表現(xiàn)超越了同等大小甚至更大型號(hào)的模型。此次發(fā)布擴(kuò)展了為客戶提供高質(zhì)量模型的選擇,使他們?cè)跇?gòu)建和開發(fā)生成式AI應(yīng)用程序時(shí)有更多的實(shí)用選擇。
從今天開始,3.8億參數(shù)的Phi-3-mini模型已在微軟Azure AI Studio、Hugging Face和Ollama平臺(tái)上提供。https://huggingface.co/collections/microsoft/phi-3-6626e15e9585a200d2d761e3
Phi-3-mini提供兩種上下文長(zhǎng)度變體——4K和128K令牌。它是首個(gè)支持高達(dá)128K令牌上下文窗口的同類模型,且對(duì)質(zhì)量的影響很小。它經(jīng)過指令調(diào)優(yōu),訓(xùn)練以遵循反映人們正常溝通的各種指令類型,確保模型開箱即用。它在Azure AI上可用,利用部署-評(píng)估-微調(diào)工具鏈,并在Ollama上可供開發(fā)者在本地筆記本電腦上運(yùn)行。它針對(duì)ONNX運(yùn)行時(shí)進(jìn)行了優(yōu)化,支持Windows DirectML,并具有跨平臺(tái)支持,包括圖形處理單元(GPU)、CPU甚至移動(dòng)硬件。它還作為NVIDIA NIM微服務(wù)提供,帶有標(biāo)準(zhǔn)API接口,可以在任何地方部署,并已針對(duì)NVIDIA GPU進(jìn)行了優(yōu)化。
在接下來的幾周內(nèi),將向Phi-3家族添加更多模型,為客戶在質(zhì)量-成本曲線上提供更多靈活性。Phi-3-small(70億)和Phi-3-medium(140億)將很快在Azure AI模型目錄和其他模型園中提供。
微軟持續(xù)提供在質(zhì)量-成本曲線上最佳的模型,今天的Phi-3發(fā)布擴(kuò)大了具有最先進(jìn)小型模型的選擇。Phi-3模型顯著超越了同等大小和更大大小的語言模型在關(guān)鍵基準(zhǔn)測(cè)試上的表現(xiàn)。例如,Phi-3-mini的表現(xiàn)優(yōu)于其兩倍大的模型,而Phi-3-small和Phi-3-medium則超越了包括GPT-3.5T在內(nèi)的更大型號(hào)。
所有報(bào)告的數(shù)字都是使用相同的流程產(chǎn)生的,以確保數(shù)字之間的可比性。因此,由于評(píng)估方法的輕微差異,這些數(shù)字可能與其他公布的數(shù)字不同。我們的技術(shù)論文提供了更多關(guān)于基準(zhǔn)測(cè)試的詳細(xì)信息。
Phi-3模型按照微軟的負(fù)責(zé)任AI標(biāo)準(zhǔn)開發(fā),該標(biāo)準(zhǔn)是一套公司范圍內(nèi)基于責(zé)任、透明度、公平性、可靠性與安全、隱私與安全以及包容性的六大原則的要求。Phi-3模型經(jīng)過嚴(yán)格的安全測(cè)量和評(píng)估、紅隊(duì)測(cè)試、敏感用途審查以及遵守安全指南,以幫助確保這些模型按照微軟的標(biāo)準(zhǔn)和最佳實(shí)踐負(fù)責(zé)任地開發(fā)、測(cè)試和部署。
微軟利用Azure AI推出助手產(chǎn)品并使客戶能夠通過生成式AI轉(zhuǎn)型其業(yè)務(wù),這突顯了對(duì)不同大小模型的需求。小型語言模型,如Phi-3,特別適用于資源受限環(huán)境、響應(yīng)時(shí)間要求快的場(chǎng)景以及成本受限的用例。
Phi-3-mini特別適用于設(shè)備上使用,尤其是在與ONNX運(yùn)行時(shí)進(jìn)一步優(yōu)化后,可以跨平臺(tái)使用。Phi-3模型的較小大小也使得微調(diào)或定制更加容易和經(jīng)濟(jì)。此外,它們較低的計(jì)算需求使得它們是一個(gè)成本更低、延遲更低的選擇。較長(zhǎng)的上下文窗口使得它們能夠接收和推理大量文本內(nèi)容——文檔、網(wǎng)頁、代碼等。Phi-3-mini展示了強(qiáng)大的推理和邏輯能力,使其成為分析任務(wù)的理想選擇。
客戶已經(jīng)在使用Phi-3構(gòu)建解決方案。例如,在農(nóng)業(yè)領(lǐng)域,Phi-3已經(jīng)展現(xiàn)了其價(jià)值,尤其是在互聯(lián)網(wǎng)可能不易獲得的地方。如此強(qiáng)大的小型模型連同微軟的助手模板,可在需要時(shí)為農(nóng)民提供,且運(yùn)行成本更低,使AI技術(shù)更加普及。文章來源:http://www.zghlxwxcb.cn/news/detail-861075.html
印度的領(lǐng)先商業(yè)集團(tuán)ITC正在利用Phi-3作為其與微軟在Krishi Mitra農(nóng)民應(yīng)用助手上持續(xù)合作的一部分。ITCMAARS技術(shù)總監(jiān)Saif Naik表示:“我們與Krishi Mitra助手的目標(biāo)是在保持大型語言模型的準(zhǔn)確性的同時(shí)提高效率。我們很高興能與微軟合作使用經(jīng)過精細(xì)調(diào)整的Phi-3來實(shí)現(xiàn)我們的目標(biāo)——效率和準(zhǔn)確性!”文章來源地址http://www.zghlxwxcb.cn/news/detail-861075.html
到了這里,關(guān)于介紹Phi-3:微軟重新定義小型語言模型(SLM)的可能性的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!