相關(guān)文章

• 

  2.自然語(yǔ)言處理NLP：詞映射為向量——詞嵌入（word embedding）

  1. 什么是詞嵌入（word2vec） ： 把詞映射為向量（實(shí)數(shù)域）的技術(shù) 2. 為什么不采用one-hot向量： one-hot詞向量無(wú)法準(zhǔn)確表達(dá)不同詞之間的相似度，eg：余弦相似度，表示夾角之間的余弦值，無(wú)法表達(dá)不同詞之間的相似度。 3. word2vec主要包含哪兩個(gè)模型 跳字模型： 基于某個(gè)詞生成

  2024年02月06日

  瀏覽(32)

• 自然語(yǔ)言處理從入門到應(yīng)用——全局向量的詞嵌入：GloVe（Global Vectors for Word Representation）詞向量

  分類目錄：《自然語(yǔ)言處理從入門到應(yīng)用》總目錄 無(wú)論是基于神經(jīng)網(wǎng)絡(luò)語(yǔ)言模型還是word2vec的詞向量預(yù)訓(xùn)練方法，本質(zhì)上都是利用文本中詞與詞在局部上下文中的共現(xiàn)信息作為自監(jiān)督學(xué)習(xí)信號(hào)。除此之外，另一類常用于估計(jì)詞向量的方法是基于矩陣分解的方法，例如潛在語(yǔ)義

  2024年02月09日

  瀏覽(23)
• 

  自然語(yǔ)言處理從入門到應(yīng)用——?jiǎng)討B(tài)詞向量預(yù)訓(xùn)練：雙向語(yǔ)言模型

  分類目錄：《自然語(yǔ)言處理從入門到應(yīng)用》總目錄 對(duì)于給定的一段輸入文本 w 1 w 2 ? w n w_1w_2cdots w_n w 1 ? w 2 ? ? w n ? ，雙向語(yǔ)言模型從前向（從左到右）和后向（從右到左）兩個(gè)方向同時(shí)建立語(yǔ)言模型。這樣做的好處在于，對(duì)于文本中任一時(shí)刻的詞 w t w_t w t ? ，可以

  2024年02月10日

  瀏覽(22)
• 

  【自然語(yǔ)言處理】理解詞向量、CBOW與Skip-Gram模型

  由于計(jì)算機(jī)不能直接對(duì)各種字符進(jìn)行運(yùn)算，為此需要將詞的表示進(jìn)行一些轉(zhuǎn)換。因此，在自然語(yǔ)言處理中，通常需要對(duì)輸入的語(yǔ)料進(jìn)行一些預(yù)處理： 其中，如何對(duì)詞匯進(jìn)行表示是很關(guān)鍵的問(wèn)題，糟糕的表示方法容易導(dǎo)致所謂的 “Garbage in, garbage out”。 對(duì)詞匯的表示，常見(jiàn)的

  2024年02月08日

  瀏覽(18)
• 

  自然語(yǔ)言處理從入門到應(yīng)用——靜態(tài)詞向量預(yù)訓(xùn)練模型：神經(jīng)網(wǎng)絡(luò)語(yǔ)言模型（Neural Network Language Model）

  分類目錄：《自然語(yǔ)言處理從入門到應(yīng)用》總目錄 《自然語(yǔ)言處理從入門到應(yīng)用——自然語(yǔ)言處理的語(yǔ)言模型（Language Model，LM）》中介紹了語(yǔ)言模型的基本概念，以及經(jīng)典的基于離散符號(hào)表示的N元語(yǔ)言模型（N-gram Language Model）。從語(yǔ)言模型的角度來(lái)看，N元語(yǔ)言模型存在明顯

  2024年02月09日

  瀏覽(21)

• 自然語(yǔ)言處理-詞向量技術(shù)

  詞向量（Word Embedding）是一種將單詞表示為實(shí)數(shù)向量的技術(shù)，它在自然語(yǔ)言處理（NLP）和機(jī)器學(xué)習(xí)中得到廣泛應(yīng)用。詞向量的目標(biāo)是捕捉單詞之間的語(yǔ)義關(guān)系，使得語(yǔ)義相似的單詞在向量空間中距離較近。 文本表示在自然語(yǔ)言處理過(guò)程中，是一項(xiàng)極為重要的技術(shù)，文本表示的

  2024年01月22日

  瀏覽(27)
• 

  自然語(yǔ)言處理 Paddle NLP - 詞向量應(yīng)用展示

  基礎(chǔ) 自然語(yǔ)言處理（NLP） 自然語(yǔ)言處理PaddleNLP-詞向量應(yīng)用展示 自然語(yǔ)言處理（NLP）-前預(yù)訓(xùn)練時(shí)代的自監(jiān)督學(xué)習(xí) 自然語(yǔ)言處理PaddleNLP-預(yù)訓(xùn)練語(yǔ)言模型及應(yīng)用 自然語(yǔ)言處理PaddleNLP-文本語(yǔ)義相似度計(jì)算（ERNIE-Gram） 自然語(yǔ)言處理PaddleNLP-詞法分析技術(shù)及其應(yīng)用 自然語(yǔ)言處理Pa

  2024年02月08日

  瀏覽(25)
• 

  自然語(yǔ)言處理從入門到應(yīng)用——?jiǎng)討B(tài)詞向量預(yù)訓(xùn)練：ELMo詞向量

  分類目錄：《自然語(yǔ)言處理從入門到應(yīng)用》總目錄 在雙向語(yǔ)言模型預(yù)訓(xùn)練完成后，模型的編碼部分（包括輸入表示層以及多層堆疊LSTM）便可以用來(lái)計(jì)算任意文本的動(dòng)態(tài)詞向量表示。最自然的做法是使用兩個(gè)LSTM的最后一層隱含層輸出作為詞的動(dòng)態(tài)向量表示。然而，在ELMo模型中

  2024年02月09日

  瀏覽(37)
• 

  自然語(yǔ)言處理(四)：全局向量的詞嵌入（GloVe）

  全局向量的詞嵌入（Global Vectors for Word Representation），通常簡(jiǎn)稱為GloVe，是一種用于將詞語(yǔ)映射到連續(xù)向量空間的詞嵌入方法。它旨在捕捉詞語(yǔ)之間的語(yǔ)義關(guān)系和語(yǔ)法關(guān)系，以便在自然語(yǔ)言處理任務(wù)中能夠更好地表示詞語(yǔ)的語(yǔ)義信息。 GloVe的設(shè)計(jì)基于兩個(gè)觀察結(jié)果：共現(xiàn)矩陣（

  2024年02月11日

  瀏覽(24)

• 自然語(yǔ)言處理從入門到應(yīng)用——LangChain：索引（Indexes）-[向量存儲(chǔ)器（Vectorstores）]

  分類目錄：《大模型從入門到應(yīng)用》總目錄 LangChain系列文章： 基礎(chǔ)知識(shí) 快速入門 安裝與環(huán)境配置 鏈（Chains）、代理（Agent:）和記憶（Memory） 快速開發(fā)聊天模型 模型（Models） 基礎(chǔ)知識(shí) 大型語(yǔ)言模型（LLMs） 基礎(chǔ)知識(shí) LLM的異步API、自定義LLM包裝器、虛假LLM和人類輸入LLM（

  2024年02月12日

  瀏覽(186)