来源：https://zhuanlan.zhihu.com/p/672281354
大语言模型系列是笔者学习过程中的笔记，很多来自网络文档，如有侵权请随时告知。
嵌入（embeding 是一个重要的概念，级将单词（或图像、音频鞥其他类型的数据）转换成连续的向量表示。从而让神经网络可以处理非数字数据，并且能够捕捉到单词之间的关系和含义。
单词嵌入（word embedding）是最常用的文本嵌入方法，将每个单词映射到向量空间中。除此之外还有句子嵌入和文档嵌入。
嵌入主要是用于将高维度的数据转化为低维空间，以便于算法更好的处理和理解数据。通常用于将离散的、高维的特征转化为连续的、低维的向量表示。