当前位置：首页 > news >正文

怎么样建网站百度关键词关键词大全

news 2025/7/27 21:11:09

怎么样建网站,百度关键词关键词大全,WordPress 微信登录免费,营销推广seo【大模型基础_毛玉仁】1.4 语言模型的采样方法 1.4 语言模型的采样方法1.4.1 概率最大化方法1）贪心搜索（GreedySearch）2）波束搜索（BeamSearch） 1.4.2 随机采样方法1）Top-K 采样2）Top…

【大模型基础_毛玉仁】1.4 语言模型的采样方法

- 1.4 语言模型的采样方法
- - 1.4.1 概率最大化方法
  - - 1）贪心搜索（GreedySearch）
    - 2）波束搜索（BeamSearch）
  - 1.4.2 随机采样方法
  - - 1）Top-K 采样
    - 2）Top-P 采样
    - 3）Temperature 机制

1.4 语言模型的采样方法

语言模型的输出为一个向量，该向量的每一维代表着词典中对应词的概率。自回归范式的文本生成任务中：

语言模型解码：将向量解码为文本的过程。
两类主流的解码方法：(1).概率最大化方法; (2). 随机采样方法。

1.4.1 概率最大化方法

设词典D为 ${w_1,w_2,w_3,...,w_N\}$ ，第i轮自回归中输出的向量为 $o_i = \{o_i[w_d]\}_{d=1}^{|D|}$ ，M轮自回归后生成的文本为 ${w_{N+1},w_{N+2},w_{N+3},...,w_{N+M}\}$ 。生成文档的出现的概率计算如下：

$P(w_{N+1:N+M}) = \prod_{i=N}^{N+M-1} P(w_{i+1}|w_{1:i}) = \prod_{i=N}^{N+M-1} o_i[w_{i+1}]$

基于概率最大化的解码方法旨在最大化 $P(w_{N+1:N+M})$ ，本节将介绍两种常用的基于概率最大化的解码方法。

1）贪心搜索（GreedySearch）

贪心搜索在在每轮预测中都选择概率最大的词，即：

$w_{i+1} = \arg max_{w \in D} o_i[w]$

argmax 用于找出使得后面的函数达到最大值的变量。在这里，它用于选择使得 $o_i[w]$ 最大的w。

贪心搜索只顾“眼前利益”，忽略了“远期效益”。当前概率大的词有可能导致后续的词概率都很小。贪心搜索容易陷入局部最优，难以达到全局最优解。

以图1.8为例，当输入为“生成一个以长颈鹿开头的故事：长颈鹿”时，预测第一个词为“是” 的概率最高，为0.3。但选定“是”之后，其他的词的概率都偏低。如果按照贪心搜索的方式，我们最终得到的输出为“是草食”。其概率仅为0.03。而如果我们在第一个词选择了概率第二的“脖子”，然后第二个词选到了“长”，最终的概率可以达到0.1。

通过此例，可以看出贪心搜索在求解概率最大的时候容易陷入局部最优。为缓解此问题，可以采用波束搜索（BeamSearch）方法进行解码。

图1.8: 贪心搜索与波束搜索对比以及概率最大化解码的潜在问题。
在这里插入图片描述

2）波束搜索（BeamSearch）

波束搜索在每轮预测中都先保留b个可能性最高的词 $B_i = \{w_{i+1}^1, w_{i+1}^2, ..., w_{i+1}^b\}$ 。

在结束搜索时，得到M个集合，即 ${B_i\}_{i=1}^M$ 。找出最优组合使得联合概率最大，即：

$\{w_{N+1}, ..., w_{N+M}\} = \arg max_{\{w^i \in B_i \text{ for } 1 \leq i \leq M\}} \prod_{i=1}^M o_{N+i}[w^i]$

以图1.8为例，如果我们采用b=2的波束搜索方法，我们可以得到“是草食”，“是反刍”，“脖子长”，“脖子优雅”四个候选组合，对应的概率分别为：0.03，0.027，0.1，0.04。我们容易选择到概率最高的“脖子长”

但是，概率最大的文本通常是最为常见的文本。文本缺乏多样性。为了提升生成文本的新颖度，我们可以在解码过程中加入一些随机元素。下节将对随机采样方法进行介绍。

1.4.2 随机采样方法

为了增加生成文本的多样性，随机采样的方法在预测时增加了随机性。在每轮预测时，其先选出一组可能性高的候选词，然后按照其概率分布进行随机采样，采样出的词作为本轮的预测结果。

当前，主流的Top-K采样和Top-P采样方法分别通过指定候选词数量和划定候选词概率阈值的方法对候选词进行选择。在采样方法中加入Temperature 机制可以对候选词的概率分布进行调整。

1）Top-K 采样

Top-K采样：每轮预测都选K个概率最高的候选词，然后对这些词的概率用softmax函数进行归一化，得到分布函数：

$p(w_{i+1}^1, \ldots, w_{i+1}^K) = \left\{ \frac{\exp(o_i[w_{i+1}^1])}{\sum_{j=1}^K \exp(o_i[w_{i+1}^j])}, \ldots, \frac{\exp(o_i[w_{i+1}^K])}{\sum_{j=1}^K \exp(o_i[w_{i+1}^j])} \right\}$

$exp(o_i[w_{i+1}^j])$ ：表示模型对候选词 $w_{i+1}^j$ 的评分，通常是通过神经网络计算得到的。

然后根据该分布采样出本轮的预测的结果，即：

$w_{i+1} \sim p(w_{i+1}^1, \ldots, w_{i+1}^K)$

Top-K 采样可以有效的增加生成文本的新颖度。

两大致命缺陷：

当候选词的分布的方差较大时，可能会导致本轮预测选到概率较小、不符合常理的词，从而产生“胡言乱语”。
当候选词的分布的方差较小时，固定尺寸的候选集中无法容纳更多的具有相近概率的词，导致候选集不够丰富，从而导致所选词缺乏新颖性。

相较而言，Top-P（核采样）动态调整候选集大小，既能过滤低概率词避免荒谬输出，又能在分布平缓时纳入更多候选词，平衡合理性与多样性。

2）Top-P 采样

Top-P 采样的核心思想是：在每一步生成下一个词时，只从累积概率超过某个阈值 p 的最小单词集合中进行随机采样，而不考虑其他低概率的单词。

这种方法也被称为核采样（Nucleus Sampling），因为它只关注概率分布的核心部分，而忽略了尾部部分。

其设定阈值p来对候选集进行选取。其候选集可表示为 $S_p = \{w_{i+1}^1, w_{i+1}^2, \ldots, w_{i+1}^{|S_p|}\}$ ，其中，对 $S_p$ 有， $\sum_{w \in S_p} o_i[w] \geq p$ 。候选集中元素的分布服从：

$p(w_{i+1}^1, \ldots, w_{i+1}^{|S_p|}) = \left\{ \frac{\exp(o_i[w_{i+1}^1])}{\sum_{j=1}^{|S_p|} \exp(o_i[w_{i+1}^j])}, \ldots, \frac{\exp(o_i[w_{i+1}^{|S_p|}])}{\sum_{j=1}^{|S_p|} \exp(o_i[w_{i+1}^j])} \right\}$

然后根据该分布采样出本轮的预测的结果，即：

$w_{i+1} \sim p(w_{i+1}^1, \ldots, w_{i+1}^{|S_p|})$

Top-P采样可以避免选到概率较小、不符合常理的词，从而减少“胡言乱语”

其还可以容纳更多的具有相近概率的词，增加文本的丰富度，改善“枯燥无趣”

3）Temperature 机制

Top-K 采样和 Top-P 采样的随机性由语言模型输出的概率决定，不可自由调整。引入Temperature 机制可以对解码随机性进行调节。

Temperature机制通过对Softmax 函数中的自变量进行尺度变换，然后利用Softmax函数的非线性实现对分布的控制。设Temperature 尺度变换的变量为T。

引入Temperature 后，Top-K 采样的候选集的分布如下所示：

$p(w_{i+1}^1, \ldots, w_{i+1}^K) = \left\{ \frac{\exp\left(\frac{o_i[w_{i+1}^1]}{T}\right)}{\sum_{j=1}^K \exp\left(\frac{o_i[w_{i+1}^j]}{T}\right)}, \ldots, \frac{\exp\left(\frac{o_i[w_{i+1}^K]}{T}\right)}{\sum_{j=1}^K \exp\left(\frac{o_i[w_{i+1}^j]}{T}\right)} \right\}$

引入Temperature 后，Top-P 采样的候选集的分布如下所示：

$p(w_{i+1}^1, \ldots, w_{i+1}^{|S_p|}) = \left\{ \frac{\exp\left(\frac{o_i[w_{i+1}^1]}{T}\right)}{\sum_{j=1}^{|S_p|} \exp\left(\frac{o_i[w_{i+1}^j]}{T}\right)}, \ldots, \frac{\exp\left(\frac{o_i[w_{i+1}^{|S_p|}]}{T}\right)}{\sum_{j=1}^{|S_p|} \exp\left(\frac{o_i[w_{i+1}^j]}{T}\right)} \right\}$