用字母做logo的网站,旅游网站的设计方案怎么做,西安市建设网站,杭州h5模板建站作者 | Jane 导读 生成式模型的解码方法主要有2类#xff1a;确定性方法#xff08;如贪心搜索和波束搜索#xff09;和随机方法。确定性方法生成的文本通常会不够自然#xff0c;可能存在重复或过于简单的表达。而随机方法在解码过程中引入了随机性#xff0c;以便生成更…
作者 | Jane 导读 生成式模型的解码方法主要有2类确定性方法如贪心搜索和波束搜索和随机方法。确定性方法生成的文本通常会不够自然可能存在重复或过于简单的表达。而随机方法在解码过程中引入了随机性以便生成更多样化、更自然的文本。两种常见的随机方法是 1、Top-k 采样在每个解码步骤中模型会选择可能性排名在前的前 k 个单词然后从这些单词中随机选择一个作为下一个生成的单词。这样可以增加文本的多样性但仍然保持一定的可控性。 2、核采样Top-p 采样在这种方法中模型会根据累积概率从词汇表中选择下一个单词。累积概率是指按照概率从高到低排列的单词概率之和。这可以减少重复性并且相对于固定的 k 值它可以自适应地选择更少或更多的候选词。 虽然核采样可以生成缓解没有重复的文本但生成文本的语义一致性并不是很好这种语义不一致的问题可以通过降低温度 (temperature) 来部分解决。降低温度是一个可以影响随机性的参数。较高的温度会导致更均匀的分布使得生成的文本更多样化而较低的温度会使分布更集中更接近于确定性。这就引入了一个权衡因为较高的温度可能会导致文本语义不一致而较低的温度可能会失去一些多样性。 在实际应用中要根据任务和期望的文本输出特性来选择合适的解码方法、随机性参数和温度值。不同的方法和参数组合可能适用于不同的情况以平衡生成文本的多样性、准确性和一致性。 全文3646字预计阅读时间10分钟。 01 对比搜索contrastive_search
对比搜索给定前缀文本 x t x_{ t} xt按如下公式输出token x t x_{t} xt: 语言模型输出的概率分布 p θ ( v ∣ x t ) p_{\theta}(v|x_{ t}) pθ(v∣xt)表示下一个可能的token的预测概率上式中 V ( k ) V^{(k)} V(k)表示概率分布中 k 个概率最大的候选token的集合。 第一项即 模型置信度 (model confidence)是语言模型预测的每个候选词元 v 的概率。 第二项 退化惩罚 (degeneration penalty)用于度量候选token v 与上文 x t x{ t} xt中每个token的相似性 v 的向量表征 h v h_{v} hv与其上文 x t x { t} xt中每个token的向量表征计算余弦相似度相似度最大值被用作退化惩罚。直观上理解如果 v 的退化惩罚较大意味着它与上文更相似 (在表示空间中)因此更有可能导致模型退化问题。超参数 α \alpha α用于在这两项中折衷。当时 α 0 \alpha0 α0对比搜索退化为纯贪心搜索。
总结来说对比搜索在生成输出时会同时考虑 语言模型预测的概率以保持生成文本和前缀文本之间的语义连贯性。 与上文的相似性以避免模型退化。
# generate the result with contrastive search
output model.generate(input_ids, penalty_alpha0.6, # 对比搜索中的超参 $\alpha$top_k4, # 对比搜索中的超参 $k$。max_length512)
02 贪心搜索greedy_search**
贪心搜索在每个时间步 都简单地选择概率最高的词作为当前输出词: w t a r g m a x w P ( w ∣ w 1 : t − 1 ) w_t argmax_{w}P(w | w_{1:t-1}) wtargmaxwP(w∣w1:t−1) △贪心搜索
问题 容易输出重复的文本这在语言生成中是一个非常普遍的问题在贪心搜索和波束搜索中似乎更是如此 主要缺点是它错过了隐藏在低概率词后面的高概率词The - dog - has 0.4*0.90.36The - nice - wman 0.5*0.40.20波束搜索可以缓解此类问题
03 波束搜索beam_search
波束搜索整个过程可以总结为: 分叉、排序、剪枝如此往复。波束搜索通过在每个时间步保留最可能的 num_beams 个词并从中最终选择出概率最高的序列来降低丢失潜在的高概率序列的风险。
下图示例 num_beams2 △波束搜索 num_beams2
波束搜索一般都会找到比贪心搜索概率更高的输出序列但仍不保证找到全局最优解。
虽然结果比贪心搜索更流畅但输出中仍然包含重复。一个简单的补救措施是引入 n-grams (即连续 n 个词的词序列) 惩罚最常见的 n-grams 惩罚是确保每个 n-gram 都只出现一次方法是如果看到当前候选词与其上文所组成的 n-gram 已经出现过了就将该候选词的概率设置为 0。通过设置 no_repeat_ngram_size2 来试试这样任意 2-gram 不会出现两次
beam_output model.generate(input_ids, max_length50, num_beams5, no_repeat_ngram_size2, # n-gramsearly_stoppingTrue
)
但是n-gram 惩罚使用时必须谨慎如一篇关于纽约这个城市的文章就不应使用 2-gram 惩罚否则城市名称在整个文本中将只出现一次
波束搜索已被证明依然会存在重复生成的问题。在『故事生成』这样的场景中很难用 n-gram 或其他惩罚来控制因为在“不重复”和最大可重复 n-grams 之间找到一个好的折衷需要大量的微调。正如 Ari Holtzman 等人 (2019) https://arxiv.org/abs/1904.09751) 所论证的那样高质量的人类语言并不遵循最大概率法则。这是因为人类语言具有创造性和惊喜性而不仅仅是简单的预测性。
因此引入随机性和创造性元素是生成更有趣和多样性文本的关键。
04 采样sampling
4.1 采样
使用采样方法时文本生成本身不再是确定性的do_sampleTrue。
# activate sampling and deactivate top_k by setting top_k sampling to 0
sample_output model.generate(input_ids, do_sampleTrue, max_length50, top_k0
)
对单词序列进行采样时的问题模型通常会产生不连贯的乱码缓解这一问题的一个技巧是通过降低 softmax的“温度”使分布 P ( w ∣ w 1 : t − 1 ) P(w|w_{1:t-1}) P(w∣w1:t−1)更陡峭。而降低“温度”本质上是增加高概率单词的似然并降低低概率单词的似然。
sample_output model.generate(input_ids, do_sampleTrue, max_length50, top_k0, temperature0.7
)
虽然温度可以使分布的随机性降低但极限条件下当“温度”设置为 0 时温度缩放采样就退化成贪心解码了因此会遇到与贪心解码相同的问题。
4.2 Top-k 采样
在 Top-K 采样中概率最大的 K 个词会被选出然后这 K 个词的概率会被重新归一化最后就在这重新被归一化概率后的 K 个词中采样。GPT2 采用了这种采样方案这也是它在故事生成这样的任务上取得成功的原因之一。 假设 p0.92Top-p 采样对单词概率进行降序排列并累加然后选择概率和首次超过 p92% 的单词集作为采样池定义为 V top-p V_{\text{top-p}} Vtop-p。在 t1 时 V top-p V_{\text{top-p}} Vtop-p有 9 个词而在 t2 时它只需要选择前 3 个词就超过了 92%。
可以看出在单词比较不可预测时例如更平坦的左图它保留了更多的候选词如 P ( w ∣ “The” ) P(w | \text{“The”}) P(w∣“The”)而当单词似乎更容易预测时例如更尖锐的右图只保留了几个候选词如 P ( w ∣ “The” , “car” ) P(w | \text{“The”}, \text{“car”}) P(w∣“The”,“car”)。
# deactivate top_k sampling and sample only from 92% most likely words
sample_output model.generate(input_ids, do_sampleTrue, max_length50, top_p0.92, top_k0
)
虽然从理论上讲 Top-p 似乎比 Top-K 更优雅但这两种方法在实践中都很有效。Top-p 也可以与 Top-K 结合使用这样可以避免排名非常低的词同时允许进行一些动态选择。如果 k 和 p 都启用则 p 在 k 之后起作用。
# 配置 top_k 50 、 top_p 0.95 、 num_return_sequences 3
sample_outputs model.generate(input_ids,do_sampleTrue, max_length50, top_k50, top_p0.95, num_return_sequences3
)
——END——
参考资料
[1]一种简单有效的解码策略Contrastive Search
[2]HF如何生成文本: 通过 Transformers 用不同的解码方法生成文本
[3]https://docs.cohere.ai/docs/controlling-generation-with-top-k-top-p
[4]https://docs.cohere.ai/docs/temperature
推荐阅读
百度工程师浅析强化学习
浅谈统一权限管理服务的设计与开发
百度APP iOS端包体积50M优化实践(五) HEIC图片和无用类优化实践
百度知道上云与架构演进
百度APP iOS端包体积50M优化实践(四)代码优化
百度App启动性能优化实践篇
